SQL Server 2016數據庫快照代理過程詳解
本文我們通過SQL Server 2016一個實例數據表,給大家詳細分析了快照代理過程遇到的問題和解決辦法,并對快照生成過程做了詳細說明,以下是全部內容:...
本文我們通過SQL Server 2016一個實例數據表,給大家詳細分析了快照代理過程遇到的問題和解決辦法,并對快照生成過程做了詳細說明,以下是全部內容:
概述
快照代理準備已發布表的架構和初始數據文件以及其他對象、存儲快照文件并記錄分發數據庫中的同步信息。 快照代理在分發服務器上運行;SQLServer2016版本對快照代理做了一些比較好的優化,接下來詳細了解一下快照的執行過程。
一、快照代理文件
在執行快照作業是會在指定的快照目錄生成4種類型的文件。
BCP文件:發布對象的數據文件。
IDX文件:索引創建腳本文件
PRE文件:復制快照腳本文件。
SCH文件:架構創建腳本文件
二、默認快照代理配置文件
-BcpBachSize:每一次執行bcp操作copy的最大記錄行數,默認是10萬行。
-HistoryVerboseLevel:指定在快照操作過程中記錄的歷史記錄大小。
-LoginTimeout:登錄超時前等待的秒數。 默認值為 15 秒。
-QueryTimeOut:查詢超時前等待的秒數。默認值為 1800 秒
備注:通過右鍵快照代理-快照代理配置文件;可以配置快照代理。
三、對比不同版本快照代理
接下來測試對比2億的記錄表生成快照
1.bcp文件數量對比
2008R2
2016SP1
這里重點說一下BCP文件,因為應用快照到訂閱服務器是以BCP文件為基本單位,也就是說不管你的BCP文件有多大都是一次性bulk到訂閱服務器,所以BCP文件越大每次應用的時間就會越長。如果一個BCP文件太大可能會導致插入到訂閱端失敗。
從上圖可以看到同樣是2億的記錄,2008R2總共有8個BCP文件,而且最大的BCP文件大小將近1G其它的都才幾兆;2016有16個BCP文件,并且前15個都是50M左右數據比較均勻。接下來看下圖的每個BCP文件的記錄對比。
2.快照生成詳細過程對比
2008r2
2016SP1
從生成的BCP文件記錄對比來看:
2008R2:前7個文件每個文件記錄數大概70萬左右,最后一個文件記錄1.1億。
2016:前15個文件每個文件記錄700萬左右,最后一個文件78萬。
說明:
2008R2前7個文件每個文件大概存儲的記錄量是70萬剩下的記錄都會存儲到最后一個文件,所以2008R2比較適合的表記錄數是600萬左右。
2016前15個文件每個文件大概存儲的記錄量是700萬剩下的記錄都會存儲到最后一個文件,2016適合的表記錄數1.2億左右。
共同缺點:表記錄超過“適合的復制表記錄數”后剩下數據會全部存儲到最后個bcp文件中。
3.分發對比
接下來看一下分發的詳細過程
從2008R2分發記錄過程中可以看到每次BULK都是以bcp文件為單位,復制最后一個bcp文件花費了大概22分鐘,而前面的每個文件都是十幾秒;還是由于我當前的表只有三個字段而且除了主鍵沒有索引否則的時間就更長了。
四、快照生成過程
復制快照代理是一個可執行文件,用于準備快照文件(其中包含已發布表和數據庫對象的架構及數據),然后將這些文件存儲在快照文件夾中,并在分發數據庫中記錄同步作業。
從上圖可以了解整個快照的生成過程。
五、語法
snapshot [ -?]
-Publisher server_name[\instance_name]
-Publication publication_name
[-70Subscribers]
[-BcpBatchSize bcp_batch_size]
[-DefinitionFile def_path_and_file_name]
[-Distributor server_name[\instance_name]]
[-DistributorDeadlockPriority [-1|0|1] ]
[-DistributorLogin distributor_login]
[-DistributorPassword distributor_password]
[-DistributorSecurityMode [0|1] ]
[-DynamicFilterHostName dynamic_filter_host_name]
[-DynamicFilterLogin dynamic_filter_login]
[-DynamicSnapshotLocation dynamic_snapshot_location]
[-EncryptionLevel [0|1|2]]
[-FieldDelimiter field_delimiter]
[-HistoryVerboseLevel [0|1|2|3] ]
[-HRBcpBlocks number_of_blocks ]
[-HRBcpBlockSize block_size ]
[-HRBcpDynamicBlocks ]
[-KeepAliveMessageInterval keep_alive_interval]
[-LoginTimeOut login_time_out_seconds]
[-MaxBcpThreads number_of_threads ]
[-MaxNetworkOptimization [0|1]]
[-Output output_path_and_file_name]
[-OutputVerboseLevel [0|1|2] ]
[-PacketSize packet_size]
[-ProfileName profile_name]
[-PublisherDB publisher_database]
[-PublisherDeadlockPriority [-1|0|1] ]
[-PublisherFailoverPartner server_name[\instance_name] ]
[-PublisherLogin publisher_login]
[-PublisherPassword publisher_password]
[-PublisherSecurityMode [0|1] ]
[-QueryTimeOut query_time_out_seconds]
[-ReplicationType [1|2] ]
[-RowDelimiter row_delimiter]
[-StartQueueTimeout start_queue_timeout_seconds]
[-UsePerArticleContentsView use_per_article_contents_view]
參數
-?
輸出所有可用的參數。
-Publisherserver_name[\instance_name]
發布服務器的名稱。為該服務器上的MicrosoftSQL Server默認實例指定 server_name。為該服務器上的server_name\instance_nameinstance_nameSQL Server默認實例指定 server_name。
-Publication發布
發布的名稱。只有將發布設置為總是使快照可用于新訂閱或重新初始化的訂閱時,此參數才有效。
-70Subscribers
如果有任何訂閱服務器在運行SQL Server7.0 版,則必須使用此參數。
-BcpBatchSizebcpbatch\size
在一次大容量復制操作中發送的行數。執行bcp in操作時,批的大小為要作為一個事務發送到服務器的行數,并且也是分發代理記錄bcp進度消息之前必須發送的行數。當執行bcp out操作時,將使用固定批大小 1000。值為 0 表示不記錄任何消息。
-DefinitionFiledef_path_and_file_name
代理定義文件的路徑。代理定義文件中包含該代理的命令行參數。文件的內容被當作可執行文件進行分析。使用雙引號 (") 指定包含任意字符的參數值。
-Distributorserver_name[\instance_name]
分發服務器名稱。為該服務器上的默認實例指定server_nameSQL Server。為該服務器上的server_name\instance_nameinstance_nameSQL Server默認實例指定 server_name。
-DistributorDeadlockPriority[-1|0|1]
死鎖發生時快照代理連接到分發服務器的優先級。指定此參數是為了解決快照生成期間在快照代理和用戶應用程序之間發生的死鎖問題。
DistributorDeadlockPriority 值
說明
-1
在分發服務器上發生死鎖時,應用程序而非快照代理優先。
0(默認值)
未分配優先級。
1
在分發服務器上發生死鎖時,快照代理優先。
-DistributorLogindistributor_login
使用SQL Server身份驗證連接到分發服務器時所用的登錄名。
-DistributorPassworddistributor_password
使用SQL Server身份驗證連接到分發服務器時使用的密碼。。
-DistributorSecurityMode[0|1]
指定分發服務器的安全模式。值0指示SQL Server身份驗證模式(默認設置),值1指示 Windows 身份驗證模式。
-DynamicFilterHostNamedynamic_filter_host_name
在創建動態快照時,用來為篩選中的HOST_NAME (Transact-SQL)設置值。例如,如果為項目指定了子集篩選器子句rep_id = HOST_NAME(),并且在調用合并代理之前將DynamicFilterHostName屬性設置為“FBJones”,則只會復制rep_id列中具有“FBJones”的行。
-DynamicFilterLogindynamic_filter_login
在創建動態快照時,用來為篩選中的SUSER_SNAME (Transact-SQL)設置值。例如,如果為項目指定了子集篩選器子句user_id = SUSER_SNAME(),并且在調用SQLSnapshot對象的Run方法之前將DynamicFilterLogin屬性設置為“rsmith”,則只將user_id列中具有“rsmith”的行包括在快照中。
-DynamicSnapshotLocationdynamic_snapshot_location
應生成動態快照的位置。
-EncryptionLevel[0|1|2]
建立連接時快照代理使用的安全套接字層 (SSL) 加密的等級。
EncryptionLevel 值
說明
0
指定不使用 SSL。
1
指定使用 SSL,但是代理不驗證 SSL 服務器證書是否已由可信的頒發者進行簽名。
2
指定使用 SSL,并驗證證書。
-FieldDelimiterfield_delimiter
在SQL Server大容量復制數據文件中用于標記字段末尾的字符或字符序列。默認值為 \n
-HistoryVerboseLevel[1|2|3]
指定在快照操作過程中記錄的歷史記錄大小。選擇1可將歷史日志記錄對性能的影響減至最小。
HistoryVerboseLevel 值
說明
0
進度消息將寫入控制臺或輸出文件。不在分發數據庫中記錄歷史記錄。
1
總是更新具有相同狀態(啟動、進行中、成功等)的上一歷史記錄消息。如果不存在狀態相同的上一記錄,將插入新記錄。
2(默認值)
除非記錄為空閑消息或長時間運行的作業消息等信息(此時將更新上一記錄),否則插入新的歷史記錄。
3
始終插入新記錄,除非它與空閑消息有關。
-HRBcpBlocksnumber_of_blocks
在編寫器線程和讀取器線程之間排隊的bcp數據塊的數量。默認值為 50。HRBcpBlocks僅用于 Oracle 發布。
備注
此參數用于通過 Oracle 發布服務器優化bcp的性能。
-HRBcpBlockSizeblock_size
每個bcp數據塊的大小(以 KB 為單位)。默認值為 64 KB。HRBcpBlocks僅用于 Oracle 發布。
備注
此參數用于通過 Oracle 發布服務器優化bcp的性能。
-HRBcpDynamicBlocks
每個bcp數據塊的大小是否可以動態增長。HRBcpBlocks僅用于 Oracle 發布。
備注
此參數用于通過 Oracle 發布服務器優化bcp的性能。
-KeepAliveMessageIntervalkeep_alive_interval
快照代理在向MSsnapshot_history表中記錄“waiting for backend message”之前等待的時間(以秒為單位)。默認值為 300 秒。
-LoginTimeOutlogin_time_out_seconds
登錄超時前等待的秒數。 默認值為 15 秒。
-MaxBcpThreadsnumber_of_threads
指定可以并行執行的大容量復制操作的數量。同時存在的線程和 ODBC 連接的最大數量為MaxBcpThreads或顯示在分發數據庫中同步事務中的大容量復制請求數中較小的那一個。MaxBcpThreads的值必須大于0,并且不存在任何硬編碼的上限。默認值為1。
-MaxNetworkOptimization[0|1]
是否將無關刪除操作發送到訂閱服務器。無關刪除操作是針對不屬于訂閱服務器分區的行發送到訂閱服務器的 DELETE 命令。無關刪除操作不會影響數據的完整性或收斂,但它們會導致不必要的網絡通信。MaxNetworkOptimization的默認值是0。將MaxNetworkOptimization設置為1可將不相關的刪除操作發生的機會減至最小,從而減少網絡通信,并最大程度地優化網絡。如果存在多個級別的聯接篩選器和復雜子集篩選器,則將此參數設置為1還會增加元數據的存儲并導致發布服務器性能下降。您應仔細評估您的復制拓撲,僅當無關刪除操作導致的網絡通信高到無法接受時才應將MaxNetworkOptimization設置為1。
備注
僅當合并發布的同步優化選項(sp_addmergepublication (Transact-SQL)的@keep_partition_changes參數)設置為true時,將此參數設置為1才是有用的。
-Outputoutput_path_and_file_name
代理輸出文件的路徑。如果未提供文件名,則向控制臺發送該輸出。如果指定的文件名已存在,會將輸出追加到該文件。
-OutputVerboseLevel[0|1|2]
指定輸出是否應提供詳細內容。
OutputVerboseLevel 值
說明
0
僅輸出錯誤消息。
1(默認值)
輸出所有進度報告消息(默認值)。
2
輸出所有錯誤消息和進度報告消息,這對于調試很有用。
-PacketSizepacket_size
快照代理連接到SQL Server時使用的數據包大小(以字節為單位)。默認值為 8192 字節。
備注
除非您確信能夠提高性能,否則不要更改數據包的大小。對于大多數應用程序而言,默認數據包大小為最佳數值。
-ProfileNameprofile_name
指定用于代理參數的代理配置文件。如果ProfileName為 NULL,則將禁用代理配置文件。如果未指定ProfileName,則使用該代理類型的默認配置文件。
-PublisherDBpublisher_database
發布數據庫的名稱。Oracle 發布服務器不支持該參數。
-PublisherDeadlockPriority[-1|0|1]
死鎖發生時快照代理連接到發布服務器的優先級。指定此參數是為了解決快照生成期間在快照代理和用戶應用程序之間發生的死鎖問題。
PublisherDeadlockPriority 值
說明
-1
在發布服務器上發生死鎖時,應用程序而非快照代理優先。
0(默認值)
未分配優先級。
1
在發布服務器上發生死鎖時,快照代理優先。
-PublisherFailoverPartnerserver_name[\instance_name]
指定參加與發布數據庫進行的數據庫鏡像會話的SQL Server故障轉移伙伴實例。
-PublisherLoginpublisher_login
使用SQL Server身份驗證連接到發布服務器時所用的登錄名。
-PublisherPasswordpublisher_password
使用SQL Server身份驗證連接到發布服務器時使用的密碼。。
-PublisherSecurityMode[0|1]
指定發布服務器的安全模式。值0指示SQL Server身份驗證(默認值),值1指示 Windows 身份驗證模式。
-QueryTimeOutquery_time_out_seconds
查詢超時前等待的秒數。默認值為 1800 秒。
-ReplicationType[1|2]
指定復制的類型。值1指示事務復制,值2指示合并復制。
-RowDelimiterrow_delimiter
在SQL Server大容量復制數據文件中用于標記行尾的字符或字符序列。默認值為 \n<,@g>\n。
-StartQueueTimeoutstart_queue_timeout_seconds
當運行的并發動態快照進程數達到由sp_addmergepublication (Transact-SQL)的@max_concurrent_dynamic_snapshots屬性設置的限制值時,快照代理等待的最大秒數。如果在經過最大秒數之后快照代理仍在等待,快照代理將退出。值 0 表示代理將無限期地等待,盡管可以將其取消。
-UsePerArticleContentsViewuse_per_article_contents_view
已不推薦使用此參數,支持它是為了能夠向后兼容。
總結
由于在生成快照需要擁有對象的架構鎖,所以在生成快照的過程中表對象是只讀的。如果對大表生成快照千萬不要選擇在業務繁忙的時候否則有可能造成系統癱瘓,2016生成快照的時間比2008要快很多。通過對比可以發現2016的復制生成快照比2008性能提升了很多。但是從2014到2016BCP文件從32個變成16個不知道是出于什么原因。
原文鏈接:http://www.cnblogs.com/chenmh/p/7895991.html
SQL Server 全文搜索功能、全文索引方式介紹
SQL Server 的全文搜索(Full-Text Search)是基于分詞的文本檢索功能,依賴于全文索引。全文索引不同于傳統的平衡樹(B-Tree)索引和列存儲索引,它是由數據表構成的,稱作倒轉索引(Invert Index),存儲分詞和行的唯一鍵的映射關系。...
關于SQL Serve數據庫r帳號被禁用的處理方法
若發現SQL Serve所有帳號不小心被禁用了,這個時候怎么辦?用重裝嗎?不用,仔細看小白是怎么一步一步解開這個謎題的。首先需要Windows帳號設置里重新添加一個新帳號。并將其添加到...
SQL數據庫查詢優化技巧提升網站訪問速度的方法
在這篇文章中,我將介紹如何識別導致性能出現問題的查詢,如何找出它們的問題所在,以及快速修復這些問題和其他加快查詢速度的方法?! ∧阋欢ㄖ?,一個快速訪問的網站能讓用...
SQL數據庫開發中的SSIS 延遲驗證方法
驗證是一個事件,該事件在Package執行時,第一個被觸發,驗證能夠避免SSIS引擎執行一個有異常的Package或Task。延遲驗證(DelayValidation)是把驗證操作延遲到Package真正運行(run-ti...
SQL Server數據庫建立新用戶及關聯數據庫的方法教程
本文講的是SQLserver數據庫創建新用戶方法以及賦予此用戶特定權限的方法,非常的簡單實用,有需要的小伙伴可以參考下...
Oracle數據庫多條sql執行語句出現錯誤時的控制方式
多條sql執行時如果在中間的語句出現錯誤,后續會不會直接執行,如何進行設定,以及其他數據庫諸如Mysql是如何對應的,這篇文章將會進行簡單的整理和說明。環境準備使用Oracle的精簡...
Oracle數據庫基礎:程序中調用sqlplus的方式
通過sqlplus可以連接數據庫根據用戶權限進行數據或者設定操作,但是需要交互操作并返回結果,這篇文章介紹一下如何在程序中使用sqlplus。環境準備使用Oracle的精簡版創建docker...
oracle數據庫通過sqlplus連接的幾種方式介紹
分享一篇關于Oracle通過sqlplus連接數據庫的方式,小編覺得內容挺不錯的,現在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧...
oracle數據庫常用分析函數與聚合函數的用法
今天小編就為大家分享一篇關于oracle數據庫常用分析函數與聚合函數的用法,小編覺得內容挺不錯的,現在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧。應之前的...
oracle數據庫連續相同數據的統計方法
今天小編就為大家分享一篇關于Oracle連續相同數據的統計,內容挺不錯的,現在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧。今天復習一下之前用到的連續相同數...