麻豆小视频在线观看_中文黄色一级片_久久久成人精品_成片免费观看视频大全_午夜精品久久久久久久99热浪潮_成人一区二区三区四区

首頁 > 數據庫 > MySQL > 正文

MySQL問答系列之如何避免ibdata1文件大小暴漲

2024-07-25 19:08:57
字體:
來源:轉載
供稿:網友

0、導讀

ibdata1文件是什么?

ibdata1是一個用來構建innodb系統表空間的文件,這個文件包含了innodb表的元數據、撤銷記錄、修改buffer和雙寫buffer。如果file-per-table選項打開的話,該文件則不一定包含所有表的數據。當innodb_file_per_table選項打開的話,新創建表的數據和索引則不會存在系統表空間中,而是存放在各自表的.ibd文件中.

顯然這個文件會越來越大,innodb_autoextend_increment選項則指定了該文件每次自動增長的步進,默認是8M.

是什么原因導致ibdata1文件會越來越大?

ibdata1存放數據,索引和緩存等,是MYSQL的最主要的數據。所以隨著數據庫越來越大,表也會越大,這個無法避免的。如果時間長了,越來越大,我們在處理日志和空間的時候就不是那么方便了,就不知從何入手了。接下來我們就要處理下這樣的情況,分庫存儲數據。

遇到InnoDB的共享表空間文件ibdata1文件大小暴增時,應該如何處理?

1、問題背景

用MySQL/InnoDB的童鞋可能也會有過煩惱,不知道為什么原因,ibdata1文件莫名其妙的增大,不知道該如何讓它縮回去,就跟30歲之后男人的肚腩一樣,汗啊,可喜可賀的是我的肚腩還沒長出來,hoho~

正式開始之前,我們要先知道ibdata1文件是干什么用的。

ibdata1文件是InnoDB存儲引擎的共享表空間文件,該文件中主要存儲著下面這些數據:

  • data dictionary
  • double write buffer
  • insert buffer/change buffer
  • rollback segments
  • undo space
  • Foreign key constraint system tables

另外,當選項 innodb_file_per_table = 0 時,在ibdata1文件中還需要存儲 InnoDB 表數據&索引。ibdata1文件從5.6.7版本開始,默認大小是12MB,而在這之前默認大小是10MB,其相關選項是 innodb_data_file_path,比如我一般是這么設置的:

innodb_data_file_path = ibdata1:1G:autoextend

當然了,無論是否啟用了 innodb_file_per_table = 1,ibdata1文件都必須存在,因為它必須存儲上述 InnoDB 引擎所依賴&必須的數據,尤其是上面加粗標識的 rollback segments 和 undo space,它倆是引起 ibdata1 文件大小增加的最大原因,我們下面會詳細說。

2、原因分析

我們知道,InnoDB是支持MVCC的,它和ORACLE類似,采用 undo log、redo log來實現MVCC特性的。在事務中對一行數據進行修改時,InnoDB 會把這行數據的舊版本數據存儲一份在undo log中,如果這時候有另一個事務又要修改這行數據,就又會把該事物最新可見的數據版本存儲一份在undo log中,以此類推,如果該數據當前有N個事務要對其進行修改,就需要存儲N份歷史版本(和ORACLE略有不同的是,InnoDB的undo log不完全是物理block,主要是邏輯日志,這個可以查看 InnoDB 源碼或其他相關資料)。這些 undo log 需要等待該事務結束后,并再次根據事務隔離級別所決定的對其他事務而言的可見性進行判斷,確認是否可以將這些 undo log 刪除掉,這個工作稱為 purge(purge 工作不僅僅是刪除過期不用的 undo log,還有其他,以后有機會再說)。

那么問題來了,如果當前有個事務中需要讀取到大量數據的歷史版本,而該事務因為某些原因無法今早提交或回滾,而該事務發起之后又有大量事務需要對這些數據進行修改,這些新事務產生的 undo log 就一直無法被刪除掉,形成了堆積,這就是導致 ibdata1 文件大小增大最主要的原因之一。這種情況最經典的場景就是大量數據備份,因此我們建議把備份工作放在專用的 slave server 上,不要放在 master server 上。

另一種情況是,InnoDB的 purge 工作因為本次 file i/o 性能是在太差或其他的原因,一直無法及時把可以刪除的 undo log 進行purge 從而形成堆積,這是導致 ibdata1 文件大小增大另一個最主要的原因。這種場景發生在服務器硬件配置比較弱,沒有及時跟上業務發展而升級的情況。

比較少見的一種是在早期運行在32位系統的MySQL版本中存在bug,當發現待 purge 的 undo log 總量超過某個值時,purge 線程直接放棄抵抗,再也不進行 purge 了,這個問題在我們早期使用32位MySQL 5.0版本時遇到的比較多,我們曾經遇到這個文件漲到100多G的情況。后來我們費了很大功夫把這些實例都遷移到64位系統下,終于解決了這個問題。

最后一個是,選項 innodb_data_file_path 值一開始就沒調整或者設置很小,這就必不可免導致 ibdata1 文件增大了。Percona官方提供的 my.cnf 參考文件中也一直沒把這個值加大,讓我百思不得其解,難道是為了像那個經常被我吐槽的xx那樣,故意留個暗門,好方便后續幫客戶進行優化嗎?(我心理太陰暗了,不好不好~~)

稍微總結下,導致ibdata1文件大小暴漲的原因有下面幾個:

  • 有大量并發事務,產生大量的undo log;
  • 有舊事務長時間未提交,產生大量舊undo log;
  • file i/o性能差,purge進度慢;
  • 初始化設置太小不夠用;
  • 32-bit系統下有bug。

稍微題外話補充下,另一個熱門數據庫 PostgreSQL 的做法是把各個歷史版本的數據 和 原數據表空間 存儲在一起,所以不存在本案例的問題,也因此 PostgreSQL 的事務回滾會非常快,并且還需要定期做 vaccum 工作(具體可參見PostgreSQL的MVCC實現機制,我可能說的不是完全正確哈)

3、解決方法建議

看到上面的這些問題原因描述,有些同學可能覺得這個好辦啊,對 ibdata1 文件大小進行收縮,回收表空間不就結了嗎。悲劇的是,截止目前,InnoDB 還沒有辦法對 ibdata1 文件表空間進行回收/收縮,一旦 ibdata1 文件的肚子被搞大了,只能把數據先備份后恢復再次重新初始化實例才能恢復原先的大小,或者把依次把各個獨立表空間文件備份恢復到一個新實例中,除此外,沒什么更好的辦法了。

當然了,這個問題也并不是不能防范,根據上面提到的原因,相應的建議對策是:

  • 升級到5.6及以上(64-bit),采用獨立undo表空間,5.6版本開始就支持獨立的undo表空間了,再也不用擔心會把 ibdata1 文件搞大;
  • 初始化設置時,把 ibdata1 文件至少設置為1GB以上;
  • 增加purge線程數,比如設置 innodb_purge_threads = 8
  • 提高file i/o能力,該上SSD的趕緊上;
  • 事務及時提交,不要積壓;
  • 默認打開autocommit = 1,避免忘了某個事務長時間未提交;
  • 檢查開發框架,確認是否設置了 autocommit=0,記得在事務結束后都有顯式提交或回滾。

總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,如果有疑問大家可以留言交流,謝謝大家對VeVb武林網的支持。


注:相關教程知識閱讀請移步到MYSQL教程頻道。
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 国产精品久久久久久久久久 | 久久国产精品影视 | 免费性爱视频 | 免费网站看毛片 | 欧美成人一级 | av噜噜在线 | 国产一级免费不卡 | 羞羞视频免费网站 | 91在线色视频 | jizzjizz中国人少妇中文 | 精品一区二区三区免费视频 | 精品一区二区三区毛片 | 中韩毛片| 国产噜噜噜噜久久久久久久久 | 国产成人精品免费视频大全办公室 | 毛片观看网址 | 一区二区三区在线观看av | 免费中文视频 | 成人 精品 | 亚洲特黄a级毛片在线播放 久久久入口 | 少妇的肉体k8经典 | 亚洲av一级毛片特黄大片 | 免费毛片a线观看 | 久草在线手机视频 | 久久人人爽人人爽人人片av高请 | 久久国产精品系列 | 少妇的肉体2无删减版 | 九九视屏 | 久草在线视频网 | 久草在线手机观看 | 成人富二代短视频 | 日本成人一二三区 | 午夜视频大全 | 亚洲成人免费电影 | 4p嗯啊巨肉寝室调教男男视频 | 久草干 | 国产精品无码久久久久 | 日本教室三级在线看 | 婷婷久久影院 | 久久久精品视频免费看 | 日本欧美一区二区三区在线观看 |