MongoDB compact 操作介绍-碎片整理
1、为什么需要 compact操作?
(1)碎片的产生
1、db.collection.insert() 不断插入数据,扩展新的block,文件大小不断增大
2、db.collection.remove() 从集合中删除部分数据,很多block变成free,但物理空间并没有回收
3、db.runCommand({compact:"collection"}) 对集合执行compact,可以立即整理free的碎片空间
(2)compact操作对读写的影响
compact 一个集合,会加集合所在DB的互斥写锁,会导致该DB上所有的读写请求都阻塞;因为 compact 执行的时间可能很长,跟集合的数据量相关,所以强烈建议在业务低峰期执行,避免影响业务。
2、remove与drop的区别
MongoDB 里删除一个集合里所有文档,有两种方式:
(1)db.collection.remove({}, {multi: true}),逐个文档从 btree 里删除,最后所有文档被删除,但文件物理空间不会被回收
(2)db.collection.drop() 删除集合的物理文件,空间立即被回收
总的来说,remove 会产生逻辑的空闲空间,这些空间能立即用于写入新数据,但文件占用的总物理空间不会立即回收;通常只要持续在写入数据,有物理空间碎片问题并不大,不需要去 compact 集合,有的场景,remove 了大量的数据后,后续的写入可能并不多,这时如果想回收空间,就需要显式的调用 compact。
3、compact具体做了什么?
Compact 动作最终由存储引擎 WiredTiger 完成,WiredTiger 在执行 compact 时,会不断将集合文件后面的数据往前面空闲的空间写,然后逐步 truancate 文件回收物理空间。每一轮 compact 前,WT 都会先检查是否符合 comapact 条件。
(1)前面80%的空间里,是否有20%的空闲空间,用于写入文件后面20%的数据
(2)或者前面90%的空间里,是否有10%的空闲空间,用于写入文件后面10%的数据
如果上面都不满足,说明执行compact肯定无法回收10%的物理空间,此时 compact 就回退出。所以有时候遇到对一个大集合进行 compact,compact立马就返回ok,集合的物理空间也没有变化,就是因为 WiredTiger 认为这个集合没有 compact 的必要。
5、预估文档执行compact后能回收多少空间?
The amount of empty space available for reuse by WiredTiger is reflected in the output of db.collection.stats() under the heading wiredTiger.block-manager.file bytes available for reuse.
> use ucloud # 批量插入数据 > for (var i = 1; i <= 1000000; i++) { db.starcto.insert( { x : i , name: "A", name1:"B", name2:"C", name3:"D"} ) } > db.starcto.count() 1000000 # 删除文档中记录 > for (var i = 1; i <= 500000; i++) { db.starcto.remove( { "name": "A"} ) } # 查看 starcto文档 当前可以回收空间 > db.starcto.stats().wiredTiger["block-manager"]["file bytes available for reuse"] 26173440
6、执行compact操作
# 清理单点MongoDB节点碎片 > use db1 > db.runCommand({compact: "collection1"}) # 在副本集primary上执行需要加 force 选项 > use ucloud > db.runCommand({compact: "starcto", force: true}) { "ok" : 1 } # 查看空间释放情况(26173440 —> 4096) > db.starcto.stats().wiredTiger["block-manager"]["file bytes available for reuse"] 4096
作者:UStarGao
链接:https://www.starcto.com/mongodb/244.html
来源:MongoDB中文社区、db.runCommand()、MongoDB官网、
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
UCloud云平台推荐
随便看看
- 2022-05-15Nginx安全控制-Basic认证与IP黑/白名单
- 2021-05-16MongoDB 用户权限管理
- 2024-11-19ubuntu容器化部署ffmpeg通过GPU硬件加速处理视频流
- 2022-03-22Redis数据备份与恢复以及迁移解决方案
- 2021-01-26K8S核心概念