MongoDB 数据快速写入问题
来源:互联网 发布:淘宝衣服修图教程 编辑:程序博客网 时间:2024/06/13 23:07
在进行MongoDB大数据量写入的情况下,Mongo同步出现过很多问题。简单记录一下:
同步数据过慢:可参考https://yq.aliyun.com/articles/47336
同步数据异常导致占用连接池资源:
sharded connection to xxx not being returned to the pool
SHARDING [conn32380] could not autosplit collection omm_spc.vcm_lpr_info5 :: caused by :: 9996 stale config in runCommand xxx
写入数据时应用暂停且无法写入数据。怀疑是Mongos未释放连接池资源。重启mongos解决。
占用过多内存:
MongoDB最好独立部署,因为MongoDB默认会使用系统所有剩余内存,且无法管理MongoDB占用多大内存,一种方法可以通过cgroup限制用户进程内存。我们的环境上是通过限制wiredTigerCache大小,从而一定程度上减少Mongo缓存使用,但是这样做会导致频繁fsync从而影响写入速度,因为fsync会阻塞所有写入操作。如和JVM应用一起部署,可能会出现和JVM堆内存抢占内存的问题从而导致OOM。
阅读全文
0 0
- MongoDB 数据快速写入问题
- 写入数据问题?
- MongoDB:将Json数据直接写入MongoDB的方法
- mongodb数据迁移,快速方法
- sqlite 数据重复写入问题
- python数据写入csv问题
- 【python 数据库写入】python把数据框数据写入mongodb、mysql
- MongoDB数据丢失(即无法写入)的原因
- kettle 从hive中读取数据并写入MongoDB
- mongodb快速入门之-----------------------------数据导入mongoimport
- 中文数据写入MySql乱码问题
- android sdcard 写入数据权限的问题
- 数据库重复写入数据问题处理
- 数组数据循环写入数据库的问题
- .net SQLite批量写入数据性能问题
- 快速写入Excel(将数据转换为数据流)
- Postgresql快速写入\/读取大量数据(.net)
- Postgresql快速写入/读取大量数据(.net)
- Linux新建用户误删除进入时su: warning: cannot change directory to /home/xx: No such file or director
- Java性能调优的11个实用技巧
- NLP09-Gensim源码简析[TfidfModel]
- 类加载的时机
- codeforces 844A Diversity
- MongoDB 数据快速写入问题
- 构造代码块
- 教你如何分辨用户是用手机还是电脑访问你的网站
- caioj·1069: 动态规划入门(二维一边推2:顺序对齐)
- java文件编译运行----‘’足球论之java文件运行编译先编译‘’
- windows应用程序单实例
- 机器学习基石-05-4-Break Point
- KMP 算法实现
- 自动化测试在测试部门的策略