这么小改一下,PHP json_decode内存节省70%
来源:互联网 发布:数据库创建表指令 编辑:程序博客网 时间:2024/05/21 22:56
如果你用PHP的json_decode函数解析JSON串,而且JSON串中包含一个大量元素的数组,那你就要小心解析过程中PHP超出内存上限了。
笔者在开发时遇到一个JSON文件需要解析,该JSON中包含了一个由众多MAC地址组成的数组,像这样:
{ "name": "MAC File", "date": "2017-11-08", "macList": [ "11-11-11-11-11-11", "22-22-22-22-22-22", ... ]}
结果json_decode过程中超出了PHP默认的128M内存上限。
WHAT,超限了?!这个JSON文件才 10M 啊!
在大骂“这函数是不是有BUG”之后,仔细推敲下,发现问题出在MAC地址构成的数组上。要知道PHP的数组是很吃内存的。
PHP数组究竟多吃内存,可以做个简单的试验,向数组内放入50万个MAC地址,打印内存占用量:
$a = [];for ($i = 0; $i !== 500000; $i++) { $a[] = '11-11-11-11-11-11';}echo memory_get_usage() . PHP_EOL;
如果把这些MAC地址写在一个文件里,理论上只占 9.6M 磁盘空间,但是PHP数组维护相同的信息,却占了 72.4M 内存 。
有办法解决json_deocde时的内存超限吗?当然,简单粗暴点的话就把内存上限调高:
ini_set('memory_limit','1024M');
虽然可行,但会引发一个问题,就是:
可能被其他语言的工程师嘲笑PHP占内存。
那有没有更明智的办法解决内存超限问题?
有。因为PHP数组占用内存很大,所以我们要避免json_decode在解码时产生巨大数组。怎么做呢?这就要从JSON的编码格式下手,比如可以把巨大的JSON数组修改成字符串:
{ "name": "MAC File", "date": "2017-11-08", "macList": "11-11-11-11-11-11,22-22-22-22-22-22,...",}
我把macList从数组转换成以逗号分割的字符串。这样可以避免json_decde
产生一个巨大无比的数组,取而代之的是一个超长的字符串。
字符串占用的内存量可比数组小多了,刚才50万个MAC地址,瞬间只占9.7M的内存。修改完之后,json_decode
顺利解析成功,而且解析速度更快了。
原先macList是个数组,可以通过foreach遍历其中的元素,现在是字符串了,该怎么遍历呢?
不难,可以用strtok:
$tok = strtok($macList, ',');while ($tok !== false) { $mac = $tok; $tok = strtok(',');}
遍历的难度没有增加多少,是吧?
你可能会问,这种方法可以对付简单的JSON数组,如果一个JSON数组的每个元素是个JSON对象,该怎么办?
我们可以这样构造字符串:
{ "list": '{"name":"obj1"}###{"name":"obj2"}###...'}
字符串由一个个小的JSON组成,它们之间用特殊的标记###
分割。在解析时,根据特殊标记切分出一个个JSON对象,再用json_decode
逐个解析:
$tok = strtok($objectList, '###'); // 按###切割while ($tok !== false){ $objectStr = $tok; // 每切割出一个JSON对象就解码 $object = json_decode($objectStr, true); $tok = strtok('###');}
你也可以自创一种编码/解析这个超长字符串的方法,总之最终目标就是避免json_decode
在解码过程中产生超大数组。
通过本文,你应该略到了PHP Array吃内存的能力。把JSON中的数组替换成字符串表示,可以节省大量的内存。我还跑了一个对比数据,给大家参考:
解析50万个MAC:
解析100万个MAC:
解析200万个MAC:
如果对您的工作有帮助,还请帮忙点个赞:-)
- 这么小改一下,PHP json_decode内存节省70%
- PHP json_decode
- PHP备份还原数据库类(根据网上抄来的代码小改了一下)
- 把blog的样式小改一下
- BOOST源码笔记(3) - 节省内存的小技巧
- php的json_decode
- PHP json_decode函数
- php json_decode 解析中文
- php json_decode null
- php json_decode函数
- php json_decode 出错
- 关于php json_decode();
- php json_encode 和 json_decode
- 用union节省内存
- 节省你的内存
- Redis内存节省策略
- php str_replace json_decode函数心得
- php之json_encode和json_decode
- 史上最简单的 SpringCloud 教程 | 终章
- 安卓Enviroment类的详解
- .slideToggle()滑动
- 关于数位颠倒--C语言描述
- 模块API之lookup_module_symbol_attrs
- 这么小改一下,PHP json_decode内存节省70%
- mysql 报错异常集合
- 关于机器学习中的受限玻尔兹曼机(RBM)的非二值情况的推导
- Nutanix的进化
- Android MVP框架+RxJava+Retrofit+cecycleView,请求网络数据并加载
- nav
- 四周二次课(11月7日) 8.4 类的重写 8.5 类的私有变量
- C 错误处理
- 【消息队列MQ】各类MQ比较