我创建了一个PHP脚本,从网站上爬取一些特定的数据,查找相关信息并将其存储在数据库中。该脚本在本地机器上运行良好,但当我在使用cron job运行它的生产服务器上运行它时,在进行10个数据库插入后停止,并报错:
"Fatal error: Allowed memory size of 67108864 bytes exhausted (tried to allocate 35 bytes) in /home/content/36/78632936/html/scripts/simple_html_dom.php on line 809"
我使用get_memory_peak_usage()在本地上检查了相同的脚本,最大使用量约为8 MB。
我很困惑为什么在生产环境中内存使用率非常高。任何帮助将不胜感激。
我的代码简述如下:
DB_table1:包含60000行数据的列表
主要代码开始调用DB1并获取数据,然后使用每行数据形成一个URL。每个URL都将使用simple_html_dom()函数进行抓取,脚本将在每个页面上查找一些特定的信息,并将这些数据存储在另一个表DB_table2中。
如果您需要了解其他内容,请告诉我。谢谢 :)
"Fatal error: Allowed memory size of 67108864 bytes exhausted (tried to allocate 35 bytes) in /home/content/36/78632936/html/scripts/simple_html_dom.php on line 809"
我使用get_memory_peak_usage()在本地上检查了相同的脚本,最大使用量约为8 MB。
我很困惑为什么在生产环境中内存使用率非常高。任何帮助将不胜感激。
我的代码简述如下:
DB_table1:包含60000行数据的列表
主要代码开始调用DB1并获取数据,然后使用每行数据形成一个URL。每个URL都将使用simple_html_dom()函数进行抓取,脚本将在每个页面上查找一些特定的信息,并将这些数据存储在另一个表DB_table2中。
如果您需要了解其他内容,请告诉我。谢谢 :)