我一直在优化代码以分析社交网络数据(在https://blog.golang.org/profiling-go-programs的帮助下),并已成功重构了大量缓慢的代码。
所有数据首先从数据库加载到内存中,然后从那里进行数据分析,似乎 CPU 受限(最大内存消耗 <10MB,CPU1 @ 100%)
但现在,我的程序大部分时间似乎用在 runtime.osyield 和 runtime.usleep 上。有什么方法可以防止这种情况发生吗?
我已经设置 GOMAXPROCS=1,并且该代码不会生成任何 goroutine(除了 golang 库可能调用的 goroutine 之外)。
这是 pprof 的 top10 输出:
(pprof) top10
62550ms of 72360ms total (86.44%)
Dropped 208 nodes (cum <= 361.80ms)
Showing top 10 nodes out of 77 (cum >= 1040ms)
flat flat% sum% cum cum%
20760ms 28.69% 28.69% 20850ms 28.81% runtime.osyield
14070ms 19.44% 48.13% 14080ms 19.46% runtime.usleep
11740ms 16.22% 64.36% 23100ms 31.92% _/C_/code/sc_proto/cloudgraph.(*Graph).LeafProb
6170ms 8.53% 72.89% 6170ms 8.53% runtime.memmove
4740ms 6.55% 79.44% 10660ms 14.73% runtime.typedslicecopy
2040ms 2.82% 82.26% 2040ms 2.82% _/C_/code/sc_proto.mAvg
890ms 1.23% 83.49% 1590ms 2.20% runtime.scanobject
770ms 1.06% 84.55% 1420ms 1.96% runtime.mallocgc
760ms 1.05% 85.60% 760ms 1.05% runtime.heapBitsForObject
610ms 0.84% 86.44% 1040ms 1.44% _/C_/code/sc_proto/cloudgraph.(*Node).DeepestChildren
(pprof)
_ /C_/code/sc_proto/* 函数是我的代码。
(更好的 SVG 图片版本在此处:https://goo.gl/Tyc6X4)