测试程序见 examples/benchmark.go
测试数据为从52个微博账号里抓取的十万条微博,通过benchmark.go中的-num_repeat_text参数(设为100)重复索引为一千万条,3.6G文本。测试环境Core i7-3615QM 2.30GHz 8核,14G内存。
改变测试程序中的NumShards变量可以改变数据单机裂分(sharding)的数目,裂分越多单请求的并发度越高延迟越小,但相应地每秒能处理的总请求数也会变少,比如:
- 1个shard时:每秒索引1.3M个索引项,响应时间4.4毫秒,吞吐量每秒1.8K次搜索
- 2个shard时:每秒索引1.2M个索引项,响应时间2.5毫秒,吞吐量每秒1.6K次搜索
- 4个shard时:每秒索引1.2M个索引项,响应时间1.4毫秒,吞吐量每秒1.4K次搜索
这里的索引项是指一个不重复的“搜索键”-“文档”对,比如当一个文档中有N个不一样的搜索键时,该文档会产生N个索引项。
程序默认使用2个shard,你可以根据具体的需求在初始化引擎时改变这个值,见types.EngineInitOptions.NumShards
benchmark.go也可以帮助你找到引擎的CPU和内存瓶颈在哪里。
分析性能瓶颈:
go build benchmark.go
./benchmark -cpuprofile=cpu.prof
go tool pprof benchmark cpu.prof
进入pprof终端后输入web命令可以生成类似下面的图,清晰地表示了每个组件消耗的CPU时间
分析内存占用:
go build benchmark.go
./benchmark -memprofile=mem.prof
go tool pprof benchmark mem.prof
pprof的使用见这篇文章。