Nginx HttpMemcModule和直接访问Memcached效率对比测试

• 测试环境：

1. 测试客户机A： HP DL380G4，2个双核CPU，4G Ram，2块10k RPM SAS盘做raid 1，ext3
2. Nginx所在服务器B：DELL R710，E5620 * 2，32G Ram，6块盘15K RPM SAS盘做raid 1+0，xfs
3. Memcached所在服务器C：DELL R710，E5620 * 2，32G Ram，6块盘15K RPM SAS盘做raid 5，ext4
4. Nginx设置：keepalive 8192
5. Php fpm设置：listen.backlog = -1
6. memcached启动参数：memcached -d -m 24576 -p 12000 -c 10240
7. 内核参数：

net.ipv4.tcp_tw_recycle = 0
net.ipv4.tcp_tw_reuse = 0
net.ipv4.tcp_timestamps = 1

关于这几个内核参数对应的解释可参考资料：2.12. Reduce TCP performance spikes

• 测试方案：

1. 使用php连接本地nginx代理，存取远程memcached数据；
2. 使用php直接连接远程memcached服务器；
3. 从测试客户端用ab发起并发测试；
4. 并发线程从64开始，直到2048，分别是64的N倍；
5. 每种并发模式都进行5轮测试，最后取平均值；
6. 存储在memcached中的key长度96个字符，value长度400字符，总是随机生成；

• 测试结果：

结论及建议：

1. Php程序通过HttpMemcMC访问memcache和直接访问memcached的效率并没有太多损失；
2. 采用php直接访问memcached，失败的次数相比通过HttpMemcMC有较大增加，应该是HttpMemcMC在keepalive方面更有优势；
3. 后续会在进行一次测试，调整nginx、php及内核相关参数，再做对比；
4. 本次测试没有和正常的http请求混在一起对比，测试结果不具备绝对参考价值；

单从本次测试结果来看，HttpMemcMC值得拥有

• 结果结果更新：

调整上述几个内核参数：

net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_timestamps = 1

通过调整内核参数，调整tcp连接复用性提高tcp效率，新的测试结果如下：

备注：由于2次测试案例中，每并发线程请求数不一样，所以你会发现两边的数据无法直接对比，这是我的失误，抱歉。

• 补充小结：

调整完内核后：
1. 可以发现，HttpMemc的平均效率只有NativeMC 72.62%；
2. 调整内核tcp参数对提升tcp效率非常有帮助，Failed requests次数完全为0；
3. 由于可以提高memcached连接复用率以及对程序透明的好处，即便HttpMemc性能不如NativeMC，损失并不是非常厉害，仍然是可以接受的；