面霸的八月：小米面试记

书接上回，今天叙述小米的面试经历。这里可能有一些技术理解和技术方案，欢迎讨论。另昨天共计收入7笔共95元，够我喝几杯咖啡了，谢谢所有捐钱的朋友。

如果你心疼我码字辛苦，有钱朋友钱场，没钱的请拉朋友来捧个钱场，捧场链接：https://me.alipay.com/chunshengster ，多少不限

小米：运维部

在小米是聊了两个部门的，首先是运维部门，在 @wilbur井源 的热情招待下，吃了顿大餐，抱歉的是我没有带足现金，所以付款时我无法“客气”，改天补请。

wilbur井源同两位同事与我四人边吃边聊，我简单介绍当前的网站的服务结构以及部分业务的技术设计，比如网站架构的分布情况，分布式文件系统fastDFS的使用状况、Redis和MySQL的一些部署结构和技术，其中尤其对监控这件事情我做了详细一些的说明（详见服务可用性监控的一些思考以及实践）， 中间提到了关于主动监控（主动监控是指通过运维和业务部门指定监控的系统资源、接口、页面、日志等，主动发现问题,警报级别较高）、被控监控的概念（指通 过JSlib或客户端lib对于所有的操作尤其是网络接口的请求进行监控，对异常进行汇报，通过收集日志的方式进行可用性问题的发现）。当然，还有必不可 少的是对haproxy的运行和优化状况（参见Haproxy配置），MySQL的架构及优化方式（见MySQL架构及运维），Redis常见的性能问题（参见redis架构及运维问题），fastDFS同其他分布式存储MogileFS、TFS、lusterfs的在功能、运维成本上的横向比较，多IDC图片cache的部署以及性能优化（参见多idc图片Cache部署），Linux内核参数（参见Linux内核配置）和让我特别自豪的是关于网卡smp affinity/RPF/RFS的优化效果（参考3/4/5）的一些优化等。当然，这是正经的运维部门，我阐述了我对“运维”工作的理解：60%的分析整理工作加上40%的技能，分析整理能力是做好运维的基础。

井源也询问了几个安全问题，我粗浅的理解是：从系统管理员（SA）的经历来讲，做好IT系统规划，合理区分服务器角色，通过iptables是能够阻止大多数接入层非法请求的；对于web业务的安全来讲，SQL注入、CRSF等攻击是因为对输入输入内容的过滤不严格导致的，在开发的过程中合理使用一些优秀框架或lib，也能够避免大多数漏洞的产生；有个比较有意思的话题是关于溢出的，现在我已经不会计算溢出地址了，在我当script boy的时候研究过一点，忘光光了，惭愧……

井源这边的效率很好，边吃边聊的气氛很放松，不过很多问题都停留在一些思路和效果数据上，没有勾勾画画的太多深入的探讨。

电商部

大约8点半左右到的电商部门，常规面试的第一轮都是技术，包括细节。面试官是位张姓的team leader。

在这轮面试的过程中，因为是在会议室，有笔有板，所以我边讲边写。大体上介绍了我对web服务架构的理解，我认为，web服务架构大体上离不开这样几个层面：接入层（负载均衡）、业务服务层、数据层，一般还会有不少的后台辅助程序进行同步、异步的处理各种不适合在业务层融合的服务单元。 数据层可以包括DB、Cache、File等，数据层还可能会有很多中间件或代理服务器用来做数据层的负载均衡或是HA，以及Sharding等。同面试 官详细介绍了当前服务的公司在每一层所采用的技术，分别是：haproxy、nginx+php、twemproxy+redis、 MySQL+RedisCache、Varnish+Squid+nginx+fastDFS。

haproxy的服务器配置是按照100w并发的目标进行配置和优化的，计划100w客户端连接，考虑每个客户端连接可能产生1个内部连接，按照每个连接消耗4k（此处修正为17K，haproxy的官方数据，见参考8,感谢 @GNUer 的修正）内存来算，大约8G(此处修正为32G）内存【这里的计算还需要再考虑，我担心haproxy的每个连接消耗17k内存是包含对内部服务器的连接】，实际上往往比这个数字要大。目前达到的最大连接数目测到过16w，在接入层的系统优化上分别有：网卡中断优化（参考3/4/5），linux 内核参数优化（见linux sysctl.conf配置）。

值得一提的是，我们的haproxy服务器都是64G内存，实际上远远永不到这么多，图片服务的最外层cache，即Varnish，我们也是部署在haproxy服务器上的。

在最外层服务器上，我们每天大约5亿+（1-1.5亿+的动态请求、3-4亿+的图片请求）的请求量，共计使用7台64G的Dell R410,目前看负载还很低，从系统的各种资源上看，请求量翻倍应该是没有问题的。

在最外层的服务器配置上，有一个问题值得注意，即sysctl.conf的配置中，timestamp必须为0，这个在tcp协议的扩展标准中有提 到，否有nat环境的客户端连接有可能产生异常，异常的状况可以在netstat -s 的输出中看到。还需要注意的是timestamp=0的情况下，tw_reuse是不生效的。

要保证服务器能够接收大并发的连接请求是件不难的事情，但需要考虑一个细节，每接收一个请求，haproxy就需要至少分配一个系统的tcp端口请 求后面的业务服务器、cache服务器，系统一个ip地址可用的端口数最多为65535，一般还需要减去1024。值得考虑的是减 小 tw_bucket 的容量，让系统在tw_bucket满的状况下，对tw状态的连接进行丢弃，以达到快速回收的目的，tw的默认回收时间的2倍的 MSL。还有一个方式就是多配置几个ip。

还有一个问题，接入层的服务器往往会开启iptables，内核中nf的相关配置也是需要优化的，比如 nf_conntrack_max、nf_conntrack_tcp_timeout_established等。

在业务层的优化有nginx+php（fastcgi连接方式、php-fpm.conf配置中的优化）， 我的一个经验是，如果nginx同phpcgi运行在同一台服务器，采用unix socket的方式进行fastcgi协议的交互是效果最快的，比127.0.0.1的回环地址要快太多。我在08年优化过一台服务器（Dell 2960，16G内存），通过两个步骤，将一台服务器从900qps，优化到6000qps以上,其一是将fastcgi协议运行在unix socket上，其二是合理配置spawn-fcgi的进程数量。现在基本上phpcgi都是运行在php-fpm中的了，其进程池逻辑是我最赞赏的功能 之一。

如果nginx和php-fpm不在同一台服务器上，可以考虑使用fastcgi_keepalive的配置，实现nginx同fastcgi服务器持久连接，以提高效率。

nginx+php-fpm提供的运行状态非常有意义，nginx的status模块和php-fpm的status输出可以告诉我们nginx进 程的请求处理状况，php-fpm的status输出可以告诉我们php-fpm的进程池设置是否合理。我们目前对这两个数据通过nagios定期采集， 并绘制成图表，很有“观赏价值”。

php-fpm.conf的配置中还有几个参数对优化比较重要，其一是进程自动重启的条件pm.max_requests，其二是php-slow log的配置，slow log 是优化php代码的非常重要的信息。在我目前的环境中，php的慢执行日志是通过rsyslog进行传输并集中分析的，以此反向推进开发对php 代码的优化。

php的服务器在高并发的情况下，有可能因为服务器本身可提供的端口数量的限制，无法同redis服务器建立大量的连接，这时候可以在 sysctl.conf中配合timestamps=1 加上tw_reuse/tw_recycle的方式，进行端口快速回收，以便更好的向数据层建立 连接，接入层的haproxy是不可以这样的。

这一层还涉及到一个安全问题，就是php代码被修改并挂马的状况，我的解决方案是，将php-fpm的运行用户同php代码的属主设置成不同的用户，并且保证php-fpm的运行用户不能对php代码具有写的权限。

数据层的情况里，MySQL主从结构以及MHA+keepalived的高可用配置，这个基本上是看文档应该就能够理解的。如果是5.6的新版 MySQL，其高可用监控可能可以做的更简单，MySQL官方提供对应的工具，只是我还没有测试。对MHA的监控功能，我觉得亮点是MHA对切换过程中 MySQL binlog的获取和执行，在最大程度上避免了数据丢失。但是其缺点也是有的，比如：监控进程在触发切换后就停止了，一旦触发，必须重新启动进程再继续监 控。06年时我在sina做过一个叫Trust DMM的项目，通过 DNS、MON加上自己写的插件，监控MySQL主从集群的可用性，可以实现，主库、主备自动切换（缺乏binlog处理的环节）； 从库是一组服务器，如果从库发生问题，可以自动下线。只是这套系统部署起来比较麻烦。这个项目曾经获得过sina的创新一等奖。

我还提到了我认为的DBA日常的工作至少应该包括：审查并执行上线SQL；定期检查MySQL慢日志并分析，将分析结果反馈到开发部门进行调整；定 期审查数据库中索引的效率以及可用性，进行优化我反馈。现在做一个一般水平的DBA已经相当容易了，对percona的工具了解透彻，已经能够解决非常多 的数据库问题了。

MySQL还有一个难缠的问题，numa架构下，大内存服务器内存使用效率的问题，numactl对策略进行调整，如果使用percona的MySQL版本，可以通过 memlock配置对MySQL的Innodb引擎进行限制，禁止其使用swap。

MySQL常见的架构里，还有一种主从存储引擎不一致的方式，即主库采用Innodb引擎，提高并发写入的能力，从库采用Myisam引擎，这种方 式目前我们也在采用。这样做一是为了获取更好的读性能，另外是，Myisam引擎的是可以节省内存的。Myisam在索引数据内存读取，数据内容磁盘读取 的状态下，已经可以比较高效的运行了，myisam_use_mmap的配置项，会让MySQL将myisam的data文件也mmap到内存中，这样做 既高效，又可以使用mysiam引擎的特性。

数据库主库要避免一件事情发生，就是无条件删除和无条件修改，如“delete from table”以及”update table set xxx=yyyy”等无where条件语句，原则来讲是应该禁止执行的，这样的权限不应该开放给开发的同学，甚至DBA都不能无限制的操作。目前我的解决 方案是 sql_safe_updates=1,但这配置是不能够写my.cnf中的，只能启动mysql后进入console进行配置。

当前我们还使用了Redis作为DB，基于主从架构，跨IDC。目前的问题是，复制连接断开后，Redis快照重传的问题，从库会在快照替换期间有 短暂的性能抖动。 Redis2.8新版本psync的特性应该可以改善这个问题。我们还使用twemproxy，目前部署在每一台php服务器上，并监 听unix socket，php使用phpredis的模块进行连接。有效减少三次握手的时间。temwproxy还有很多其他的优秀特性，通过一致性hash做 cache集群，可以有效的避免cache迁移问题。通过其对后端redis的健康监控，可以自动下线有故障的redis。

还有针对多IDC的图片存储和Cache部署情况。目前我们自建的图片CDN承载网站每天约4亿的请求，带宽最高峰值约1.5G左右，其结构大体上 是中心IDC存储图片原图+SQUID disk cache存储图片缩略图，在外地IDC使用两级缓存，分别为一层SQUID disk cache（两台，做HA），另一层为Varnish cache（最多四台），实际上，如果仅考虑work around的状态，squid cache层基本上也可以不要的。但是，目前这样的结构可以减少varnish回中心节点的请求，减少中心机房带宽的压力。这个结构还算简 单，varnish在高并发请求下，有一些资源配置是需要注意的，比如NFILES / VARNISH_MAX_THREADS / nuke_limit 等。

沟通的技术问题还是非常多的，包括在井源那里提到监控框架的事情，也尤其提到了我对rsyslog的优化，优化后的rsyslog在可靠性方面是非常值得称赞的（优化思路见参考6）

我有一些将电商三面的运维运维同学的问题综合到这里了，有些话重复的就不再描述。

值得一提的是二面是另一位开发负责人，一看就是个很有独立思考能力的同学，他问了我一个很有意思的问题，大体的意思是，在系统架构方面，有这样的几 个层次，从下往上：使用开源、精通开源，优化并修改开源软件，创造开源软件。问我自己评价我是在哪一个层次的。我认真的思考了一下，我应该是在第二个层 次，有些精通的，有些修改过的。

电商四面是时间最长的，至少有两个小时以上，结束的时候已经是夜里一点四十了，我觉得电商的老大是应该在支付宝里面给我捐一些钱才好的 ，不知道有没有小米的同学能够转告哈  。我们应该是谈到了非常多的事情，包括秒杀的解决方案，包括对持续集成和自动化测试的理解、对后台数据业务类型的开发中数据计算错误的理解，时不时能够得到“我们想的很一致”这样的评价。

那时已近半夜，记忆进入低效态，一些太琐碎的事情记不得了，重复的技术方案也不再赘述。下面简单描述一下我对秒杀的解决方案的理解：10w的数据，从0到10w，不能多卖。目前的问题是，每次到秒杀时分可能同时进入100w的请求/连接。如何破？

我的方案是：排除user、session等外部依赖服务的前提下，两台ha外面抗并发连接（后来想这个无所谓的，不如做成php的服务器），三台PHP服务器（不要使用任何框架，最朴素的纯粹PHP代码），两台Redis（最初说了一台）。具体优化状况如下：

• haproxy优化能够支持百万并发连接，这个很容易了
• nginx优化worker connections，优化nginx的并发支持能力和请求队列的接收能力
• php-fpm优化listen.backlog，优化fastcgi请求队列的接收能力。
• Redis 假如在秒杀的1分钟内，服务器不出现故障，优化redis的最大连接数
• 优化所有服务器的网卡、sysctl参数

php的逻辑可以简单的理解为对redis的某一个key进行incr原子操作，如果返回的当前数值小于等于10w（两台redis的情况下应小于等于5w），则认为中签。

从我以前看到的数据来讲，redis的最好状态在8w qps。nginx+php在08年时已经优化到6000 qps，目前的服务器设备（双核16cpu+64G内存）达到2、3wQps应该也是不难的事情（这个的最新数据我不知道）。上述配置至少应该能够在5s 内完成10w次redis的incr操作。加上系统各系统对请求队列的支持，可以几乎做到不报错，短暂延迟。

如果考虑1台redis请求量会很高，可以考虑分片，每台分5w。

当然，这是在仅仅思考不到1分钟内给出的方案，从现在来看，haproxy是可以不要，nginx扛并发连接的能力也不错。所有的细节还需要通过压 力测试进行验证。而实际情况加上对其他服务的依赖（我不知到还有哪些，抽丝剥茧去除干扰），方案也会更加复杂一些。据电商老大讲，实际情况是，秒杀的服务 用了十几台服务器，秒杀的时候偶尔出现一些故障，小米做秒杀的同学，压力很大哦。

如果你提到要记录中签的用户的uid和中签号码，还是redis吧。

（突然wps的linux版崩溃了，只能恢复到这里，后面的部分内容是重写的，可能有点混乱）

针对刚才的问题，我在白板上画了个简单的架构图：haproxy+nginx/php+redis，haproxy和nginx/php都是可线性 扩展的，redis可以通过sharding来实现扩展。理论上讲，一个可扩展的架构是可以满足任何性能要求的，更何况如此简单的逻辑，单机性能已经可以 做到非常高了。

电商王姓负责人在问我方案时问这个需求会有哪些难点？我看着白板笑笑：目前看，应该不存在难点。如果有问题，应该看日志和服务状态以及服务器状态。

第四面聊得很头机，对方几次想结束时都突然冒出来一个问题，每一个都会讨论比较久，比如后台的一些计算操作是否换成java更合适，因为java可 以更严谨。我说这可能不是语言的问题，而是程序员习惯和素质的问题，如果想换，其实我倒是更愿意尝鲜，比如用go，还可能可以同时满足性能的问题。

还有突然聊到持续集成，我坦言，我对持续集成的理解停留在用工具实现自动测试和发布这样的层面上，没有实操经验。但我个人的一个粗浅的认知是：持续 集成的前提是自动化测试，自动化测试的两个难点：1,自动化测试用例的设计；2,程序员对自动化测试的理解和心理反抗程度。我在目前单位有过短暂的尝试：专业的传统测试人员对测试用例进行设计，程序员接收到的需求应该包括正向逻辑的产品需求和测试用例的需求。开发工作完成的标记是：自己写的测试用例在自己的代码上完全通过，代表自己一项开发工作的完成。

说到这里，对方不禁双手伸出拇指！（哈哈哈哈）

或多或少也还有一些别的话题，我自认为那晚像演讲一样很精彩，只不过时间已过午夜，其他的一些细节不太记得了，如果想起或小米参加面试的同学有提起，我再补充了。