web服务器集群

概述

集群和分布式都是从集中式进化而来的。分布式和集群会相互合作的,同时的集群和分布式。在这里重点说说集群

集群是什么?

集群能提高单位时间内处理的任务数量,提升服务器性能
有多台服务器去处理任务,但是每个任务都是由一台服务器独立完成的
web服务器集群

分布式是什么?

分布式能缩短单个任务处理的时间
跟集群一样,也有多台服务器去处理任务,但是每个任务由多台服务器合作完成,每台服务器负责完成大任务中的一个小任务
web服务器集群

集中式是什么?

集中式就是最传统的那种,所有任务由一台大机完成
web服务器集群

集群场景

可以在一台物理服务器上集群多个应用服务器,每个应用服务器独立工作。再在前端分配一个中央控制服务器,负责把发送到这台物理服务器的请求,按照一定权重分发给各个应用服务器。

例子

以tomcat为例子,可以采用1*apache+N*tomcat的模式
apache作为门面,在前端用负载均衡把请求发给各个tomcat服务器
java集群

好处

通常集群32位的服务器来代替单个64位的服务器,这样能尽量发挥出硬件的性能
1. 在64位的程序中,由于指针膨胀以及内存对齐,会造成内存浪费。
2. 在单个64位的服务器宕机的时候,所产生的快照很大,不好分析
3. 大内存的服务器,意味着要对更大的内存区域进行垃圾收集,那么会增大GC的时间,会加长服务器的停顿

难点

由于http请求是无状态的,那么对于会话级别的事务,如何保持用户的状态?
在单个服务器中,提供了session-sessionID的机制来保存用户的状态
那么现在有多台服务器,如何记录用户的状态?
有两个大方向:
1. session粘性
2. 共享session

session粘性

这种方式也成为亲和式集群,给session创造粘性,意思是让用户每次都访问的同一个应用服务器
这样就要在前端服务器apache中记录下,用户首次访问的是哪个tomcat,将用户后面发送的请求都发送到这个tomcat上去
这样带来的后果是,各个服务器负载不均衡,因为只在用户首次访问的时候,采用了负载均衡分发,但是这个影响也不会那么明显


worker.controller.sticky_session=true|false
worker.controller.sticky_session_force=true|false

这是在apache对于session粘性的配置
worker.controller.sticky_session,为true会开启session粘性机制,为false关闭
worker.controller.sticky_session_force,为true意味着即使这个服务器宕机了,也仍然发送到这个服务器,为false则会选择发送其他到其他服务器
建议选择前者为true,后者为false。这样既能达到session粘性,又能在服务器宕机的时候继续提供服务

优点:
1. 占用的内存少,因为只记录了sessionID以及对应发送的服务器

缺点:
1. 如果服务器宕机了,在这个服务器上的session信息都会丢失

同步session

这种方式需要在一个地方存放session的所有信息,并且能让每个服务器节点都能访问得到这些session
这种方式大概有三种方案:
1. cookie同步
2. 数据库同步
3. 内存数据库同步

cookie同步

cookie同步是将session的所有信息存放在客户端,每次请求的时候,将session也发送上来
优点:
1. 不占用服务器内存
2. 服务器宕机不会丢失session信息

缺点:
1. 放在客户端,不安全
2. 受浏览器的限制,浏览器禁用cookie
3. 增大流量,变相拉低响应时间
4. session序列化和反序列都需要额外的时间

数据库同步

将session信息存放在一个都能访问到的数据库
优点:
1. 服务器宕机不会丢失session信息

缺点:
1. 占用的内存大
2. 增大数据库负担
3. session序列化和反序列都需要额外的时间
4. 访问数据库会需要额外的时间

内存数据库同步

将session信息存放在一个都能访问到的内存数据库中,比如Redis、memcached
优点:
1. 服务器宕机不会丢失session信息
2. 访问的速度快

缺点:
1. 占用内存大
2. session序列化和反序列都需要额外的时间

总结

session同步最好的是第三种,内存数据库同步
session同步的好处是不怕单个服务器宕机,但是他占用的资源、速度也比session粘性要大

缺点

  1. 节点对共享资源的竞争,如磁盘文件
  2. 节点对同一资源进行操作带来的问题,如对同一文件进行读写
  3. 32位的节点受最大内存的限制
  4. 节点内资源池的闲置。如连接池,可能会出现某些节点的连接池用满,某些节点还有可用连接。可以考虑配置同一资源池,集中式JNDI
  5. 节点内的本地缓存重复,因为每份节点都有一份本地缓存。可以考虑采用缓存数据库统一存放缓存,如redis
  6. 浪费内存,节点越多,重复加载的类越多,jvm中的方法区内容差不多,但是每个节点都有一份。

相关推荐