安科网

基于Java技术的大型网站架构方案

shimly00

shimly00

2013-12-25

关注 关注

Web层

  • 主体架构可以基于 Struts 1.X/2.X，当然有很多更好的控制层框架供选择，以快速敏捷为准则吧。
  • 抽象出核心库封装 控制器和中间层 的操作。
  • 在大规模集群环境下，session复制会引起严重的性能问题。考虑用 集群缓存 + cookie验证 代替session实现权限控制吧。

Cache层

  • 配置 Memcache 组成集群缓存
  • 对 Memcache 客户端进行封装
  • Memcached 节点组成池，调用示意：opList (BizName, 策略 ...)

中间层

“中间层”可以理解为基于应用和数据之间的层次。它被设计用来为Web应用提供：数据缓存 和 对应用透明的数据访问——即应用不需要考虑数据表拆分的问题。以服务的方式提供对存储层的高性能调用以及分布式计算。可供选择的框架：

  • ICE
  • Hadoop
  • 直接基于Memcache开发（减少复杂度，推荐）

存储

推荐MySQL，理由：免费，经过实践检验，有大量成熟的案例、解决方案、技术支持。

  • 小规模：一个 data table 维护存储服务器阵列，内容 -> mount ……
  • 大规模：Master-Slave模式+MySQL Proxy，实现数据库读写分离。在中间层的包装下，可做如下扩展，以支持更大规模的数据存取：
    • 数据库/表水平拆分，例 User -> User33% + User33% + User34%
    • 数据库/表垂直拆分，例 User -> UserBaseInfo + UserAddrInfo

也可考虑使用 LongStore (龙存) 解决方案，由龙存管理存储阵列……

部署

  • 划分子域名，每个子域名一个Web应用包，互不干扰
  • 静态资源（css, js, image ...）使用专门的静态服务器

负载均衡

小规模：DNS轮询。
大规模：F5， 2*X 台F5服务器，F5是L4/L7层交换机，每台至少可处理200万连接（与服务器内存有关）。
Ngnix是L7层交换，LVS负载均衡也是一种方案

Web中间件选择

  • Tomcat - 最高400并发
  • Apache - 最高2000并发
  • Ngnix - 优于Apache
采用方案：Ngnix + Resin ，理由：
  1. Resin提供更为快速的servlet引擎 - 选择Resin。
  2. gzip问题 - Resin在单独处理gzip时存在内存溢出的隐患，因此要加一层 Ngnix。
  3. Ngnix 能减少单独使用Resin时的内存占用 - Resin建立1000个连接使用1000个线程；加Ngnix后，透过其“异步连接”、“建立长连接”机制使Resin内存压力大大减小。
  4. Ngnix 针对Linux系统有性能优化措施 - 0 Copy, send file ...
因此采用：1 Ngnix + 1 Resin，一对一。

静态服务器采用：Squid + Apache, why? because Squid has cache ability ...
新变化 - Nginx从0.7.48版本开始，支持了类似Squid的缓存功能。这个缓存是把URL及相关组合当作Key，用md5编码哈希后保存在硬盘上，所以它 可以支持任意URL链接，同时也支持 404/301/302 这样的非200状态码。虽然目前官方的Nginx Web缓存服务只能为指定URL或状态码设置过期时间，不支持类似Squid的PURGE指令，手动清除指定缓存页面，但是，通过一个第三方的Nginx 模块，可以清除指定URL的缓存。
Nginx的Web缓存服务主要由proxy_cache相关指令集和fastcgi_cache相关指令集构成，前者用于反向代理时，对后端内容源服务器进行缓存，后者主要用于对FastCGI的动态程序进行缓存。两者的功能基本上一样。
最新的Nginx 0.8.31版本，proxy_cache和fastcgi_cache已经比较完善，加上第三方的ngx_cache_purge模块（用于清除指定 URL的缓存），已经可以完全取代Squid。有的网站已经在生产环境使用了 Nginx 的 proxy_cache 缓存功能超过两个月，十分稳定，速度不逊于 Squid。
在功能上，Nginx已经具备Squid所拥有的Web缓存加速功能、清除指定URL缓存的功能。而在性能上，Nginx对多核CPU的利用， 胜过Squid不少。另外，在反向代理、负载均衡、健康检查、后端服务器故障转移、Rewrite重写、易用性上，Nginx也比Squid强大得多。这 使得一台Nginx可以同时作为"负载均衡服务器"与"Web缓存服务器"来使用。以下是配置片段供参考：
[c-sharp] view plaincopy
  1. http   
  2. {  
  3.   ...  
  4.   client_body_buffer_size  512k;  
  5.   proxy_connect_timeout    5;  
  6.   proxy_read_timeout       60;  
  7.   proxy_send_timeout       5;  
  8.   proxy_buffer_size        16k;  
  9.   proxy_buffers            4 64k;  
  10.   proxy_busy_buffers_size 128k;  
  11.   proxy_temp_file_write_size 128k;  
  12.   ...  
  13.   #注：proxy_temp_path和proxy_cache_path指定的路径必须在同一分区  
  14.   proxy_temp_path   /data0/proxy_temp_dir;  
  15.   #设置Web缓存区名称为cache_one，内存缓存空间大小为200MB，1天清理一次缓存，硬盘缓存空间大小为30GB。  
  16.   proxy_cache_path  /data0/proxy_cache_dir  levels=1:2   keys_zone=cache_one:200m inactive=1d max_size=30g;  
  17. }  
  18. server  
  19. {  
  20.   ...  
  21.   location /  
  22.   {  
  23.     #如果后端的服务器返回502、504、执行超时等错误，自动将请求转发到upstream负载均衡池中的另一台服务器，实现故障转移。  
  24.     proxy_next_upstream http_502 http_504 error timeout invalid_header;  
  25.     proxy_cache cache_one;  
  26.     #对不同的HTTP状态码设置不同的缓存时间  
  27.     proxy_cache_valid  200 304 12h;  
  28.     proxy_cache_valid  301 302 1h;  
  29.     #以域名、URI、参数组合成Web缓存的Key值，Nginx根据Key值哈希，存储缓存内容到二级缓存目录内  
  30.     proxy_cache_key $host$uri$is_args$args;  
  31.     proxy_set_header Host  $host;  
  32.     proxy_set_header X-Forwarded-For  $remote_addr;  
  33.     proxy_pass http://backend_server;  
  34.     expires      1d;  
  35.   }  
  36.   #用于清除缓存，假设一个URL为http://192.168.1.44/test.txt，通过访问http://192.168.4.44/purge/test.txt就可以清除该URL的缓存。  
  37.   location ~ /purge(/.*)  
  38.   {  
  39.     #设置只允许指定的IP或IP段才可以清除URL缓存。  
  40.     allow            127.0.0.1;  
  41.     allow            192.168.0.0/16;  
  42.     deny            all;  
  43.     proxy_cache_purge    cache_one   $host$1$is_args$args;  
  44.   }      
  45.   #扩展名以.php、.jsp、.cgi结尾的动态应用程序不缓存。  
  46.   location ~ .*/.(php|jsp|cgi)?$  
  47.   {  
  48.     proxy_set_header Host  $host;  
  49.     proxy_set_header X-Forwarded-For  $remote_addr;  
  50.     proxy_pass http://backend_server;  
  51.   }  
  52. }  
同时，对于影响页面展现的静态资源，例如：css, js 等可以放在具有优质带宽的IDC（IDC=互联网数据中心，优质/高速的带宽也比较贵，正所谓一份价钱一分货）；其他的静态资源，如图片等可以放在价格相对低廉的IDC中，以域名区分两种静态资源，节省每一分钱。

网络拓扑图

         / Ngnix - 1:1 - Resin
F5 --
         / Squid - 1:n - Apache

监控统计平台

  • 业务统计 - 用户访问统计
  • 软件性能 - 应用系统监控，例如：请求响应时间……
  • 硬件/网络性能 - Ganglia监控

其它要点

  • IE浏览器对同一域名（包括子域名）只能建立2个连接，连接多了只能排队……
  • 双F5架构，两台职能划分不同，镜像，心跳接管……
  • Raid存储阵列……
  • Linux操作系统及其优化……

网站架构 缓存服务器 resin ngnix 缓存

shimly00

shimly00

0 关注 0 粉丝 0 动态

关注 关注

相关推荐

假如说我们现在要做一个千万级用户量网站，你怎么设计高并发架构？

之前的时候，阿粉一直在看同事面试，但是呢，阿粉并没有自己去面试，而无意间打开Boss的时候，发现一家公司私聊了我，我回复了一下之后，竟然说我可以去面试，不曾想，面试一个问题，让我的薪资瞬间被砍掉了5K，你如果不想自己出去要的薪资被砍，那么你要会设计这个。

ltmailsharpeyes 2020-07-28

读《大型网站技术架构》的一些总结-（3）伸缩性设计

伸缩大白话就是给网站增添服务器，强如谷歌创立之初也是一台服务器，而现在已经有百万级的服务器了。任何网站随着业务的变化服务器的数量也会跟着变化，往往是慢慢增长，当然也有因为脉冲网站并发量一段时间内猛增然后回归正常的如淘宝双十一，回归正常后则需要减少服务器实现

windzoone 2020-06-01

网站架构变迁

从最早的 html 的学习到现在从单体应用迁移到微服务架构，所经历的网站架构也一直在变化，于是想写一篇关于网站架构变迁的文章。这个阶段的服务器上除了 Web Server，还会装一个数据库服务器，网站文件一般是放在网站目录下保存的。Kubernetes 让

ithzhang 2020-05-06

亿级流量网站架构核心技术-高并发

Cache Aside：同一个数据写竞争比较激烈，对数据一致性要求很高时适合，以上参数nginx都可以配置，对于静态资源以上参数还是非常有必要的，有业务也会根据需要在web工程内部设置。对于消费Bin log的情况，mysql bin log 要配置成 r

故纸堆 2020-03-21

亿级流量网站架构核心技术

guava提供了令牌桶算法的实现，RateLimiter，有阻塞和非阻塞限流方式，阻塞限流适用于异步场景比如kafka消费或离线跑任务；非阻塞限流适用于同步场景快速失败返回。预案：大型活动需要提供预案文档，写好各种情况的处理流程，一旦执行，需要2人以上re

ColinOrg 2020-03-21

网站群架构

>网站群的定义是通过统一标准、统一规范、统一规划，建立在统一技术架构基础之上的若干个能互相共享信息、按照一定的隶属关系组织在一起，既可以统一管理，也可以独立管理自成体系的网站集合。利用网站群内容管理系统，统一规划、统一实施或分步实施，以解决第三代网站

ithzhang 2020-03-01

云计算视频教程：Linux大型网站高并发架构及自动化运维

随着互联网技术的不断进步和发展，对运维人员提出了更高的要求和挑战，如何才能将运维工作自动化，提升工作的效率？让大家学完后可以具备企业真正的大型网站搭建能力以及自动化运维的实战能力。在企业中运用zabbix监控企业数据，第一时间了解服务的运行状态，通过ngi

byourb 2020-02-12

大型网站架构演变

大型网站架构的演进最开始都是由小及大慢慢演变过来的，任何一个好的架构都不是设计出来了，是经过业务发展迭代而来的，这个观点我是赞同的。对于网站架构技术非常有兴趣，一直持续关注学习架构技术，本次想通过大型网站技术发展历程，剖析大型网站技术架构模式，深入分析大型

范群松 2020-02-02

ASP.NET Core搭建多层网站架构【8-使用AOP动态拦截器进行服务层日志记录】

摘要：基于ASP.NET Core 3.1 WebApi搭建后端多层网站架构。本章节介绍了编写最简单的增删改查业务，涉及到DI依赖注入的使用、AutoMapper的使用、工作单元与仓储的使用

IT小小鸟 2020-01-30

ASP.NET Core搭建多层网站架构【6.1-使用AOP动态拦截器进行服务层日志记录】

摘要：基于ASP.NET Core 3.1 WebApi搭建后端多层网站架构

草原孤狼 2020-01-29

ASP.NET Core搭建多层网站架构【5.2-添加NLog日志记录器】

摘要：基于ASP.NET Core 3.1 WebApi搭建后端多层网站架构

quguang 2020-01-29

ASP.NET Core搭建多层网站架构【5.1-WebCore网站核心配置】

摘要：基于ASP.NET Core 3.1 WebApi搭建后端多层网站架构

ithzhang 2020-01-29

ASP.NET Core搭建多层网站架构【3-使用xUnit编写单元测试之简单方法测试】

摘要：基于ASP.NET Core 3.1 WebApi搭建后端多层网站架构。上一章节已经建立了Common公共类库，本章节介绍编写简单的单元测试，对上一章节的公共类库中EnumExtension方法编写单元测试，同时也是介绍上一章节中公共类库EnumEx

quguang 2020-01-28

《亿级流量网站架构核心技术》---高并发

　　　　　　　　　　让数据 更 接近 使用者；　　　　　　　　　　目的 让访问速度更快；　　　　　　　　　　工作机制：从缓存读取数据，如果没有，再从慢速设备读取实际数据 并 同步到缓存；　　　　　　　　　　　　　　maven： 本地仓--->中央仓-

IT小小鸟 2020-01-21

大型网站架构step by step

　　2、原有的一些状态信息同步、文件共享等方案可能会出现瓶颈，需要进行改进，也许这个时候会根据情况编写符合网站业务需求的分布式文件系统等；　　在做完这些工作后，开始进入一个看似完美的无限伸缩的时代，当网站流量增加时，应对的解决方案就是不断的添加webser

红雪中国 2014-07-07

冰冻三尺非一日之寒——大型网站架构演进

当下载了《大型网站系统与Java中间件实践》试读章节，看到其中唯一的一章第2章的标题，并简略地扫了一遍小节标题之后，我立马就想到——这绝对又是某位淘宝牛人写的书。而在那场系列讲座中，一条重要的主线正是以淘宝网站发展历程为蓝本的“大型网站架构演变和知识体系”

刘晓飞 2014-06-19

小型网站架构

低可用 稳定性要在50%，每年宕机时间不可以超过3个月。无海量数据一个月存储500条数据记录 用户分布不广泛、网络情况不复杂 只有铁通一家网络运营商，无防火墙 安全环境良好 需求一劳永逸，发布不频繁 渐进式发展 慢慢更新。业务拆分 采用MVC架构模型就足够

enginetanmary 2014-06-17

互联网网站架构升级----消息中间件的实现方案

所以目前业界有几种不同的设计方式来满足不同的需求。那么有没有一种更高效的方式呢？答案是肯定的，但那可能要进一步降低可靠性！目前我们的监控日志收集系统使用的是和②中类似的方案，消息系统使用的是3方案，后期可能会将可靠性要求高的向1方案过度，可靠性要求不高的向

LinuxAndroidAI 2014-05-14

NFS——网站架构后台仓库的搭建

1.nfs共享存储1.1存储服务的作用将数据进行统一共享存储，节省磁盘存储空间1.2.存储服务部署过程1.2.1.服务端部署第一个历程：安装软件程序Yum install -y nfs-utils第二个历程：编写配置文件Vim /etc/exports/d

架构技术交流 2019-12-22

《大型网站技术架构》笔记 － 架构篇

性能测试是性能优化的前提和基础，也是性能优化结果的检查和度量标准。性能测试的指标有：响应时间、并发数、吞吐量、性能计数器。网站性能优化的目的，除了改善用户体验的响应时间，还要尽量提升系统吞吐量，最大限度利用服务器资源。主要手段有优化浏览器访问、使用反向代理

fibanaci 2019-11-26
shimly00

shimly00

W3CSchool教程
HTML 教程
CSS 教程
Bootstrap 教程
Javascript 教程
jQuery 教程
后端教程
C 教程
Java 教程
PHP 教程
Python 教程
Go 教程
移动开发
Android 教程
Swift 教程
Kotlin 教程
jQuery Mobile 教程
ionic 教程
关于我们
新闻动态
联系方式
招聘英才
安科实验室
帮助与反馈

安科网(Ancii)，中国第一极客网

Copyright © 2013 - 2019 Ancii.com

京ICP备18063983号 京公网安备11010802014868号