千万级高并发服务器架构之架构搭建演变及不同架构的缺点

反向代理层有什么用？架构实现时要注意什么？

(1)作为服务端统一入口，屏蔽后端WEB集群细节，代表整个WEB集群；

(2)保证WEB集群的扩展性，Nginx后端可随时加WEB实例；

(3)实施负载均衡，反向代理层会将请求均匀分发给后端WEB集群的每一个实例；

(4)保证WEB集群的高可用，任何一个WEB实例挂了，服务都不受影响；

(5)注意自身高可用，防止一台Nginx挂了，服务端统一入口受影响；

裸奔时代（1）单机架构

裸奔时代的架构图如上：

(1) 浏览器通过DNS-server，域名解析到ip；

(2) 浏览器通过ip访问web-server；

缺点：

(1) 非高可用，web-server挂了整个系统就挂了；

(2) 扩展性差，当吞吐量达到web-server上限时，无法扩容；

反向代理Nginx

tomcat的性能较差，但Nginx作为反向代理的性能就强很多，假设线上跑到1w，就比tomcat高了10倍，可以利用这个特性来做扩容。

此时的架构图如上：

(1) 站点层与浏览器层之间加入了一个反向代理层，利用高性能的Nginx来做反向代理；

(2)Nginx将http请求分发给后端多个web-server；

优点：

(1) DNS-server不需要动；

(2)负载均衡：通过Nginx来保证；

(3)只暴露一个外网ip，Nginx->tomcat之间使用内网访问；

(4)扩容实时：Nginx内部可控，随时增加web-server随时实时扩容；

(5)能够保证站点层的可用性：任何一台tomcat挂了，Nginx可以将流量迁移到其他tomcat；

画外音：反向代理，能够更实时，更方便的扩容了。

缺点：

(1)时延增加+架构更复杂了：中间多加了一个反向代理层；

(2)反向代理层成了单点，非高可用：tomcat挂了不影响服务，Nginx挂了怎么办？

keepalived

为了解决高可用的问题，keepalived出场了

(1) 做两台Nginx组成一个集群，分别部署上keepalived，设置成相同的虚IP，保证Nginx的高可用；

(2) 当一台Nginx挂了，keepalived能够探测到，并将流量自动迁移到另一台Nginx上，整个过程对调用方透明；

lvs/f5

lvs就不一样了，它实施在操作系统层面；f5的性能又更好了，它实施在硬件层面；它们性能比Nginx好很多，例如每秒可以抗10w，这样可以利用他们来扩容，常见的架构图如下：

(1) 如果通过Nginx可以扩展多个tomcat一样，可以通过lvs来扩展多个Nginx；

(2) 通过keepalived+VIP的方案可以保证可用性；

DNS轮询问题---DNS轮询解决扩展性问题

此架构完美解决了高并发、高可用的架构

(1) 通过DNS轮询来线性扩展入口lvs层的性能；

(2) 通过keepalived来保证高可用；

(3) 通过lvs来扩展多个Nginx；

(4) 通过Nginx来做负载均衡，业务七层路由；