0.前期准备
使用Debian环境。安装Nginx(默认安装),一个web项目,安装tomcat(默认安装)等。
1.一份Nginx.conf配置文件
基本配置这个文件,就可以实现负载了。但是里面的各种关系要了解就比较麻烦了。这篇博客,也不是教学篇,是记录一下,方便以后自己看了。
2.基础讲解
现在假使有一台电脑192.168.8.203这台电脑,上面部署了Tomcat,里面8080端口有J2EE的服务,通过浏览器可以正常浏览网页。现在有一个问题tomcat是一个比较全面的web容器,对静态网页的处理,应该是比较费资源的,特别是每次都要从磁盘读取静态页面,然后返回。
![Nginx+Tomcat 动静分离实现负载均衡](https://s3.51cto.com/oss/201911/12/13f60c5f37dfb26689a508bc9f264d46.jpeg)
![Nginx+Tomcat 动静分离实现负载均衡](https://s2.51cto.com/oss/201911/12/730aab751196c08abf3846c7a8ccdea0.jpeg)
这中间会消耗Tomcat的资源,可能会使那些动态页面解析性能影响。秉承Linux哲学,一个软件只做一件事的原则。Tomcat就应该只处理JSP动态页面。这里就用到以前了解的Nginx来进行反向代理。第一步代理,实现动静网页分离。这个很简单的。
![Nginx+Tomcat 动静分离实现负载均衡](https://s1.51cto.com/oss/201911/12/942f813a20ba055c5babe1c2c6d3e049.jpeg)
修改nginx的配置文件 /etc/nginx/nginx.conf 默认有个配置文件的。其实大部分都差不多,关键还是server段的设置。这里我设置server段如上所示,其他段复制就可以了。
server段里面的解释如下:第35行为监听本机80端口。37-39行表示默认主页,这里的默认主页我是index.jsp 对应到我项目中是一个index。 这里根据需要可以改为
indexindex.jspindex.htmlindex.htmindex.php
具体可参考其他文章。 关键的第40行,这个是正则匹配,网上也有很多介绍。这里匹配我项目中用到的所有静态网页后缀。第41行是代理地址。这里我代理到我的web应用中。expires 30d缓存为30天,这里的缓存是对应到前端页面,用户的Cache-Control字段
第44行中那个正则是匹配无后缀的页面。我项目中jsp页面是无后缀的。这里可以根据需要进行修改。同样代理到192.168.8.203:8080这里。到这里你可能会问,这有毛意思啊?当然不是这样了。简单的实现静动分离,我们可以把第41行进行修改,改为
![Nginx+Tomcat 动静分离实现负载均衡](https://s4.51cto.com/oss/201911/12/a3ed3e9cff1892d85a75b241fd380565.jpeg)
root /var/lib/tomcat7/webapps/JieLiERP/WEB-INF
表示不代理,直接从本地磁盘拿。通过查tomcat日志可以看到静态页面是没有访问到的。但这样又有一个问题。
这样的灵活性不好,对下面要讲到的内存缓存和集群部署来说都是不友好的,所以又有了下面的这种写法。再写一个server段。
![Nginx+Tomcat 动静分离实现负载均衡](https://s1.51cto.com/oss/201911/12/b618f1f3e8f656e5c3ceeacf19970643.jpeg)
这次监听808端口,然后上上面的代码41行就可以修改为 proxy_pass http://192.168.8.203:808了,到这里就实现了动静分离了。如果多台服务器,就修改对应的ip就可以了。如果发现连接不上的,要检查一下防火墙,权限等外部问题,这个配置是这样的。
如果单纯这样的话,我们会发现页面直接传输过于占用带宽。对应web的优化,这里想到的是通过对页面进行gzip压缩,然后传到用户那里,再解压,这样可以有效的减少带宽。这里就会用到Nginx 的gzip模块了。默认的Nginx是集成有gzip模块的。只需在http段增加下面配置即可。
![Nginx+Tomcat 动静分离实现负载均衡](https://s5.51cto.com/oss/201911/12/69e1ea3c153e73df42f6f6e5e15c1e18.jpeg)
给个首页看看效果
不要在意请求数不一样,那两个请求是谷歌插件来的。不用觉得我在骗你。
![Nginx+Tomcat 动静分离实现负载均衡](https://s1.51cto.com/oss/201911/12/2ee0c472da4bc66958b72e836e8f6910.jpeg)
作为假使有很多人访问的网站来说,缓存肯定是很重要的东西了。
一开始是想通过插件,让Nginx和Redis进行合成,然后Nginx使用Redis来缓存的,但是发现配置起来很麻烦,还要自己下载插件,重新编译Nginx,比较麻烦,所以这里觉得用Nginx自带的缓存也是不错的选择。
虽然效率比不上redis,但是有还是比没有好。Nginx默认的缓存是磁盘文件系统的缓存,而不是像Redis那样的内存级别的缓存。一开始我以为Nginx就只有这样。后来查了写资料,才知道是我太天真了,对Linux不是很了解导致的。Linux的一切皆文件。
原来我们可以把文件缓存到内存对应的Linux文件系统中。我说的可能比较难以理解,请自行搜索/dev/shm 这个文件目录。我们把文件缓存到这个文件目录里,其实就相当与内存的缓存了。只不过还是靠文件系统管理。所以比不上自定义格式的Redis那样的内存缓存。
在http段进行基本配置
![Nginx+Tomcat 动静分离实现负载均衡](https://s3.51cto.com/oss/201911/12/276bd810005f68397850387f456220b8.jpeg)
![Nginx+Tomcat 动静分离实现负载均衡](https://s4.51cto.com/oss/201911/12/5d5a7ad1357089461e001cb599047f22.jpeg)
经过这两个的配置就基本能实现了,这里说几个注意项,也是困扰我很久的问题。上面第一段代码第6行,proxy_ignore_headers 如果web项目中的html的head头里面指定
![Nginx+Tomcat 动静分离实现负载均衡](https://s4.51cto.com/oss/201911/12/32a0208625ccd387a650ebef89abc04e.jpeg)
这些不缓存的话,就要加上proxy_ignore_headers的配置项了。还有一点就是/dev/shm下面的文件系统权限默认只给root用户,所以要chmod 777 -R /dev/shm 这样不是很安全的做法,如果实际上线可以给定某个用户组,关于用户组的设置是配置的第一行
userwww www;
上面第二段代码的第6行是增加一个header字段方便查看是否击中缓存。
我们rm -rf /dev/shm/JieLiERP/proxy_* 下面的所有文件(注意这里如果是进行多次测试的话要nginx -s reload 重新读取配置或重启服务,因为你rm -rf只是删除了缓存文件,但是缓存的结构信息还在nginx进程里面,结构还在,如果不重启的话,是会出现访问不到的)
所以要记得重启哦。下面是运行效果
![Nginx+Tomcat 动静分离实现负载均衡](https://s4.51cto.com/oss/201911/12/055b76dd4035869dafa94927d2a9b3f8.jpeg)
第一次访问
第二次访问,在浏览器中Ctrl+Shift+R 强制刷新
![Nginx+Tomcat 动静分离实现负载均衡](https://s4.51cto.com/oss/201911/12/d6543dab08a787308b565253ee40ad8b.jpeg)
到这里就可以看到效果了。我们查看一下/dev/shm这个里面
![Nginx+Tomcat 动静分离实现负载均衡](https://s4.51cto.com/oss/201911/12/06afdc7ae45ceb6177a33920a188a333.jpeg)
![Nginx+Tomcat 动静分离实现负载均衡](https://s1.51cto.com/oss/201911/12/62f87763a0356b52e0e10884cda73217.jpeg)
到这里已经快结束了。最后也是比较关键的一个技术点,就是集群,集群,集群。这个就要用到upstream了,看到最开头的配置文件了吗,就是那个
![Nginx+Tomcat 动静分离实现负载均衡](https://s1.51cto.com/oss/201911/12/458bbe427c6baefdcf3635252db20bad.jpeg)
![Nginx+Tomcat 动静分离实现负载均衡](https://s1.51cto.com/oss/201911/12/7833387f743e1494204216da0e7a3492.jpeg)
上面那个就是集群组了。upstream是关键字,static 和 dynamic是两个服务器集群组的名称。以第一个为例,server 127.0.0.1:808 是服务器地址,后面的weight=1 是权重。有多个就写多个。
亲测试过,集群中的一个坏了,不影响系统运行。至于更多的轮询规则,可以参考网上更多的资料。这里不多说。至于怎么使用呢? proxy_pass
http://192.168.8.203:808 改为 proxy_pass http://static; 这样即可实现均衡。
到这里就结束了。
把上面各个部分根据自己需求配置起来就可以实现单机房负载均衡了。 上面这种做法有一个缺点就是在前面的那一台nginx如果当机,后面所以机器就失去了被访问的能力了,所以需要在前面实现多个nginx多机房的负载。关于这个就是另外一个话题了。目前还没有研究。以后有机会再说了。
上面动态服务器组如果是那种需要保存用户状态的话,会有问题,就是session问题,比如我在server1进行登录后,下一次动态服务器组进行轮询后可能分配到server2,就会造成要重新登录。
治标的办法是,配置轮询规则,根据用户请求的IP进行Hash,然后分配对应的服务器。具体配置如下:
![Nginx+Tomcat 动静分离实现负载均衡](https://s3.51cto.com/oss/201911/12/40b6e4e6dbc0440abcd13b10cd0c52b9.jpeg)
这样就可以实现一个用户对应一个服务器节点。这样就不会有重复登录的问题。另一种治本的办法是,利用缓存系统进行session的统一存储管理。具体的做法我还没有试验过,参考资料有相关的文章,可以了解一下。
Nginx增加SSL功能,同样的Nginx默认是有SSL模块功能,我们不用额外安装,只需要简单的配置就可以了。首先我们先来生成一些必要的证书。制作的过程还是比较简单的。
![Nginx+Tomcat 动静分离实现负载均衡](https://s5.51cto.com/oss/201911/12/2c242ab7065cadc3154265a58d9ebccf.jpeg)
下面就是配置Nginx了,我们可以把需要用到的client.pem, client.pem, client.key,unsecure这三个文件放到Nginx的一个目录下,剩下的Nginx配置如下:
![Nginx+Tomcat 动静分离实现负载均衡](https://s4.51cto.com/oss/201911/12/edbf140c7b3659719712e7f096b5b289.jpeg)
重启Nginx,我们就可以访问Https网站了。 但是他喵的出现这个
![Nginx+Tomcat 动静分离实现负载均衡](https://s3.51cto.com/oss/201911/12/dc0bbeee349faa3a161c629c8d4833e0.jpeg)
这个是没有什么问题,具体原因是这个CA证书要得到认可。所以我们上面自己生成的https证书,只是自己生成的,如果要变成下面这种,就需要花钱购买了,剩下的这个自己上网解决。
(虽然自己生成的证书可以用,但是还是抵挡不了DNS欺骗,所以这种不安全证书,跟没有其实是一样的。不过据说这样可以阻止运营商劫持。)
![Nginx+Tomcat 动静分离实现负载均衡](https://s2.51cto.com/oss/201911/12/f4b5266eac7809041543523b9c011f60.jpeg)
增加一个,就是在我们输入http连接时自动跳转到安全的https连接。这个还是比较实用的。方法还是有多种的,具体可以看参考资料里面的博客。我是使用下面这一种,我觉得是比较简单的,代码改动比较少的。就是对80端口进行代理转发。
![Nginx+Tomcat 动静分离实现负载均衡](https://s3.51cto.com/oss/201911/12/cd84382c3edff8a7fe65c3349a142699.jpeg)