Nginx负载均衡处理后端链接

Nginx 不仅可以满足作为web 服务端的需求，同时也可以作为负载均衡。
对于现在的大并发的情况，单节点已经无法满足我们大用户量的并发并发请求，这个时候往往我们需要
多部署几台server以满足需求。可以考虑用LVS来实现这个需求，LVS有三种模式：NET/TUN/DR。
其中DR模式是应用比较广的模式，该模式下用户的请求到达LVS调度器，LVS修改MAC转发到realserver，
realserver处理完直接返回给客户端，而不需要经过调度器。
这里主要讨论Nginx负载均衡，在开发过程中比如我们采用http_lua_module 并结合nginx处理业务逻辑，
有时候避免不了要在自己的模块中请求后端服务，那么我们可以充分利用nginx 负载均衡功能。首先可以使
用Upstream，将请求发送到上游服务端。Nginx 负载均衡有四种模式：

轮询均衡

每个请求按时间顺序逐一分配到不同的后端服务器，如果后端服务器down掉，能自动剔除。
1
2
3
4
5
6
7
8
9
10
upstream test_svr {   
 server 127.0.0.1:9090 down;
 server 127.0.0.1:8080 weight=2;
 server 127.0.0.1:6060;
 server 127.0.0.1:7070 backup;
}
 ....
 location test/{  
    proxy_pass http://test_svr;  
}

upstream 每个设备的状态:

down 表示单前的server暂时不参与负载

weight 默认为1.weight越大，负载的权重就越大。

max_fails ：允许请求失败的次数默认为1.当超过最大次数时，返回proxy_next_upstream 模块定义的错误

fail_timeout:max_fails 次失败后，暂停的时间。

backup：其它所有的非backup机器down或者忙的时候，请求backup机器。所以这台机器压力会最轻。

IP Hash 均衡
ip hash是nginx内置的另一个负载均衡的策略，流程和轮询很类似，只是其中的算法和具体的策略有些变化。
1
2
3
4
5
upstream backend {
server 127.0.0.1:8080 ;
server 127.0.0.1:8081 ;
ip_hash;
}
[引用]hash值既与ip有关又与后端机器的数量有关。经过测试，上述算法可以连续产生1045个互异的value，
这是该算法的硬限制。对此nginx使用了保护机制，当经过20次hash仍然找不到可用的机器时，算法退化成轮询。
因此，从本质上说，ip hash算法是一种变相的轮询算法，如果两个ip的初始hash值恰好相同，那么来自这两个
ip的请求将永远落在同一台服务器上，这为均衡性埋下了很深的隐患。

另外，使用IP hash需要注意的是，如果nginx不是最前端，那么可能经过前端的一个代理过来，再到nginx时此时客户端的ip 永远都是前端代理的ip，所以ip_hash将没有效果。可以考虑使用第三方模块的url_hash。
fair

fair策略是扩展策略，默认不被编译进nginx内核。其原理是根据后端服务器的响应时间判断负载情况，从中选出负载最轻的机器进行分流。这种策略具有很强的自适应性，但是实际的网络环境往往不是那么简单，因此要慎用。
通用hash、一致性hash

这两种也是扩展策略，在具体的实现上有些差别，通用hash比较简单，可以以nginx内置的变量为key进行hash，一致性hash采用了nginx内置的一致性hash环，可以支持memcache。

1 2	然后在lua业务代码中： local ret=ngx.location.capture("/test/");