AWS ELB 服务的坑

更新：2022-05-23 13:42:06编辑：Story归类：nginx人气：236

目前发现AWS ELB服务有两个大坑：

基于HTTP的负载均衡频繁504，直接是ELB返回的，后端根本就没接收到请求。
基于TCP的负载均衡没法获取到客户端IP地址。

TCP 负载均衡其实是把客户端的请求截断，然后自己发送一个请求给后端，拿到后端返回的数据之后再返回给客户端，这样后端看到的是负载均衡器的IP，看不到客户端的真实IP了 (如果用基于HTTP的Load Balancer，会自动在HTTP头记录 X-Forwarded-For , 后端自然很容易获取到源IP )。其实这和LVS FULLNAT 模式有点像，LVS FULLNAT的解决办法是把真实IP写在TCP option里面，然后后端用toa模块拿到。

对于这个问题，AWS给了一个解决办法，叫做 Proxy Protocol ，可以对TCP 负载均衡器开启Proxy Protocol，它会在请求的第一行写入源IP、源端口等信息，以 \r\n 结尾，格式如下：

PROXY_STRING + single space + INET_PROTOCOL + single space + CLIENT_IP + single space + PROXY_IP + single space + CLIENT_PORT + single space + PROXY_PORT + “\r\n”

开启 Proxy Protocol

第一步，为集群 ProxyProtocolTest 创建一个Proxy Protocol，叫 EnableProxyProtocol

# aws elb create-load-balancer-policy –load-balancer-name ProxyProtocolTest –policy-name EnableProxyProtocol  –policy-type-name ProxyProtocolPolicyType –policy-attributes AttributeName=ProxyProtocol,AttributeValue=True

1	# aws elb create-load-balancer-policy –load-balancer-name ProxyProtocolTest –policy-name EnableProxyProtocol –policy-type-name ProxyProtocolPolicyType –policy-attributes AttributeName=ProxyProtocol,AttributeValue=True

第二步，为 ProxyProtocolTest 激活 EnableProxyProtocol

# aws elb set-load-balancer-policies-for-backend-server –load-balancer-name ProxyProtocolTest –instance-port 80 –policy-names EnableProxyProtocol

1	# aws elb set-load-balancer-policies-for-backend-server –load-balancer-name ProxyProtocolTest –instance-port 80 –policy-names EnableProxyProtocol

然后确认开启

# aws elb describe-load-balancers –load-balancer-name ProxyProtocolTest

1	# aws elb describe-load-balancers –load-balancer-name ProxyProtocolTest

可以看到类似下面的字段：

 “BackendServerDescriptions”: [
                {
                    “InstancePort”: 80,
                    “PolicyNames”: [
                        “EnableProxyProtocol”
                    ]
                }
            ]

“ BackendServerDescriptions” : [

{

“ InstancePort” : 80 ,

“ PolicyNames” : [

“ EnableProxyProtocol”

]

}

]

关闭Proxy Protocol

# aws elb set-load-balancer-policies-for-backend-server –load-balancer-name ProxyProtocolTest –instance-port 80 –policy-names “[]”

1	# aws elb set-load-balancer-policies-for-backend-server –load-balancer-name ProxyProtocolTest –instance-port 80 –policy-names “[]”

获取客户端IP

开启Proxy Protocol之后，看看后端如何获取到源IP，这里只看nginx。

nginx 从1.5.12 版本开始支持Proxy Protocol ，只需要配置一下就OK了，说说怎么配。

第一部分，在http 里面配置如下：

set_real_ip_from   172.0.0.0/8;
real_ip_header     proxy_protocol;

1 2	set_real_ip _from 172.0.0.0 / 8 ; real_ip_header proxy_protocol ;

表示把来在172.0.0.0/8 段(TCP负载均衡器的IP段)的所有请求的来源地址，都改成 $proxy_protocol_addr，并且记录在 $remote_addr 变量里。

log_format  main  ‘$proxy_protocol_addr $remote_addr – $remote_user [$time_local] '
                   “$request” $status $body_bytes_sent “$http_referer” ‘
                      ‘”$http_user_agent” “$http_x_forwarded_for” ‘
                      ‘”$upstream_addr” “$request_time” “$upstream_response_time” '
                      ' “$upstream_cache_status”‘;