每隔几个月，当考虑涉及套接字的个人项目时，我总是有一个问题："在动态水平扩展WebSocket服务器上如何正确地负载均衡套接字？"
我理解水平扩展WebSockets背后的理论，并使用发布/订阅模型将数据传递到保存特定用户套接字连接的正确服务器。我认为我了解有效地识别具有最少当前套接字连接的服务器的方法，我想路由新的套接字连接到它。 但我不知道如何有效地将新的套接字连接路由到已选择的低套接字计数服务器。
我不认为这个答案会和特定的服务器实现有关，而是可以应用于大多数服务器。我可以轻松地使用vert.x，node.js，甚至perfect来实现这一点。
首先，你需要定义你所询问的问题的范围。如果你真正谈论动态水平扩展，即根据总负载启动和关闭服务器，那么这比仅仅确定如何路由最新传入的新套接字连接更加复杂。
要解决这个问题，你必须有一种方法来“移动”一个套接字从一个主机到另一个主机，以便你可以清除你想要关闭的主机上的连接（我在这里假设真正的动态缩放既可以升又可以降）。通常我见过的方式是通过使用一个合作的客户端来实现，告诉客户端重新连接，当它重新连接时，它会被负载均衡到不同的服务器上，因此可以清除你想要关闭的服务器。如果你的客户端已经具有自动重新连接逻辑（像socket.io一样），你可以让服务器关闭连接，客户端将自动重新连接。
至于负载均衡传入的客户端连接，你必须决定要使用哪种负载度量。最终，你需要为每个服务器进程得出一个得分，以告诉你其有多“繁忙”，以便将新连接放置在最不繁忙的服务器上。一个基本的得分只是当前连接数。如果你每个服务器进程有大量连接（数万个），并且在你的应用程序中没有特定的原因使一些连接比其他连接更繁忙，那么大数定律可能平均了负载，因此你可以只考虑每台服务器有多少连接。如果使用连接不是那么公平或均匀，那么你还必须考虑一些时间移动CPU负载的平均值，以及总连接数。
如果你将负载分配到多台物理服务器上，则需要一个负载均衡器或代理服务，每个人最初连接到该服务，该代理可以查看池中所有当前运行的服务器的度量，并将连接分配给具有最低当前得分的服务器。这可以通过代理方案或（更可扩展的）重定向来实现，因此代理在初始分配后离开了。
你还可以设置一个定期检查所有服务器集群中的负载得分（无论你选择如何计算）的进程，决定何时启动一个新服务器或关闭一个服务器，或当某台服务器的负载过高且需要将其从多个连接中踢出时，告诉该服务器强制它们重新平衡。
farm.somedomain.com的IP地址，而该自定义DNS服务器会给他们分配要分配的主机的IP地址。查询farm.somedomain.com的每个客户端可能会获得不同的IP地址。通过添加或删除它们的自定义DNS服务器来启动或关闭主机，并且该自定义DNS服务器必须包含了解所有运行主机的负载平衡逻辑和当前负载得分的逻辑。将WebSocket请求路由到一个负载均衡器，由其决定将连接发送到哪里。
例如，HAProxy 有一种用于长时间连接的 leastconn 方法，会选择最近最少使用的服务器和具有最低连接计数的服务器。
HAProxy 后端服务器权重也可以通过外部输入进行修改，@jfriend00 在其答案中详细介绍了权重的技术细节。