命名抽象：客户端可以通过预定义的机制来寻址负载均衡器，而不是每个客户端都需要了解每个后端（服务发现），然后将名称解析的任务委托给负载均衡器。预定义的机制包括内置库和众所周知的DNS/IP/端口地址，后面会有详细的讨论。

容错：通过健康检查和各种算法技术，负载均衡器的路由方法可以绕过坏的或者超负载的后端。这也意味着运维人员可以随时优先修复后端错误。

低成本和高性能：分布式系统网络一致性比较差。系统可能会横跨不同的网络区域。在一个区域内，网络之间通常以相对小的带宽建立的。而在不同的区域之间，网络大带宽成为常态（带宽的大小是指通过NIC使用的带宽量占路由器之间可用带宽的百分比）。智能的负载均衡可以尽可能保持区域内的请求流量，从而提高性能（低延迟）并降低整体系统成本（减少区域间的带宽和光纤）。

服务发现

静态配置文件

DNS

Zookeeper，Etcd，Consul 等

Envoy的通用数据平面API

健康检查

主动式：负载平衡器将定期发送ping（例如，对/healthcheck端点的HTTP请求）到后端，并用它来衡量健康状况

被动式：负载均衡器从主数据流中检测健康状况。例如，如果连续出现三个连接错误，则L4负载均衡器会认为后端是不健康的

负载均衡，最流行的负载均衡算法是二节点最小请求负载均衡（power of 2 least request load balancing）

粘滞会话（Sticky sessions），在某些应用中，同一会话的请求到达相同的后端是很重要的

TLS 终止：许多L7负载均衡器会执行大量的TLS处理，包括终止，证书验证和保存，使用 SNI 的证书服务等

可观察性

中间代理：是最简单的负载平衡拓扑。缺点是：单点故障，伸缩瓶颈和黑箱操作

边缘代理：与中间代理类似，但通常无法避免

嵌入式客户端库：提供了最好的性能和可扩展性，但是需要在每种语言中实现该库，并跨所有服务升级库

Sidecar 代理，性能比嵌入式客户端库拓扑弱，但不受任何限制，这种拓扑已经被普遍推广为"服务网格"（Service Mesh），最受欢迎的Sidecar 代理负载平衡器是 Envoy，NGINX，HAProxy 和 Linkerd。