分布式架构系列:负载均衡技术详解

  面对大量用户访问、高并发请求,海量数据,可以使用高性能的服务器、大型数据库,存储设备,高性能Web服务器,采用高效率的编程语言比如(Go,Scala)等,当单机容量达到极限时,我们需要考虑业务拆分和分布式部署,来解决大型网站访问量大,并发量高,海量数据的问题。

  从单机网站到分布式网站,很重要的区别是业务拆分和分布式部署,将应用拆分后,部署到不同的机器上,实现大规模分布式系统。分布式和业务拆分解决了,从集中到分布的问题,但是每个部署的独立业务还存在单点的问题和访问统一入口问题,为解决单点故障,我们可以采取冗余的方式。将相同的应用部署到多台机器上。解决访问统一入口问题,我们可以在集群前面增加负载均衡设备,实现流量分发。

  负载均衡(Load Balance),意思是将负载(工作任务,访问请求)进行平衡、分摊到多个操作单元(服务器,组件)上进行执行。是解决高性能,单点故障(高可用),扩展性(水平伸缩)的终极解决方案。

  本文是负载均衡详解的第一篇文章,介绍负载均衡的原理,负载均衡分类(DNS负载均衡,HTTP负载均衡,IP负载均衡,链路层负载均衡,混合型P负载均衡)。部分内容摘自读书笔记。

一、负载均衡原理

  系统的扩展可分为纵向(垂直)扩展和横向(水平)扩展。纵向扩展,是从单机的角度通过增加硬件处理能力,比如CPU处理能力,内存容量,磁盘等方面,实现服务器处理能力的提升,不能满足大型分布式系统(网站),大流量,高并发,海量数据的问题。因此需要采用横向扩展的方式,通过添加机器来满足大型网站服务的处理能力。比如:一台机器不能满足,则增加两台或者多台机器,共同承担访问压力。这就是典型的集群和负载均衡架构:如下图:

分布式架构系列:负载均衡技术详解

  1、应用集群:将同一应用部署到多台机器上,组成处理集群,接收负载均衡设备分发的请求,进行处理,并返回相应数据。

  2、负载均衡设备:将用户访问的请求,根据负载均衡算法,分发到集群中的一台处理服务器。(一种把网络请求分散到一个服务器集群中的可用服务器上去的设备)

负载均衡的作用(解决的问题):

  1.解决并发压力,提高应用处理性能(增加吞吐量,加强网络处理能力);

  2.提供故障转移,实现高可用;

  3.通过添加或减少服务器数量,提供网站伸缩性(扩展性);

  4.安全防护;(负载均衡设备上做一些过滤,黑白名单等处理)

二、负载均衡分类

  根据实现技术不同,可分为DNS负载均衡,HTTP负载均衡,IP负载均衡,链路层负载均衡等。

2.1 DNS负载均衡

  最早的负载均衡技术,利用域名解析实现负载均衡,在DNS服务器,配置多个A记录,这些A记录对应的服务器构成集群。大型网站总是部分使用DNS解析,作为第一级负载均衡。如下图:

分布式架构系列:负载均衡技术详解

优点

  使用简单:负载均衡工作,交给DNS服务器处理,省掉了负载均衡服务器维护的麻烦

  提高性能:可以支持基于地址的域名解析,解析成距离用户最近的服务器地址,可以加快访问速度,改善性能;

缺点

  可用性差:DNS解析是多级解析,新增/修改DNS后,解析时间较长;解析过程中,用户访问网站将失败;

  扩展性低:DNS负载均衡的控制权在域名商那里,无法对其做更多的改善和扩展;

  维护性差:也不能反映服务器的当前运行状态;支持的算法少;不能区分服务器的差异(不能根据系统与服务的状态来判断负载)

实践建议

  将DNS作为第一级负载均衡,A记录对应着内部负载均衡的IP地址,通过内部负载均衡将请求分发到真实的Web服务器上。一般用于互联网公司,复杂的业务系统不合适使用。如下图:

 分布式架构系列:负载均衡技术详解

2.2  IP负载均衡

  在网络层通过修改请求目标地址进行负载均衡。

  用户请求数据包,到达负载均衡服务器后,负载均衡服务器在操作系统内核进程获取网络数据包,根据负载均衡算法得到一台真实服务器地址,然后将请求目的地址修改为,获得的真实ip地址,不需要经过用户进程处理。

  真实服务器处理完成后,响应数据包回到负载均衡服务器,负载均衡服务器,再将数据包源地址修改为自身的ip地址,发送给用户浏览器。如下图:

分布式架构系列:负载均衡技术详解

  IP负载均衡,真实物理服务器返回给负载均衡服务器,存在两种方式:(1)负载均衡服务器在修改目的ip地址的同时修改源地址。将数据包源地址设为自身盘,即源地址转换(snat)。(2)将负载均衡服务器同时作为真实物理服务器集群的网关服务器。

优点:

  (1)在内核进程完成数据分发,比在应用层分发性能更好;

缺点:

  (2)所有请求响应都需要经过负载均衡服务器,集群最大吞吐量受限于负载均衡服务器网卡带宽;

2.3 链路层负载均衡

  在通信协议的数据链路层修改mac地址,进行负载均衡。

  数据分发时,不修改ip地址,指修改目标mac地址,配置真实物理服务器集群所有机器虚拟ip和负载均衡服务器ip地址一致,达到不修改数据包的源地址和目标地址,进行数据分发的目的。

  实际处理服务器ip和数据请求目的ip一致,不需要经过负载均衡服务器进行地址转换,可将响应数据包直接返回给用户浏览器,避免负载均衡服务器网卡带宽成为瓶颈。也称为直接路由模式(DR模式)。如下图:

分布式架构系列:负载均衡技术详解

优点:性能好;

缺点:配置复杂;

  实践建议:DR模式是目前使用最广泛的一种负载均衡方式。

2.4 混合型负载均衡

  由于多个服务器群内硬件设备、各自的规模、提供的服务等的差异,可以考虑给每个服务器群采用最合适的负载均衡方式,然后又在这多个服务器群间再一次负载均衡或群集起来以一个整体向外界提供服务(即把这多个服务器群当做一个新的服务器群),从而达到最佳的性能。将这种方式称之为混合型负载均衡。

  此种方式有时也用于单台均衡设备的性能不能满足大量连接请求的情况下。是目前大型互联网公司,普遍使用的方式。

方式一,如下图:

分布式架构系列:负载均衡技术详解

 以上模式适合有动静分离的场景,反向代理服务器(集群)可以起到缓存和动态请求分发的作用,当时静态资源缓存在代理服务器时,则直接返回到浏览器。如果动态页面则请求后面的应用负载均衡(应用集群)。

方式二,如下图:

分布式架构系列:负载均衡技术详解

  以上模式,适合动态请求场景。

  因混合模式,可以根据具体场景,灵活搭配各种方式,以上两种方式仅供参考。

三、负载均衡算法

  常用的负载均衡算法有,轮询,随机,最少链接,源地址散列,加权等方式;

3.1 轮询

  将所有请求,依次分发到每台服务器上,适合服务器硬件同相同的场景。

优点:服务器请求数目相同;

缺点:服务器压力不一样,不适合服务器配置不同的情况;

3.2 随机

请求随机分配到各个服务器。

优点:使用简单;

缺点:不适合机器配置不同的场景;

3.3 最少链接

  将请求分配到连接数最少的服务器(目前处理请求最少的服务器)。

  优点:根据服务器当前的请求处理情况,动态分配;

  缺点:算法实现相对复杂,需要监控服务器请求连接数;

3.4 Hash(源地址散列)

  根据IP地址进行Hash计算,得到IP地址。

  优点:将来自同一IP地址的请求,同一会话期内,转发到相同的服务器;实现会话粘滞。

  缺点:目标服务器宕机后,会话会丢失;

3.5 加权

  在轮询,随机,最少链接,Hash’等算法的基础上,通过加权的方式,进行负载服务器分配。

  优点:根据权重,调节转发服务器的请求数目;

  缺点:使用相对复杂;

四、硬件负载均衡

  采用硬件的方式实现负载均衡,一般是单独的负载均衡服务器,价格昂贵,一般土豪级公司可以考虑,业界领先的有两款,F5和A10。

使用硬件负载均衡,主要考虑一下几个方面:

(1)功能考虑:功能全面支持各层级的负载均衡,支持全面的负载均衡算法,支持全局负载均衡;

(2)性能考虑:一般软件负载均衡支持到5万级并发已经很困难了,硬件负载均衡可以支持

(3)稳定性:商用硬件负载均衡,经过了良好的严格的测试,从经过大规模使用,在稳定性方面高;

(4)安全防护:硬件均衡设备除具备负载均衡功能外,还具备防火墙,防ddos攻击等安全功能;

(5)维护角度:提供良好的维护管理界面,售后服务和技术支持;

(6)土豪公司:F5 Big Ip 价格:15w~55w不等;A10 价格:55w-100w不等;

缺点

(1)价格昂贵;

(2)扩展能力差;

4.4 小结

(1)一般硬件的负载均衡也要做双机高可用,因此成本会比较高。

(2)互联网公司一般使用开源软件,因此大部分应用采用软件负载均衡;部分采用硬件负载均衡。

  比如某互联网公司,目前是使用几台F5做全局负载均衡,内部使用Nginx等软件负载均衡。

来源:http://www.cnblogs.com/itfly8/p/5043435.html

分布式架构系列:负载均衡技术详解

 

原文链接:https://www.cnblogs.com/magedu/p/10620656.html

原创文章,作者:优速盾-小U,如若转载,请注明出处:https://www.cdnb.net/bbs/archives/20806

(0)
优速盾-小U的头像优速盾-小U
上一篇 2024年2月25日 03:59
下一篇 2024年2月25日 17:08

相关推荐

  • 解决github访问慢和下载项目慢的问题

    推荐 1 一、国内访问 GitHub 为什么很慢? GitHub的cdn域名遭到DNS污染,导致无法连接使用 GitHub 的加速分发服务器,才使得国内访问速度很慢。 二、如何解决…

    2023年11月1日
    00828
  • 阿里云服务器地域的选择

    阿里云服务器的地域要谨慎选择,云服务器创建后地域不可更改,关于阿里云服务器地域选择一般遵循就近选择,用户距离云服务器地域越近&#xff0c…

    网站百科 2025年6月18日
    00247
  • CDN

    内容分发网络(cdn)采用智能路由和流量管理技术,及时发现能够给访问者提供最快响应的加速节点,并将访问者的请求导向到该加速节点,由该加速节点提供内容服务。利用内容分发与复制机制,C…

    网站百科 2025年6月18日
    00415
  • 解决github访问速度慢的问题

    导致问题的原因 是因为github的加速分发服务器,他可能一个域名对应了很多个节点,然后我们的DNS遭到了污染,导致我们访问到了一台错误的ip上面,所以我们的响应速度就会非常的慢,…

    2023年11月10日
    00892
  • 如何保证网站的安全?

    网站的安全性对一网站是非常重要的,尤其是正在进行优化的网站。网站如果被黑,轻则影响网站的运营,重则丢失关键词的排名,失去大量的流量。那么我们该如何保证网站的安全呢?郑州SEO来给大…

    网站百科 2023年6月3日
    00713
  • WEB安全:文件上传漏洞

    文件上传漏洞过程 用户上传了一个可执行的脚本文件,并通过此脚本文件获得了执行服务器端命令的能力。 一般的情况有: 上传漏洞需要具备以下几个条件: 常见,绕过文件上传检查功能 常见的…

    网站百科 2023年7月22日
    00937
  • 方法

    相信有很多的朋友会被这几个名词绕的有些头大,很多朋友觉得智能DNS跟双线加速、cdn加速是类似的技术。其实不然,虽然他们的目的都是一个:让用户更快的访问网站。但是他们的应用原理却大…

    网站百科 2023年11月22日
    00694
  • 国产操作系统

    现阶段,我国市场上的国产操作系统达10种以上,其中主流的包括UOS(统信软件)、麒麟OS、普华软件、中兴新支点、凝思、中科方…

    网站百科 2025年6月18日
    00683
  • 超实用!独立站怎么做SEO优化的3个小技巧,建议赶紧收藏

    SEO对于独立站来说,是一种非常好的引流的手段,所以SEO工具对独立建站的跨境卖家来说非常友好。道理很简单,因为你的网站因为SEO优化排名靠前,这比单纯的广告更易于被受众接受。所以…

    2024年4月1日
    00700
  • web站点加速方案

    加速网站的方案有很多种,包括使用 cdn、优化网站内容、压缩资源、减少 HTTP 请求、使用缓存技术等。下面是一些常见的 Web 站点加速方案: 综合使…

    网站百科 2024年8月23日
    00446

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

优速盾注册领取大礼包www.cdnb.net
/sitemap.xml