后端面试38讲_05_04丨网络编程原理一个字符的互联网之旅
你好,我是李智慧。
我们通常开发的面向普通用户的应用程序,目前看来呢几乎都是互联网应用程序。
也就是说,用户操作的应用程序,不管是浏览器还是移动APP,核心请求呢,都会通过互联网发送到后端的数据中心进行处理。
这个数据中心可能是像微信这样的自己建设的。
在多个地区部署的大规模机房,也可能是在阿里云这样的云服务上提供的一个虚拟主机上。
但是不管这个数据中心的大小应用程序呢,都需要在用行器和数据中心交互。
比如我们在淘宝的搜索框,随便输入一个字符a就会在屏幕上呢看到一大模机房。
比如我们的手机是如何通过互联网完成这一操作的呢?这个字符是如何穿越遥远的空间,从手机发送到淘宝的数据中心,在淘宝计算得到相关的结,然后将结果再返回给我们手机上,从而完成自己的互联网之旅呢。
虽然在我们编程的时候啊,很少要自己开发网络通信代码服务器与通开这样的部容器管理网络通信服务器之间的网络通信,通过wedouble这样的微服框架完成网络通信。
但是呢由于我们现在开发的应用主要是互联网应用,他们构建在网络通信基础之上。
网络通信的问题可能会出现在系统运行的任何时刻,了解网络通信原理,了解互联网应用如何跨越庞大的网络构建起来。
对于我们开发一个互联网应用系统很有帮助。
对于我们了解系统运行过程中各种因为网络通信而出现的问题更有帮助。
那让我们就先从DNS说起吧。
构成互联网internet的最基本的网络协议呢就是互联网协议internet protocol,简称IP协议。
Ap协议里面最重要的部分呢就是IP地址。
各种计算机设备之间能够相互通信,首先要能够找到彼此。
Ip地址就是互联网的地址标识,手机上的淘宝APP能够访问淘宝的数据中心,就是知道了淘宝的数据中心,负责请求接入的服务器的IP地址,然后建立的网络连接,最后处理请求数据。
那么淘宝的APP如何知道数据中心服务器的IP地址呢?当然淘宝的工程师可以在APP里面写使这个IP地址。
但是这样做呢会带来很多问题,比如影响编程的灵活性以及程序的可用性等等。
事实上呢,这个IP地址是通过DNS域名解析服务器得到的。
当我们打开淘宝APP的时候,淘宝要把APP首页加载进来。
这个时候就需要连接域名服务器进行域名解析,将叉叉叉淘宝点com这样的域名解析为一个IP地址,然后连接目标服务器。
事实上,DNS解析出来的IP地址呢,并不一定是淘宝数据中心的IP地址,很可能是淘宝CDN服务器的IP地址。
Cdn是内容分发网络cotant delivery network的缩写。
我们能够用手机或者电脑上网,就是因为运营服务商为我们提供了互联网接入服力,将我们的手机和电脑连接到互联网上。
App请求的数据最先到达的呢其实是运营服务商的机房。
然后呢,运营服务商通过自己建设的骨干网络和交换节点,根据我们请求数据的负载地址发往互联网的任何地方。
为了提高用户请求访问的速度,也为了降低数据中心的负载压力。
淘宝呢会在全国各地各个主要的运营服务上的接入机房中部署一些缓存服务器,缓冲那些静态的图片啦、资源文件啦等等。
这些缓冲服务器呢就构成了淘宝的CDN.如果用户请求的数据呢是静态的资源,这些资源的URL通常以image点、淘宝点com之类的二级域名进行标识域密解析的时候啊,就会解析为淘宝CDN的IP地址,请求先被CDN处理。
如果CDN中有需要的静态文件呢就直接返回。
如果没有呢,CDN会将请求发送到淘宝的数据中心。
Cdn从淘宝数据中心获得静态文件后呢,一方面缓存在自己的服务器上,一方面呢将数据返回给用户的APP.而如果请求的数据是动态的,比如有搜索关键词为a的商品列表,请求的域名可能会是涉集点淘宝点com这样的二级域名就会直接被DNS解析为淘宝的数据中心的服务器IP地址APP请求直接发送到数据中心处理。
不管是发送到CDN还是数据中心,APP请求,都会以HTTP协议发送HTTP是一个应用层协议。
当我们进行网络通信编程的时候呢,通常要关注两方面的内容。
一方面呢是应用层的通信协议,主要是我们通信的数据如何编码。
既能够使网络传输过去的数据携带必要的信息,又能够使通信的两方能够正确的识别这些数据,即通信双方应用程序需要约定一个数据编码协议。
另一方面呢,就是网络底层的通讯协议,也就是如何为网络上需要通信的两个节点建立连接,完成数据传输。
目前互联网应用中最主要的呢就是TCP协议了。
在TCP传输成协议层面,就是保证建立通信两方的稳定通信连接,将一方的数据以b at流的方式源源不断的发送到另一方。
至于这些数据代表什么意思啊,哪里是两次请求的分界点啊,TCP协议通通不管,需要应用层自己解决。
如果我们基于TCP协议,自己开发应用程序呢,就必须解决这些问题。
而互联网应用需要在全球范围内为用户提供服务,将全球的应用和全球的用户联系在一起,就需要一个统一的应用层协议了。
这个协议呢就是HTTP协议。
广稿中有一张图,这张图是HTTP的请求头的例子,包括请求的方法和请求头的参数。
请求方法呢主要有get post,这是我们最常见的两种。
此外还有delete、 put、 head、 trees等几种方法。
请求头参数包括缓冲控制,开启CTRL响应,过去时间、experience cookie等等。
Http请求。
如果是get方法呢,那么就只有请求头。
如果是post的方法呢,在请求头之后,还有一个body部分,包含请求提交的内容HTTP和在请求头的contenent的length参数。
声明body的长度。
你在文中中呢可以看到TTTP响应头例子,响应头和请求头一样,包含各种参参。
其中status状态码码,你响应状态状状态码是两百,表示应的参常相应状态码是三级级,表示颈急位重定向常用的呢是三点。
二表示请求被临时重定向到新的URL响应头中包含新的临时URL.客户端在收到响应后重新请求这个新的url状态码是四级异常,表示客户端错误。
常见的四零三就表示请求未授权被禁止访问四零四表示请求的页面不存在状态码是无级技能,表示服务器异常。
常见的五零零请求未完成五零二,请求处理超时五零三服务器过载。
如果响应正常呢,那么在响应投资后就是响应的body.浏览器的响应body通常是一个HTML页面。
App的响应body通常是个jason字符串应用程序使用操作系统的socket it编程接口进行网络编程,socket里分装了TCP协协议应程序呢通过socket ket接口使用TCP协议,完成网络编程、socket或者TCP.在应用程序看来呢,就是一个底层的同形协议。
事实上呢,TCP仅仅是一个传送层协议,在传送层协议之下呢还有网络层协议。
网络层协议之下呢还有数据链路层协议。
数据链路层协议之下呢含有物理层协议、传输层协议TCP和网络层协议AP这两个共同构成了TCPAP协议站,成为互联网应用开发最主要的通信协议OSI.开放系统互联模型呢将网络协议定义了七层TCP协议。
在将OSA顶部三层协议,应用层表示层绘画层合并为一个应用层HTTP协议就是TCPAP协议栈中的应用层协议。
物理层呢负责数据的物理传输,计算机输入输出的只能是零一这样的二进制数据。
但是真正的通信泄露里呢有光纤,由电缆,有无线,各种设备、光信号和电信号,以及无线电子信号在物理上呢是完全不同的。
如何让这些不同的设备能够理解处理相同的二进制数据呢?这就是物理层要解决的问题。
数据链路层呢就是将数据进行分装后,交给物理层进行传输。
主要就是将数据分装成数据帧,以帧为单位,通过物理层进行通信,有了帧就可以在帧上进行数据校验,进行流量控制。
数据链路层和定义帧的大小,这个大小呢被称为最大控制单元。
像HTTP要在传输的数据上添加一个HTTP头一样,数据链路层呢也会将分装好的帧添加一个针头。
针头里记录一个非常重要的信息呢,就是发送者和接收者的mac地址。
Mac地址是网卡的设备,标识符是唯一的数据帧。
通过这个信息确保数据送达到真正的目标机器。
我们前面呢已经提到网络层AP协议,使互联网应用根据AP地址就可以访问到淘宝的数据中心请求。
离开APP后呢,到达运营服务商的交换机交换机会,根据这个AP地址进行路由转发,可能中间会经过很多个转发节点。
最后数据到达淘宝的服务器,网络层的数据呢需要交给链路层进行处理。
而链路层帧的大小呢定义了最大传输节元网络层的AP数据包必须要小于最大传输单元才能进行网络传送。
这个数据包也有个AP的头,主要包括的呢就是发送者和接收者的AP地址。
Ap协议不是一个可靠的网络通信协议,并不会确保数据一定送达。
要保证通信的稳定,需要传输层协议。
Tcptcp协议在传输真实数据之前,先建立连接,这就是著名的TCP.三次握手文稿中有一张图详细解释了TCP.三次握手APP和服务器之间发送三次报文,才会建立一个TCP.连接报文中的SYN表示请求建立连接。
Ack呢表示确认APP先发送SYN等于一SEQ等于x给报。
文文表示请求建立连接x是一个随机数淘宝服务器。
收到这个报文后呢,应答SYN等于一ACK等于连接TSPQ等于y的报文表示同意建立连接TCP.收到这个报文以后呢,检查ACK的值为自己发送的SEQ值加一确认。
建立连接并发送ACK等于y加一的报文给服务器ACP.收到这个报文后,检查ACK值为自己发送的SEQ值加一确认。
建立连接。
到这里呢,APP和服务器建立起来,TCP连接就可以进行数据传输了。
Tcp也会在数据包上添加TCP头。
Tcp头除了包含一些用于t验数对于正确性和控制数据流量的信息外,还包含通信端口信息。
一台机器可能同时进行很多个进程,再进行网络通信。
如何使数据到达服务器后,能够发送给正确的进程去处理呢?就需要通过通信端口进行标识了。
Http通信端口默认是八零。
当然我们可以在启动HTTP服务器进程的时候呢,随便定一个数字,作为HTTP应用服务器进程的监听端口。
但是在APP请求的时候呢,必须在UIL中啊包含这个端口,才能在构建的TCP包中记录这个端口。
也才能够在到达服务器之后呢,被正确的HTTP服务器进程处理。
App发发送的数据只是k等于i这样一个杰省字符串,每一层协议都会在上一层协议基础上添加一个头部信息,最后分装成一个链路层的数据帧。
在网络上传送发送给淘宝的服务器,淘宝的服务器在收到这个数据之后呢,在通信协议的每一层进行校验检查,确保数据准确后将头部信息删除,再交给自己的上一层协议处理。
Htb应用服务器在最上层负责HTTP协议的处理。
最后将k等于i这个阶层字符串交给淘宝工程师开发的应用程序处理。
Http请求到达淘宝数据中心的时候,事实上也并不是直接发送给搜索服务器去处理。
因为对于淘宝这样的日活用户数亿的互联网应用而言,每时每刻呢都有大量的请求到达数据中心。
为了使这些海量的请求能够得到及时处理,淘宝会部署一个由数千台服务器组成的搜索服务器集群,共同为这些高并发的请求提供服务。
因此呢,搜索请求到达数据中心的时候啊,首先到达的是淘宝搜索服务器集群的负载均衡服务器。
也就是说DNS解析出来的是负载均衡服务器的IP地址。
然后由负载均衡服务器将请求分发到搜索服务器集群中的五台服务器上。
负载均衡服务器的实现手段有很多种,淘宝这样规模的应用通常使用的是linux,是奈核支持的链路层负载均衡。
这种负载均衡模式也叫做直接路由模式。
在负载均衡服务器的linux操作系统内核拿到数据包后,直接修改数据帧中的mac地址。
将其修改为搜索服务器集群中某个服务器的mac地址。
然后将数据重新发回服务器。
集群所在的局域网。
这个数据帧呢就会被某个真实的搜索服务器接收到负载均衡服务器和集群内的搜索服务器配置相同的虚拟IP地址。
也就是说呢,在网络通信的AP层面,负载均衡服务器变更mac地址的操作是透明的,不影响TCPAP的通信连接。
所以真实的搜索服务器处理完搜索请求才送应答。
响应的时候呢,会直接发请求才送给请应的APP手机不会在经过负载均衡服务器。
事实上这个搜索支付a的互联网集群,到这里还没有结束呢。
淘宝搜索服务器程序才收到这个搜索请求的时候啊。
首先在本地缓冲中检查是否有对应的搜索结果。
如果没有呢,就会将这个搜索请求,也就是这个字符发送给一个分布式缓冲集群,查找是否有对应的搜索结果。
如果还没有啊,才会将这个请求发送给一个更大规模的搜索引擎集群,去查找这些分布式缓冲集群。
或者是搜索引擎集群呢都需要通过RPC远程过程调用的方法进行调用请求,也就是需要通过网络进行服务调用。
这些网络服务呢也都是基于TCP协议进行编程的对互联网应用,用户请求数据离开手机,通过各种网络通信,最后到达数据中心的应用服务器进行最后的计算处理。
中间会经过许多环节。
事实上呢这些环节就构成了互联网系统的整体架构。
所以通过网络通信,可以将整个互联网应用系统串联起来,对理解互联网系统的技术架构很有帮助。
在程序开发运行过程中,遇到各种网络相关的问题,对理解快速的分析问题,快速的解决问题。
负载均衡就是将不同的网络请求数据分发到不同的服务器上,每一台服务器承担一部分请求负载压力,多台服务器共同承担胃部并发请求的压力。
除了文中提到的这种负载均衡实现方案,你还了解哪些方案呢?欢迎你在评论区写下你的思考,也欢迎把这篇文章分享给你的朋友,和同事一起交流一下。