首页 > 其他分享> > 华为 18 级工程师三年心血终成趣谈网络协议文档（附大咖讲解）

华为 18 级工程师三年心血终成趣谈网络协议文档（附大咖讲解）

2022-01-22 20:31:42 作者：互联网

前言

虽然在大学的时候大家都学过网络协议，但是肯定感觉网络协议的知识点非常多，非常复杂。学的时候就浑浑噩噩，真正到了实践中更是糊里糊涂，一旦工作中遇到了网络问题，除了会简单地 ping 几下，基本没有什么解决问题的思路。然而当拿起书来学习，或者看一些官方文档的时候，各种生僻的专业词汇马上扑面而来，每了解其中的一个词汇，都要看多篇文章，读多本书，导致一篇即使很短的有关网络技术的文章也要几个星期才能看完。

这严重打击着大家的自信心，并且很容易让人在技术的海洋中迷失自我，从而产生“从人门到放弃”的冲动！

网络协议和变化万千的前沿技术不同，它的变化比较小，一旦掌握到一定程度，就会一直受益技术变很快，这几年OpenStack、docker、Mesos、kubernetes、微服务、serverless、AIops等技术层出不穷，让大多数技术人员应接不暇，但是掌握了基础知识后，反而发现很多技术看起来“轰轰烈烈”，脱下外衣，其实本质还是操作系计算机网络、算法与数据结构、编译原理、计算机组成与系统结构。

如果基础打好了，最大的收益就是，在最新的技术出来以后，只要经过短时间的学习，就很容易上手，就能在新技术的滚滚浪潮中保持快速学习的能力。

既然网络协议既是基础，又绕不过去，还这么难，但是趟过去之后又不怎么变，收益越来越大，那为什么不写一文档，给大家一点可借鉴的经验，帮助大家尽快掌握网络协议呢？

那么，今天咱们就从目录、主要包括的内容和总结三部分给大家进行网络协议的拓展学习，希望大家能够喜欢！！

主要内容

主要把本文内容分为九章来给大家介绍：

第1章通信协议概述.

1.1为什么要学习网络协议

1.2网络分层的真实含义，总结一下本节的内容，理解网络协议的工作模式，有以下两个小窍门。

始终想象自己是一个处理网络包的程序:如何拿到网络包，如何根据规则进行处理，如何发出去。
始终牢记一个原则:只要是在网络上跑的包，都是完整的。可以有下层没上层，绝对不可能有上层没下层。

1.3 ifconfig:熟悉又陌生的命令行，通过本节的学习希望你能记住以下的知识点，后面都能用得上:

I地址有定位功能，MAC地址类似身份证号，无定位功能。
CIDR可以用来判断是不是本地地址。
IP地址分公网IP地址和私网IP地址。后面的章节中会谈到“出国门”，就与此有关。

1.4 DHCP与PXE:IP地址是怎么来的，又是怎么没的，本节内容总结如下:

DHCP主要租给客户端IP地址，这个过程和租房很像，要商谈、签约、续租，广播还不能“抢单”。
DHCP会给客户端推荐“装修队”PXE来安装操作系统，这在云计算领域大有用处。

第2章从二层到三层．

2.1从物理层到MAC层:如何在宿舍里自己组网玩联机游戏，本节有3个重点需要记住:

MAC层是用来解决多路访问的“堵车”问题的。
ARP是通过“吼”的方式来寻找目标MAC地址的，“吼”完之后会记住一段时间，这个叫作缓存。
交换机是有MAC地址学习能力的，学会了它就能知道谁在哪里，不用广播了。

2.2交换机与VLAN:办公室太复杂，我要回学校，本节总结如下:

·当交换机的数目越来越多时，会遭遇环路问题，让广播包迷路。这时就需要使用STP通过“比武论剑”的方式，将有环路的图变成没有环路的树，从而解决环路问题。
·交换机数目过多会导致隔离问题。可以通过VLAN形成虚拟局域网，从而解决广播问题和安全问题。

2.3ICMP与ping:投石问路的侦察兵，本节内容总结如下:

·ICMP 相当于网络世界的侦察兵。本节讲解了两种类型的ICMP报文，一种是主动探查的查询报文，一种异常报告的差错报文。
ping使用查询报文，Traceroute使用差错报文。

2.4世界这么大，我想出网关:欧洲十国游与玄奘西行，本节总结如下:

·如果离开局域网，就需要经过网关。
·路由器是一个三层设备，里面有如何寻找下一跳的规则。
·经过路由器之后MAC头要变，如果I地址不变，相当于不换护照的“欧洲十国游”，如果IP地址改变，相当于换护照的“玄奘西行”。

2.5路由协议:“西出网关无故人""敢问路在何方”，本节总结如下:

路由分静态路由和动态路由，静态路由可以配置复杂的策略路由，控制转发策略。
动态路由有两种主流协议，距离矢量路由协议和链路状态路由协议。分别对应BGP和OSPF 这两个实现。

第3章重要的传输层．

3.1 UDP:虽然简单但是可以定制化，本节总结如下:

如果将TCP比作成熟的社会人，UDP则是头脑简单的小朋友。TCP复杂，UDP简单。TCP维护连接，UDP谁都相信。TCP知进退，UDP愣头青一个，勇往直前。
·UDP虽然简单，但它有简单的用法。它可以用在环境简单、需要多播、应用层自己控制传输的地方，例如DHCP、VXLAN、QUIC等。

3.2 TCP(上):虽然复杂，使用起来却轻松，本节总结如下:

· TCP头很复杂，但是主要关注五个方面:顺序问题、丢包问题、连接维护、流量控制，以及拥塞控制。
连接的建立要经过三次握手，断开要经过四次挥手。

3.3 TCP (下):西行必定多妖孽，恒心智慧消磨难，总结如下:

顺序问题、丢包问题、流量控制都是通过滑动窗口来解决的，滑动窗口其实就相当于领导和下属的工作备忘录，布置过的工作要有编号，干完了有反馈，活儿不能派太多，也不能太少。
拥塞控制是通过拥塞窗口来解决的，相当于往管道里面倒水，快了容易溢出，慢了浪费带宽，要摸着石头过河，找到最优值。

3.4 socket: Talk is cheap, show me the code ，本节总结如下:

你需要记住在基于TCP和UDP的socket程序的函数调用过程中，客户端和服务端都需要调用哪些函数。
写一个能够支撑大量连接的高并发的服务端不容易，需要多进程、多线程，而 epoll能解决C10K问题。

第4章常用的应用层．

4.1 HTTP:看个新闻原来这么麻烦，本节总结如下:

HTTP很常用，也很复杂，重点记住GET、POST、PUT、DELETE这几个方法，以及重要的首部字段。
HTTP2.0通过头压缩、分帧、二进制编码、多路复用等技术提升性能。
QUIC协议通过基于UDP自定义的连接、重传、多路复用、流量控制等机制进一步提升性能。

4.2 HTTPS:点外卖的过程原来这么复杂，本节总结如下:

加密分对称加密和非对称加密。对称加密效率高，但是解决不了密钥传输问题;非对称加密可以解决这个问题，但是效率低。
非对称加密需要通过证书和权威机构来验证公钥的合法性。
HTTPS是综合了对称加密和非对称加密的HTTP。既保证传输安全，也保证传输效率。

4.3流媒体协议:如何在直播里看到帅哥美女，本节总结如下:

编码两大流派达成了一致，都是通过关于时间、空间的各种算法来压缩数据的。
压缩好的数据，为了方便传输会组成一系列NALU，按照帧和片依次排列。
排列好的NALU在网络传输时，要按照RTMP包的格式进行包装，RTMP包会拆分成块进行传输。
推送到流媒体服务器的视频流经过转码和分发，可以被客户端通过RTMP拉取，然后组合为NALU，解码成视频格式进行播放。

4.4 P2P协议:下载电影，分布式协议速度快，本节总结如下：

下载一个文件可以使用HTTP或FTP，这两种协议都使用集中下载的方式，而P2P则换了一种思路，采取去中心化下载的方式。
P2P也有两种下载方式，一种是依赖于tracker服务器，即元数据集中，文件数据分散;另一种基于分布式哈希算法，元数据和文件数据全部分散。

第5章陌生的数据中心.

5.1 DNS:网络世界的地址簿，本节总结如下:

DNS是网络世界的地址簿，可以通过域名查询地址，由于DNS服务器是按照树状结构组织的，因而域名查找使用的是递归的方法，并通过缓存的方式增强性能。
域名和IP地址相互映射的过程给了应用基于域名做负载均衡的机会,可以实现简单的负载均衡，也可以根据地址和运营商实现全局负载均衡。

5.2 HTTPDNS:网络世界的地址簿也会指错路，本节需要记住以下两个重点:

·传统的DNS服务器有很多问题，例如解析慢、更新不及时。因为缓存、转发NAT问题导致客户端误会自己所在的位置和所属的运营商，从而影响流量的调度。
·HTTPDNS服务器通过客户端SDK，服务端通过HTTP直接调用解析DNS服务器的方式，绕过了传统DNS服务器的缺点，实现了智能调度。

5.3 CDN:你去小卖部取过快递吗，本节需记住以下两个重点:

CDN和电商系统的分布式仓储系统-样，分为中心节点、区域节点、边缘节点，将数据缓存在离用户最近的位置。
CDN最擅长的是缓存静态数据,除此之外还可以缓存流媒体数据,这时要注意使用防盗链。CDN也支持动态数据缓存，可用模式有两种:一种是边缘计算的生鲜超市模式，另一种是链路优化的冷链运输模式。

5.4数据中心:我是开发商，自己拿地盖别墅，本节需要记住以下3个重点:

数据中心分为三层。服务器连接到接入层，然后是汇聚层，接着是核心层，最外面是边界路由器和安全设备。
数据中心的所有链路都要高可用。服务器可以绑定网卡，交换机可以堆叠，三层设备可以通过等价路由，二层设备可以通过TRILL协议实现高可用。
随着云和大数据的发展,东西流量相较于南北流量更加重要,因而演进出叶脊网络结构。

5.5 VPN:朝中有人好做官，本节总结如下:

VPN可以将一个机构的多个数据中心通过隧道连接起来,让机构感觉在一个数据中心里面一样，如同自驾游通过琼州海峡。
完全基于软件的IPsec VPN可以保证私密性、完整性、真实性，简单便宜，但是性能稍微差一些。
MPLS-VPN综合了I转发模式和ATM标签转发模式的优势，性能较好，但是需要从运营商处购买。

5.6移动网络:去巴塞罗那，手机也上不了“脸书”，本节总结如下:

移动网络的发展历程从2G到3G，再到4G，功能逐渐从以打电话为主转变为以上网为主。
请记住4G网络的结构，有eNodeB、MME、SGW、PGW等，分控制面协议和数据面协议，你可以对照这个结构，试着说出手机上网的流程。
即便你在国外运营商的范围内上网，也要由国内运营商控制，因而也上不了“脸书”。

第6章云计算中的网络．

6.1云中网络:自己拿地成本高，购买公寓更灵活，本节总结如下:

云计算的关键技术是虚拟化，这里我们重点关注的是虚拟网卡通过打开TUN/TAP字符设备的方式，将虚拟机内外连接起来。
云中的网络重点关注四个方面:共享、隔离、互通、灵活。其中共享和互通有两种常用的方式，分别是桥接和NAT，隔离可以通过VLAN的方式来进行。

6.2软件定义网络:共享基础设施的小区物业管理办法，本节总结如下:

用SDN 控制整个云里面的网络，就像小区保安从总控室管理整个物业是一样的，将控制面和数据面进行了分离。
Open vSwitch是一种开源的虚拟交换机的实现，它能对经过自己的网络包做任意修改，从而使得云对网络的控制十分灵活。
将Open vSwitch引入云之后，可以使配置简单而灵活，并且可以解耦物理网络和虚拟网络。

6.3云中网络之安全:虽然不是土豪，也需要基本保障，本节总结如下:

云中的安全策略的常用方式是使用iptables的规则,请记住它的5个链:PREROUTING、INPUT、FORWARD、OUTPUT、POSTROUTING。
iptables 的表分为4种: raw、mangle、nat、filter。其中安全策略主要在filter表中实现，而虚拟网络和物理网络地址的转换主要在nat表中实现。

6.4云中网络之QoS:室友疯狂下电影，我该怎么办，本节总结如下:

云中的流量控制主要是通过队列进行的，排队规则分为两大类:无类别排队规则和基于类别的排队规则。
在云中网络Open vSwitch中，主要使用HTB将总的带宽在一棵树上按照配置的比例进行分配，并且在一个分支不使用流量时，借给另外的分支，从而增强带宽利用率。

6.5云中网络之隔离GRE、VXLAN:虽然住一个小区，也要保护隐私，本节总结如下:

要对不同用户的网络进行隔离,解决VLAN数目有限的问题,需要通过Overlay的方式，常使用的是GRE和VXLAN。
GRE是一种点对点的隧道模式，VXLAN是支撑组播的隧道模式，它们都要在某个隧道端口进行封装和解封装，实现跨物理机的互通。
Open vSwitch可以作为隧道端口，通过设置流表规则在虚拟机网络和物理机网络之间进行转换。

第7章容器技术中的网络．

7.1容器网络:来去自由的日子，不买公寓去合租，本节总结如下:

容器是一种比虚拟机更加轻量级的隔离方式，主要通过namespace和 cgroup技术进行资源的隔离，namespace负责“看起来”隔离，cgroup负责“用起来”隔离。
容器网络连接到物理网络的方式和虚拟机很像，通过桥接的方式可以实现一台物理机上容器的相互访问，如果要访问外网，最简单的方式还是通过NAT。

7.2容器网络之Flannel:每人一亩三分地.，本节总结如下:

基于NAT的容器网络模型在微服务架构下有两个问题，一个是IP地址重叠，另一个是端口冲突，需要通过Overlay 网络保持跨节点的连通性。
Flannel是跨节点容器网络方案之一，它提供的Overlay方案主要有两种方式，一种是UDP在用户态封装，另一种是VXLAN在内核态封装，而VXLAN的性能更好一些。

7.3容器网络之Calico:为了高效说出善意的谎言，本节总结如下:

Calico推荐使用物理机作为路由器，这种模式没有虚拟化开销，性能比较高。
Calico的主要组件包括路由、iptables 的配置组件Felix、路由广播组件BGP Speaker，以及大规模场景下的BGP路由反射器。
为解决跨网段的问题，Calico还有一种IPIP模式，即在两台机器之间打一个隧道，两台机器分别位于隧道两端，这样本来不是邻居的两台机器，因为隧道变成了相邻的机器。

7.4 RPC概述:远在天边，近在眼前，本节总结如下:

远程调用看起来用socket编程就可以了，其实是很复杂的，要解决协议约定问题、传输协议问题和服务发现问题。
Bruce Jay Nelson的论文、早期ONC RPC框架，以及NFS的实现，给出了解决这三大问题的示范性实现，即协议约定要公用协议描述文件并通过这个文件生成Stub程序，RPC的传输一般需要一个状态机，同时需要另外一个进程专门做服务发现。