TCP协议解决粘包、半包问题
作者：互联网
一、TCP协议是流式协议
从接触网络知识以来，我们知道TCP提供的服务最主要的就是三个点：TCP提供的是面向连接的，可靠的字节流服务。面向连接的，可靠的服务后面再总结，那么这里的字节流服务是什么意思呢？字节流服务，即所谓流式协议，就是协议的内容是像流水一样的字节流，内容与内容之间没有明确的分界标志，需要我们人为地去给这些协议划分边界。
举个例子，A 与 B 进行 TCP 通信，A 先后给 B 发送了一个 100 字节和 200 字节的数据包，那么 B 是如何收到呢？B 可能先收到 100 字节，再收到 200 字节；也可能先收到 50 字节，再收到 250 字节；或者先收到 100 字节，再收到 100 字节，再收到 200 字节；或者先收到 20 字节，再收到 20 字节，再收到 60 字节，再收到 100 字节，再收到 50 字节，再收到 50 字节……
所以上面的规律就是：A 一共给 B 发送了 300 字节，B 可能以一次或者多次任意形式的总数为 300 字节收到。假设 A 给 B 发送的 100 字节和 200 字节分别都是一个数据包，对于发送端 A 来说，这个是可以区分的，但是对于 B 来说，如果不人为规定多长为一个数据包，B 每次是不知道应该把收到的数据中多少字节作为一个有效的数据包的。而规定每次把多少数据当成一个包就是协议格式规范的内容之一。
这里使用C++来说明TCP字节流服务可能带来的影响：
//发送端
//...省略创建socket，建立连接等部分不相关的逻辑...
char buf[] = "the quick brown jumps over a lazy dog.";
int n = send(socket, buf, strlen(buf), 0)
//...省略出错处理逻辑...
//接收端
//省略创建socket，建立连接等部分不相关的逻辑...
char recvBuf[50] = { 0 };
int n = recv(socket, recvBuf, 50, 0);
//省略出错处理逻辑...
printf("recvBuf: %s", recvBuf);
发送端给接收端发送了一串字符”the quick brown fox jumps over a lazy dog.“，接收端收到后将其打印出来。
类似这样的代码在本机一般会工作的很好，在接收端也如期打印出来预料的字符串，但是一放到局域网或者公网环境就出问题了，即接收端可能打印出来的字符串并不完整；如果发送端连续多次发送字符串，接收端会打印出来的字符串不完整或出现乱码。不完整的原因很好理解，即对端某次收到的数据小于完整字符串的长度，recvBuf数组开始被清空成0，收到部分字符后，该字符串的末尾仍然是0，printf 函数寻找以 0 为结束标志的字符结束输出；乱码的原因是如果某次收入的数据不仅包含一个完整的字符串，还包含下一个字符串部分内容，那么recvBuf数组就会被填满，printf 函数输出时仍然会寻找以 0 为结束标志的字符结束输出，这样读取的内存就越界了，一直找到为止，而越界后的内存可能是一些不可读字符，显示出来后就是乱码了。
这个例子是对TCP协议是流式协议有一个直观的认识。正因为如此，所以我们需要人为地在发送端和接收端规定每一次的字节流边界，以便接收端知道从什么为止取出多少字节来当成一个数据包去解析，这就是我们设计网络通信协议格式的要做的工作之一。
二、如何解决粘包问题 三种包格式，在理解其原理和优缺点的基础上深入掌握
什么是粘包：所谓粘包就是连续给对端发送两个或者两个以上的数据包，对端在一次收取中可能收到的数据包大于1个，大于1个，可能是几个（包括一个）包加上某个包的部分，或者干脆就是几个完整的包在一起。当然，也可能收到的数据知识一个包的部分，这种情况叫做半包。
无论是半包还是粘包问题，其根源是上文介绍中TCP协议是流式数据格式。解决问题得思路还是想办法从收到的数据中把包与包的边界给区分出来。如何区分呢》？目前有三种方法：
固定包长的数据包：
即每个协议包的长度都是固定的。举个例子，例如我们可以规定每个协议包的大小是 64 个字节，每次收满 64 个字节，就取出来解析（如果不够，就先存起来）。
这种通信协议的格式简单但灵活性差。如果包内容不足指定的字节数，剩余的空间需要填充特殊的信息，如 \0（如果不填充特殊内容，如何区分包里面的正常内容与填充信息呢？）；如果包内容超过指定字节数，又得分包分片，需要增加额外处理逻辑——在发送端进行分包分片，在接收端重新组装包片（分包和分片内容在接下来会详细介绍）。
以指定字符（串）为包的结束边界：
这种协议比较常见，即字节流中遇到特殊的符号值时就认为到一个包的末尾了。例如，我们熟悉的FTP协议，发邮件的SMTP协议，一个命令或者一段数据后面加上"\r\n"（即所谓的CRLF）表示一个包的结束。对端收到后，每遇到一个"\r\n"就把之前的数据当作一个数据包。
这种协议一般用于包含各种命令控制的应用中，其中不足之处就是如果协议数据包的内容部分需要使用包结束标志字符，就需要对这些字符做转码或者转义操作，以面被接收方错误地当成包结束标志而被误解析。
包头+包体格式：
这种格式的包一般分为两部分，即包头和包体，包头是固定大小的，且包头中必须含有一个字段来说明接下来的包体有多大。例如：
struct msg_header{
int32_t bodySize;
int32_t cmd;
};
这就是一个典型的包头格式，bodySize 指定了这个包的包体是多大。由于包头大小是固定的（这里是 size(int32_t) + sizeof(int32_t) = 8 字节），对端先收取包头大小字节数目（当然，如果不够还是先缓存起来，直到收够为止），然后解析包头，根据包头中指定的包体大小来收取包体，等包体收够了，就组装成一个完整的包来处理。在有些实现中，包头中的 bodySize可能被另外一个叫 packageSize 的字段代替，这个字段的含义是整个包的大小，这个时候，我们只要用 packageSize 减去包头大小（这里是 sizeof(msg_header)）就能算出包体的大小，原理同上。
在使用大多数网络库时，通常你需要根据协议格式自己给数据包分界和解析，一般的网络库不提供这种功能是出于需要支持不同的协议，由于协议的不确定性，因此没法预先提供具体解包代码。当然，这不是绝对的，也有一些网络库提供了这种功能。在 Java Netty 网络框架中，提供了FixedLengthFrameDecoder 类去处理长度是定长的协议包，提供了 DelimiterBasedFrameDecoder 类去处理按特殊字符作为结束符的协议包，提供 ByteToMessageDecoder 去处理自定义格式的协议包（可用来处理包头 + 包体 这种格式的数据包），然而在继承 ByteToMessageDecoder 子类中你需要根据你的协议具体格式重写 decode() 方法来对数据包解包。
三、解包与处理
在理解了前面介绍的数据包的三种格式后，我们来介绍一下针对上述三种格式的数据包技术上应该如何处理。其处理流程都是一样的，这里我们以包头 + 包体 这种格式的数据包来说明。处理流程如下：
//包头格式
//强制一字节对齐 #pragma pack(push, 1) //协议头 struct msg { int32_t bodysize; //包体大小 }; #pragma pack(pop)
//流程实现
//包最大字节数限制为10M #define MAX_PACKAGE_SIZE 10 * 1024 * 1024 void ChatSession::OnRead(const std::shared_ptr<TcpConnection>& conn, Buffer* pBuffer, Timestamp receivTime) { while (true) { //不够一个包头大小 if (pBuffer->readableBytes() < (size_t)sizeof(msg)) { //LOGI << "buffer is not enough for a package header, pBuffer->readableBytes()=" << pBuffer->readableBytes() << ", sizeof(msg)=" << sizeof(msg); return; } //取包头信息 msg header; memcpy(&header, pBuffer->peek(), sizeof(msg)); //包头有错误，立即关闭连接 if (header.bodysize <= 0 || header.bodysize > MAX_PACKAGE_SIZE) { //客户端发非法数据包，服务器主动关闭之 LOGE("Illegal package, bodysize: %lld, close TcpConnection, client: %s", header.bodysize, conn->peerAddress().toIpPort().c_str()); conn->forceClose(); return; } //收到的数据不够一个完整的包 if (pBuffer->readableBytes() < (size_t)header.bodysize + sizeof(msg)) return; pBuffer->retrieve(sizeof(msg)); //inbuf用来存放当前要处理的包 std::string inbuf; inbuf.append(pBuffer->peek(), header.bodysize); pBuffer->retrieve(header.bodysize); //解包和业务处理 if (!Process(conn, inbuf.c_str(), inbuf.length())) { //客户端发非法数据包，服务器主动关闭之 LOGE("Process package error, close TcpConnection, client: %s", conn->peerAddress().toIpPort().c_str()); conn->forceClose(); return; } }// end while-loop }
上述流程代码的处理过程和流程图是一致的，pBuffer这里是一个自定义的接收缓冲区，这里的代码，已经将收到的数据放入这个缓冲区，所以判断当前以收取的字节数目只需要使用这个对象的相应方法即可。上述代码有些细节需要重点关注：
* 取包头时，我们应该拷贝一份数据包头大小的数据出来，而不是从缓冲区pBuffer中直接将数据取出来（即取出来的数据从pBuffer），这是因为倘若接下来根据包头中的字段得到包体大小是，如果剩余数据不够一个包体大小，又得把这个包头数据放回缓冲区。为了避免这种不必要的操作，只有缓冲区数据大小够整个包的大小（代码中：header.bodysize+sizeof(msg)）才需要把整个包大小的数据从缓冲区移除，这里也是pBuffer -> peek()方法 peek 单词的含义（中文翻译成“瞟一眼”或者“偷窥”）。
* 通过包头得到包体的大小时，一定要对bodysize的数值进行校验，这里要求bodysize必须大于0且不大于10 * 1024 * 1024 (即10M)。当然，实际开发中，我们可以根据自己的需求决定bodysize的上下限（包体大小是0字节的包在某些业务场景下是允许的）。记住，一定要判断这个上下限，因为假设这是一个非法的客户端发来的数据，其bodysize设置了一个比较大的数值，例如 1 * 1024 * 1024 * 1024（即 1 G），我们的逻辑会让我们一直缓存该客户端发来的数据，那么很快我们的服务器内存将会被耗尽，操作系统在检测到我们的进程占用内存达到一定阈值时会杀死进程，导致服务器不能再正常对外服务。如果检测了bodysize字段是否满足我们设置的上下限，对于非法的bodysize，直接关闭这路连接即可。这也是服务的一种自我保护措施，避免因为非法数据包带来的损失。
注意到整个判断包头、包体以及处理包的逻辑放在一个while循环里面，这是必要的。如果没有这个while循环，当我们一次性收到好多个包时，我们的服务器只会处理一个，下次接着处理就需要等到新一批数据来临时再次触发这个逻辑。这样造成的结果就是，对端给服务端发送了多少个请求，我们最多只能应答一个，后面的应答得等到对端再次给我们发送数据时。这就是粘包逻辑的正确处理。
以上逻辑和代码是最基本的粘包和半包处理机制，也就是所谓的技术上的解包处理逻辑（业务上的解包处理逻辑后面章节再介绍）。希望读者能理解他们，在理解了他们的基础之上，我们可以给解包拓展很多功能，例如，我们再给我们的协议包增加一个支持压缩的功能，我们的包头变成下面这个样子：
#pragma pack(push, 1)
//协议头
struct msg
{
char compressflag; //压缩标志，如果为1，则启用压缩，反之不启用压缩
int32_t originsize; //包体压缩前大小
int32_t compresssize; //包体压缩后大小
char reserved[16]; //保留字段，用于将来拓展
};
#pragma pack(pop)
void ChatSession::OnRead(const std::shared_ptr<TcpConnection>& conn, Buffer* pBuffer, Timestamp receivTime)
{
while (true)
{
//不够一个包头大小
if (pBuffer->readableBytes() < (size_t)sizeof(msg))
{
//LOGI << "buffer is not enough for a package header, pBuffer->readableBytes()=" << pBuffer->readableBytes() << ", sizeof(msg)=" << sizeof(msg);
return;
}
//取包头信息
msg header;
memcpy(&header, pBuffer->peek(), sizeof(msg));
//数据包压缩过
if (header.compressflag == PACKAGE_COMPRESSED)
{
//包头有错误，立即关闭连接
if (header.compresssize <= 0 || header.compresssize > MAX_PACKAGE_SIZE ||
header.originsize <= 0 || header.originsize > MAX_PACKAGE_SIZE)
{
//客户端发非法数据包，服务器主动关闭之
LOGE("Illegal package, compresssize: %lld, originsize: %lld, close TcpConnection, client: %s", header.compresssize, header.originsize, conn->peerAddress().toIpPort().c_str());
conn->forceClose();
return;
}
//收到的数据不够一个完整的包
if (pBuffer->readableBytes() < (size_t)header.compresssize + sizeof(msg))
return;
pBuffer->retrieve(sizeof(msg));
std::string inbuf;
inbuf.append(pBuffer->peek(), header.compresssize);
pBuffer->retrieve(header.compresssize);
std::string destbuf;
if (!ZlibUtil::UncompressBuf(inbuf, destbuf, header.originsize))
{
LOGE("uncompress error, client: %s", conn->peerAddress().toIpPort().c_str());
conn->forceClose();
return;
}
//业务逻辑处理
if (!Process(conn, destbuf.c_str(), destbuf.length()))
{
//客户端发非法数据包，服务器主动关闭之
LOGE("Process error, close TcpConnection, client: %s", conn->peerAddress().toIpPort().c_str());
conn->forceClose();
return;
}
}
//数据包未压缩
else
{
//包头有错误，立即关闭连接
if (header.originsize <= 0 || header.originsize > MAX_PACKAGE_SIZE)
{
//客户端发非法数据包，服务器主动关闭之
LOGE("Illegal package, compresssize: %lld, originsize: %lld, close TcpConnection, client: %s", header.compresssize, header.originsize, conn->peerAddress().toIpPort().c_str());
conn->forceClose();
return;
}
//收到的数据不够一个完整的包
if (pBuffer->readableBytes() < (size_t)header.originsize + sizeof(msg))
return;
pBuffer->retrieve(sizeof(msg));
std::string inbuf;
inbuf.append(pBuffer->peek(), header.originsize);
pBuffer->retrieve(header.originsize);
//业务逻辑处理
if (!Process(conn, inbuf.c_str(), inbuf.length()))
{
//客户端发非法数据包，服务器主动关闭之
LOGE("Process error, close TcpConnection, client: %s", conn->peerAddress().toIpPort().c_str());
conn->forceClose();
return;
}
}// end else
}// end while-loop
}
这段代码先根据包头的压缩标志字段判断包体是否有压缩，如果有压缩，则取出包体大小去解压，解压后的数据才是真正的业务数据。整个程序执行流程图如下：
代码中有一个接收缓冲区变量 pBuffer，那么接收缓冲区如何设计呢？
标签：包头,字节,TCP,粘包,header,pBuffer,半包,数据包,包体 来源： https://www.cnblogs.com/r2learning/p/16394764.html