python全棧開發基礎【補充】解決tcp粘包

標籤：手機   --   緩衝區   取資料   迴圈   list   串連   位元組   死迴圈   

一、什麼是粘包

須知：只有TCP有粘包現象，UDP永遠不會粘包

粘包不一定會發生

如果發生了：1.可能是在用戶端已經粘了

　　　　　　2.用戶端沒有粘，可能是在服務端粘了

首先需要掌握一個socket收發訊息的原理

應用程式所看到的資料是一個整體，或說是一個流（stream），一條訊息有多少位元組對應用程式是不可見的，因此TCP協議是面向流的協議，這也是容易出現粘包問題的原因。（因為TCP是流式協議，不知道啥時候開始，啥時候結束）。而UDP是面向訊息的協議，每個UDP段都是一條訊息，應用程式必須以訊息為單位提取資料，不能一次提取任意位元組的資料，這一點和TCP是很不同的。怎樣定義訊息呢？可以認為對方一次性write/send的資料為一個訊息，需要明白的是當對方send一條資訊的時候，無論底層怎樣分段分區，TCP協議層會把構成整條訊息的資料區段排序完成後才呈現在核心緩衝區。

所謂粘包問題主要還是因為接收方不知道訊息之間的界限，不知道一次性提取多少位元組的資料所造成的。

 

二、發生粘包的兩種情況

發送端需要等緩衝區滿才發送出去，造成粘包（發送資料時間間隔很短，資料了很小，會當做一個包發出去，產生粘包）

 

#服務端from socket import *phone = socket(AF_INET,SOCK_STREAM)phone.setsockopt(SOL_SOCKET,SOCK_STREAM,1)phone.bind((‘127.0.0.1‘,8080))phone.listen(5)print(‘start running...‘)coon,addr = phone.accept() #等待串連data1 = coon.recv(10)data2 = coon.recv(10)print(‘------------>‘,data1.decode(‘utf-8‘))print(‘------------>‘,data2.decode(‘utf-8‘))coon.close()phone.close()#用戶端from socket import *import timephone = socket(AF_INET,SOCK_STREAM)phone.connect((‘127.0.0.1‘,8080))phone.send(‘hello‘.encode(‘utf-8‘))phone.send(‘helloworld‘.encode(‘utf-8‘))phone.close()

接收方不及時接收緩衝區的包，造成多個包接收（用戶端發送了一段資料，服務端只收了一小部分，服務端下次再收的時候還是從緩衝區拿上次遺留的資料，產生粘包） 

#服務端from socket import *phone = socket(AF_INET,SOCK_STREAM)phone.setsockopt(SOL_SOCKET,SOCK_STREAM,1)phone.bind((‘127.0.0.1‘,8080))phone.listen(5)print(‘start running...‘)coon,addr = phone.accept() #等待串連data1 = coon.recv(2) #一次沒有接收完整data2 = coon.recv(10)  #下一次接收的時候會先取舊的資料,然後取新的# data3 = coon.recv(1024)  #接收等5秒後的資訊print(‘------------>‘,data1.decode(‘utf-8‘))print(‘------------>‘,data2.decode(‘utf-8‘))# print(‘------------>‘,data3.decode(‘utf-8‘))coon.close()phone.close()#用戶端from socket import *import timephone = socket(AF_INET,SOCK_STREAM)phone.connect((‘127.0.0.1‘,8080))phone.send(‘hello‘.encode(‘utf-8‘))time.sleep(5)phone.send(‘haiyan‘.encode(‘utf-8‘))phone.close()

 

三、解決粘包的方法

問題的根源在於，接收端不知道發送端將要傳送的位元組流的長度，所以解決粘包的方法就是圍繞，如何讓發送端在發送資料前，把自己將要發送的位元組流總大小讓接收端知曉，然後接收端來一個死迴圈接收完所有資料

#服務端import socketimport subprocessimport structphone = socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機phone.bind((‘127.0.0.1‘,8080)) #綁定手機卡phone.listen(5) #阻塞的最大數print(‘start runing.....‘)while True: #連結迴圈    coon,addr = phone.accept()# 等待接電話    print(coon,addr)    while True: #通訊迴圈        # 收發訊息        cmd = coon.recv(1024) #接收的最大數        print(‘接收的是：%s‘%cmd.decode(‘utf-8‘))        #處理過程        res = subprocess.Popen(cmd.decode(‘utf-8‘),shell = True,                                          stdout=subprocess.PIPE, #標準輸出                                          stderr=subprocess.PIPE #標準錯誤                                )        stdout = res.stdout.read()        stderr = res.stderr.read()        #先發前序(轉成固定長度的bytes類型，那麼怎麼轉呢？就用到了struct模組)        #len(stdout) + len(stderr)#統計資料的長度        header = struct.pack(‘i‘,len(stdout)+len(stderr))#製作前序        coon.send(header)        #再發命令的結果        coon.send(stdout)        coon.send(stderr)    coon.close()phone.close()#用戶端import socketimport structphone = socket.socket(socket.AF_INET,socket.SOCK_STREAM)phone.connect((‘127.0.0.1‘,8080)) #串連服while True:    # 發收訊息    cmd = input(‘請你輸入命令>>：‘).strip()    if not cmd:continue    phone.send(cmd.encode(‘utf-8‘)) #發送    #先收前序    header_struct = phone.recv(4) #收四個    unpack_res = struct.unpack(‘i‘,header_struct)    total_size = unpack_res[0]  #總長度    #後收資料    recv_size = 0    total_data=b‘‘    while recv_size<total_size: #迴圈的收        recv_data = phone.recv(1024) #1024隻是一個最大的限制        recv_size+=len(recv_data) #        total_data+=recv_data #    print(‘返回的訊息：%s‘%total_data.decode(‘gbk‘))phone.close()

　　

四、解決粘包問題升級版：完整的解決了

#服務端import socketimport subprocessimport structimport jsonphone = socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機phone.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1)phone.bind((‘127.0.0.1‘,8080)) #綁定手機卡phone.listen(5) #阻塞的最大數print(‘start runing.....‘)while True: #連結迴圈    coon,addr = phone.accept()# 等待接電話    print(coon,addr)    while True: #通訊迴圈        # 收發訊息        cmd = coon.recv(1024) #接收的最大數        print(‘接收的是：%s‘%cmd.decode(‘utf-8‘))        #處理過程        res = subprocess.Popen(cmd.decode(‘utf-8‘),shell = True,                                          stdout=subprocess.PIPE, #標準輸出                                          stderr=subprocess.PIPE #標準錯誤                                )        stdout = res.stdout.read()        stderr = res.stderr.read()        # 製作前序        header_dic = {            ‘total_size‘: len(stdout)+len(stderr),  # 總共的大小            ‘filename‘: None,            ‘md5‘: None        }        header_json = json.dumps(header_dic) #字串類型        header_bytes = header_json.encode(‘utf-8‘)  #轉成bytes類型(但是長度是可變的)        #先發前序的長度        coon.send(struct.pack(‘i‘,len(header_bytes))) #發送固定長度的前序        #再發前序        coon.send(header_bytes)        #最後發命令的結果        coon.send(stdout)        coon.send(stderr)    coon.close()phone.close()

#用戶端import socketimport structimport jsonphone = socket.socket(socket.AF_INET,socket.SOCK_STREAM)phone.connect((‘127.0.0.1‘,8080)) #串連伺服器while True:    # 發收訊息    cmd = input(‘請你輸入命令>>：‘).strip()    if not cmd:continue    phone.send(cmd.encode(‘utf-8‘)) #發送    #先收前序的長度    header_len = struct.unpack(‘i‘,phone.recv(4))[0]  #吧bytes類型的反解    #在收前序    header_bytes = phone.recv(header_len) #收過來的也是bytes類型    header_json = header_bytes.decode(‘utf-8‘)   #拿到json格式的字典    header_dic = json.loads(header_json)  #還原序列化拿到字典了    total_size = header_dic[‘total_size‘]  #就拿到資料的總長度了    #最後收資料    recv_size = 0    total_data=b‘‘    while recv_size<total_size: #迴圈的收        recv_data = phone.recv(1024) #1024隻是一個最大的限制        recv_size+=len(recv_data) #有可能接收的不是1024個位元組，或許比1024多呢，        # 那麼接收的時候就接收不全，所以還要加上接收的那個長度        total_data+=recv_data #最終的結果    print(‘返回的訊息：%s‘%total_data.decode(‘gbk‘))phone.close()

　　

五、struct模組

#該模組可以把一個類型，如數字，轉成固定長度的bytes類型import structres = struct.pack(‘i‘,12345)print(res,len(res),type(res))  #長度是4res2 = struct.pack(‘i‘,12345111)print(res,len(res),type(res2))  #長度也是4unpack_res =struct.unpack(‘i‘,res2)print(unpack_res)  #(12345111,)print(unpack_res[0]) #12345111

　　

 

python全棧開發基礎【補充】解決tcp粘包