有的時(shí)候需要用python處理二進(jìn)制數(shù)據(jù),比如,存取文件,socket操作時(shí).這時(shí)候,可以使用python的struct模塊來完成.可以用 struct來處理c語(yǔ)言中的結(jié)構(gòu)體.
struct模塊中最重要的三個(gè)函數(shù)是pack(), unpack(), calcsize()
pack(fmt, v1, v2, ...) 按照給定的格式(fmt),把數(shù)據(jù)封裝成字符串(實(shí)際上是類似于c結(jié)構(gòu)體的字節(jié)流)
unpack(fmt, string) 按照給定的格式(fmt)解析字節(jié)流string,返回解析出來的tuple
calcsize(fmt) 計(jì)算給定的格式(fmt)占用多少字節(jié)的內(nèi)存
struct中支持的格式如下表:
Format | C Type | Python | 字節(jié)數(shù) |
---|---|---|---|
x | pad byte | no value | 1 |
c | char | string of length 1 | 1 |
b | signed char | integer | 1 |
B | unsigned char | integer | 1 |
_Bool | bool | 1 | |
h | short | integer | 2 |
H | unsigned short | integer | 2 |
i | int | integer | 4 |
I | unsigned int | integer or long | 4 |
l | long | integer | 4 |
L | unsigned long | long | 4 |
q | long long | long | 8 |
Q | unsigned long long | long | 8 |
f | float | float | 4 |
d | double | float | 8 |
s | char[] | string | 1 |
p | char[] | string | 1 |
P | void * | long |
注1.q和Q只在機(jī)器支持64位操作時(shí)有意思
注2.每個(gè)格式前可以有一個(gè)數(shù)字,表示個(gè)數(shù)
注3.s格式表示一定長(zhǎng)度的字符串,4s表示長(zhǎng)度為4的字符串,但是p表示的是pascal字符串
注4.P用來轉(zhuǎn)換一個(gè)指針,其長(zhǎng)度和機(jī)器字長(zhǎng)相關(guān)
注5.最后一個(gè)可以用來表示指針類型的,占4個(gè)字節(jié)
為了同c中的結(jié)構(gòu)體交換數(shù)據(jù),還要考慮有的c或c++編譯器使用了字節(jié)對(duì)齊,通常是以4個(gè)字節(jié)為單位的32位系統(tǒng),故而struct根據(jù)本地機(jī)器字節(jié)順序轉(zhuǎn)換.可以用格式中的第一個(gè)字符來改變對(duì)齊方式.定義如下:
Character | Byte order | Size and alignment |
---|---|---|
@ | native | native 湊夠4個(gè)字節(jié) |
= | native | standard 按原字節(jié)數(shù) |
< | little-endian | standard 按原字節(jié)數(shù) |
> | big-endian | standard 按原字節(jié)數(shù) |
! | network (= big-endian) | standard 按原字節(jié)數(shù) |
使用方法是放在fmt的第一個(gè)位置,就像'@5s6sif'
示例一:
比如有一個(gè)結(jié)構(gòu)體
struct Header
{
unsigned short id;
char[4] tag;
unsigned int version;
unsigned int count;
}
通過socket.recv接收到了一個(gè)上面的結(jié)構(gòu)體數(shù)據(jù),存在字符串s中,現(xiàn)在需要把它解析出來,可以使用unpack()函數(shù).
import struct
id, tag, version, count = struct.unpack("!H4s2I", s)
上面的格式字符串中,!表示我們要使用網(wǎng)絡(luò)字節(jié)順序解析,因?yàn)槲覀兊臄?shù)據(jù)是從網(wǎng)絡(luò)中接收到的,在網(wǎng)絡(luò)上傳送的時(shí)候它是網(wǎng)絡(luò)字節(jié)順序的.后面的H表示 一個(gè)unsigned short的id,4s表示4字節(jié)長(zhǎng)的字符串,2I表示有兩個(gè)unsigned int類型的數(shù)據(jù).
就通過一個(gè)unpack,現(xiàn)在id, tag, version, count里已經(jīng)保存好我們的信息了.
同樣,也可以很方便的把本地?cái)?shù)據(jù)再pack成struct格式.
ss = struct.pack("!H4s2I", id, tag, version, count);
pack函數(shù)就把id, tag, version, count按照指定的格式轉(zhuǎn)換成了結(jié)構(gòu)體Header,ss現(xiàn)在是一個(gè)字符串(實(shí)際上是類似于c結(jié)構(gòu)體的字節(jié)流),可以通過 socket.send(ss)把這個(gè)字符串發(fā)送出去.
示例二:
import struct
a=12.34
#將a變?yōu)槎M(jìn)制
bytes=struct.pack('i',a)
此時(shí)bytes就是一個(gè)string字符串,字符串按字節(jié)同a的二進(jìn)制存儲(chǔ)內(nèi)容相同。
再進(jìn)行反操作
現(xiàn)有二進(jìn)制數(shù)據(jù)bytes,(其實(shí)就是字符串),將它反過來轉(zhuǎn)換成python的數(shù)據(jù)類型:
a,=struct.unpack('i',bytes)
注意,unpack返回的是tuple
所以如果只有一個(gè)變量的話:
bytes=struct.pack('i',a)
那么,解碼的時(shí)候需要這樣
a,=struct.unpack('i',bytes) 或者 (a,)=struct.unpack('i',bytes)
如果直接用a=struct.unpack('i',bytes),那么 a=(12.34,) ,是一個(gè)tuple而不是原來的浮點(diǎn)數(shù)了。
如果是由多個(gè)數(shù)據(jù)構(gòu)成的,可以這樣:
a='hello'
b='world!'
c=2
d=45.123
bytes=struct.pack('5s6sif',a,b,c,d)
此時(shí)的bytes就是二進(jìn)制形式的數(shù)據(jù)了,可以直接寫入文件比如 binfile.write(bytes)
然后,當(dāng)我們需要時(shí)可以再讀出來,bytes=binfile.read()
再通過struct.unpack()解碼成python變量
a,b,c,d=struct.unpack('5s6sif',bytes)
'5s6sif'這個(gè)叫做fmt,就是格式化字符串,由數(shù)字加字符構(gòu)成,5s表示占5個(gè)字符的字符串,2i,表示2個(gè)整數(shù)等等,下面是可用的字符及類型,ctype表示可以與python中的類型一一對(duì)應(yīng)。
注意:二進(jìn)制文件處理時(shí)會(huì)碰到的問題
我們使用處理二進(jìn)制文件時(shí),需要用如下方法
binfile=open(filepath,'rb') 讀二進(jìn)制文件
binfile=open(filepath,'wb') 寫二進(jìn)制文件
那么和binfile=open(filepath,'r')的結(jié)果到底有何不同呢?
不同之處有兩個(gè)地方:
第一,使用'r'的時(shí)候如果碰到'0x1A',就會(huì)視為文件結(jié)束,這就是EOF。使用'rb'則不存在這個(gè)問題。即,如果你用二進(jìn)制寫入再用文本讀出的話,如果其中存在'0X1A',就只會(huì)讀出文件的一部分。使用'rb'的時(shí)候會(huì)一直讀到文件末尾。
第二,對(duì)于字符串x='abc\ndef',我們可用len(x)得到它的長(zhǎng)度為7,\n我們稱之為換行符,實(shí)際上是'0X0A'。當(dāng)我們用'w'即文本方式寫的時(shí)候,在windows平臺(tái)上會(huì)自動(dòng)將'0X0A'變成兩個(gè)字符'0X0D','0X0A',即文件長(zhǎng)度實(shí)際上變成8.。當(dāng)用'r'文本方式讀取時(shí),又自動(dòng)的轉(zhuǎn)換成原來的換行符。如果換成'wb'二進(jìn)制方式來寫的話,則會(huì)保持一個(gè)字符不變,讀取時(shí)也是原樣讀取。所以如果用文本方式寫入,用二進(jìn)制方式讀取的話,就要考慮這多出的一個(gè)字節(jié)了。'0X0D'又稱回車符。linux下不會(huì)變。因?yàn)閘inux只使用'0X0A'來表示換行。
聯(lián)系客服