麻豆小视频在线观看_中文黄色一级片_久久久成人精品_成片免费观看视频大全_午夜精品久久久久久久99热浪潮_成人一区二区三区四区

首頁 > 編程 > C# > 正文

基于字符集、字符編碼與HTTP編碼解碼之萬象詳解

2020-01-24 03:26:50
字體:
供稿:網(wǎng)友

在日常編寫代碼過程中,常常會(huì)碰到亂碼問題,一個(gè)典型的情況是瀏覽網(wǎng)頁,如果網(wǎng)站開發(fā)者缺少經(jīng)驗(yàn),就會(huì)帶來這種令人頭疼的問題。要了解亂碼的癥結(jié),我們就得從字符集和字符編碼說起,先來看看它們到底是什么:
1:字符集:是一個(gè)系統(tǒng)支持的所有抽象字符的集合。字符是各種文字和符號(hào)的總稱,包括各國家文字、標(biāo)點(diǎn)符號(hào)、圖形符號(hào)、數(shù)字等。
2:字符編碼:是一套法則,最常規(guī)的理解就是:讓程序根據(jù)這個(gè)法則對(duì)應(yīng)到相應(yīng)的字符集中將byte[]存取為string。
現(xiàn)在,我們要來看看這些東西在 .NET 中對(duì)應(yīng)的是什么。

一:字符集和字符編碼
如果想得到全部的字符集,則使用 System.Text.Encoding.GetEncodings() 方法,以下代碼用于列出.Net支持的全部字符集:

復(fù)制代碼 代碼如下:

foreach (var item in Encoding.GetEncodings())
{
    Console.WriteLine(item.Name);
}

字符串在進(jìn)行如網(wǎng)絡(luò)傳輸?shù)葓?chǎng)景時(shí),要先轉(zhuǎn)為 byte[] 。但是,首先,不同的字符編碼規(guī)則,所轉(zhuǎn)換生成的byte[]是不一樣的。所以,再將byte[]轉(zhuǎn)換回string的時(shí)候,要依據(jù)原先的字符編碼規(guī)則。有如下幾種情況能導(dǎo)致“亂碼”的產(chǎn)生:
1:string to byte[] 和 byte[] to string,使用了不同的字符編碼規(guī)則;
2:byte[] to string 的 時(shí)候,當(dāng)前宿主環(huán)境沒有對(duì)應(yīng)的字符集;

示例:

復(fù)制代碼 代碼如下:

string originalString = "Hello Test, 測(cè)試!";
byte[] utf8Bytes = Encoding.UTF8.GetBytes(originalString);
string utf8String = Encoding.UTF8.GetString(utf8Bytes);
string errorString = Encoding.ASCII.GetString(utf8Bytes);

觀察Encoding類,實(shí)際上象上面UTF8這樣的屬性,只有幾個(gè),這些是最常用的字符集,要獲取其它,如gb2312這樣的字符集,則需要象如下這樣來獲得:
復(fù)制代碼 代碼如下:

byte[] gbBytes = Encoding.GetEncoding("gb2312").GetBytes(originalString);
string utf8String = Encoding.GetEncoding("gb2312").GetString(gbBytes);

二:典型應(yīng)用場(chǎng)景之 HttpWebResponse

很多人都作過頁面抓取功能, HttpWebResponse 就會(huì)比較熟悉,當(dāng)然如果不嫌麻煩,也可以用 Socket 實(shí)現(xiàn),但是同時(shí)要解析很多屬性以及處理象重定向之類的諸多問題。
 

2.1 http header 和http content是什么?
瀏覽一個(gè)網(wǎng)頁,使用很多工具,或者使用.Net中的某些類進(jìn)行抓取,都給我們結(jié)構(gòu)化為 Http 頭和正文這樣的信息,其實(shí),當(dāng)我們發(fā)送一個(gè)請(qǐng)求,服務(wù)器返回給我們的是一串 byte[],我們完全可以自己去從這串 byte[] 解析出 http header 和 http content,它們之間其實(shí)僅僅非常簡單的以兩個(gè) /r/n/ 分割開而已,歷史上有著名的CRLF攻擊,CR就是/r,LF就是/n,就利用的是這個(gè)規(guī)則。


2.2 我們?nèi)绾尾炜磆ttp header,http content?
其實(shí)很簡單,既然這些都是 byte[] ,所以,我們只要知道這段 byte[] 正確的字符編碼規(guī)則,就能得到我們所需要看到的 html (html就是字符串而已)。使用 HttpWebResponse 這個(gè)類,就能請(qǐng)求一個(gè) url ,該類自動(dòng)為我們解析出了 httpheader ,有意思的是,它沒有給我們解析出 content ,所以,我們需要自己完成正文的byte[] to string。
 

2.3 http content to string的具體做法
好的,實(shí)際上,httpheader  中已經(jīng)告訴了我們一些字符集編碼相關(guān)的信息,我們可能感興趣,以及會(huì)混淆的這些http頭如下:

復(fù)制代碼 代碼如下:

Content-Type:WEB 服務(wù)器告訴瀏覽器自己響應(yīng)的對(duì)象的類型和字符集。例如:Content-Type: text/html; charset='gb2312' ;
Content-Encoding:WEB 服務(wù)器表明自己使用了什么壓縮方法(gzip,deflate)壓縮響應(yīng)中的對(duì)象。例如:Content-Encoding:gzip 。這里我要多說一點(diǎn),這個(gè) Content-Encoding 的 Http header 會(huì)令人混淆,極度容易讓人理解成是字符集或字符編碼信息;

那么,這些 Http 頭在HttpWebResponse 中是怎么代表的呢?

復(fù)制代碼 代碼如下:

HttpWebResponse.Content-Type對(duì)應(yīng)的是Http頭的Content-Type比如"text/html;"后的那個(gè)Charset,實(shí)際是和HttpWebResponse.Charaterset是一致的。但是如果前者無,則后者

一般會(huì)指定一個(gè)默認(rèn)的HttpWebResponse.Charaterset,默認(rèn)為"iso-8859-1"。
HttpWebResponse.ContentEncoding 代表的是 http頭中 Content-Encoding,與此類似的,還有一個(gè)http頭,為Transfer-Encoding。注意,很惡心的一點(diǎn)是

HttpResponse.ContentEncoding跟HttpWebResponse.ContentEncoding代表的不是一個(gè)東西,它和HttpResponse.Charaterset在MSDN上是一致的解釋。


根據(jù)上面的說法,似乎下面的代碼就能得到http content的字符編碼規(guī)則:
復(fù)制代碼 代碼如下:

return Encoding.GetEncoding(
   string.IsNullOrEmpty(HttpWebResponse.Charaterset) ?
"iso-8859-1" : HttpWebResponse.Charaterset

但是,這里有一個(gè)很重要的但是,如果你嘗試從Http頭或者HttpWebResponse所給我的這些字符編碼信息或?qū)傩匀ソ獯a正文content的話,很可能馬上就會(huì)迎來一個(gè)大大的挫折。我們很可能會(huì)發(fā)現(xiàn)以下幾個(gè)可悲的事實(shí):
復(fù)制代碼 代碼如下:

1:http頭的Content-Type中沒有charset信息;
2:HttpWebResponse.Charaterset是空的;
3:http頭的Content-Type和HttpWebResponse.Charaterset是不一致的;
4:http頭的Content-Type和HttpWebResponse.Charaterset是一致的,但是解碼還是錯(cuò)的;
5:嘗試用"iso-8859-1"解碼也是錯(cuò)的。

2.4 為什么還是有亂碼問題?BOM能解決一切?

之所以碰到以上問題,其實(shí)僅僅是因?yàn)椋?wù)器給我們傳回來的是byte[],而任何程序員在寫服務(wù)器端WEB程序的時(shí)候,都有可能有意或無意的轉(zhuǎn)碼出不規(guī)范的byte[]來。所以,如果我們嘗試從http頭的Content-Type和HttpWebResponse.Charaterset想要得到編碼規(guī)則,我們就敗了,我們敗在了有標(biāo)準(zhǔn),但是沒人嚴(yán)格去執(zhí)行標(biāo)準(zhǔn)。

有一些頗具迷惑性的API試圖在告訴我們,使用我你就能得到該流正確的Encoding了,比如,StreamReader.CurrentEncoding,我們可以把HttpWebResponse的GetResponse中讀取到

byte[],放置到MemoryStream中,然后利用如下代碼:

復(fù)制代碼 代碼如下:

StreamReader sr = new StreamReader(memoryStream, true)
return sr.CurrentEncoding;

似乎就可以得到Encoding了,其實(shí)非也,注意StreamReader構(gòu)造器的第二個(gè)參數(shù),為detectEncodingFromByteOrderMarks。ByteOrderMarks是什么呢?解釋如下:
復(fù)制代碼 代碼如下:

BOM(byte-order mark),即字節(jié)順序標(biāo)記,它是插入到以UTF-8、UTF16或UTF-32編碼Unicode文件開頭的特殊標(biāo)記,用來識(shí)別Unicode文件的編 碼類型。對(duì)于UTF-8來說,BOM并不是必須的,因?yàn)锽OM用來標(biāo)記多字節(jié)編碼文件的編碼類型和字節(jié)順序(big-endian或little- endian)。

這表明了什么呢?表明了如果你的字節(jié)流未含有BOM,或者即便包含了BOM,但是字節(jié)流不是unicode-based的Encoding,則依舊不能得到正確的Encoding,具體我們也可以看StreamReader的源碼來得到驗(yàn)證。這個(gè)萬惡的CurrentEncoding屬性并沒有告訴你它的前提條件。


2.5 關(guān)于本例的一點(diǎn)補(bǔ)充
以上字節(jié)流的編碼解碼,很多地方用了Response做例子,但是,以上解碼針對(duì)的是非壓縮的Response,如果服務(wù)器已經(jīng)對(duì)http流進(jìn)行了壓縮(其壓縮格式在Content-Encoding中指明了),我們就得先解壓縮,再解碼Response流,然后再解碼正文。考慮到本文的主題,特意剪裁了對(duì)于 Response 流的解壓過程。


2.6 關(guān)于正確解碼的嘗試

有很多人嘗試從byte[]本身去解析和判斷編碼規(guī)則的API,如:codeproject上也有相關(guān)的文章,但是可悲的事實(shí)是:并沒有一種完美的方法來自動(dòng)判斷byte[]的編碼規(guī)則。還記得我們的瀏覽器(如IE)的編碼設(shè)置中的“自動(dòng)選擇”嗎,其實(shí)這個(gè)自動(dòng)選擇的錯(cuò)誤率還是蠻高的。所以,對(duì)于字節(jié)流的生成者,如BS程序開發(fā)者,可以通過規(guī)范輸出:聲明charset和編碼規(guī)范的方式,這樣才能讓解析者(如瀏覽器)解析的時(shí)候盡可能的少出現(xiàn)亂碼。 

發(fā)表評(píng)論 共有條評(píng)論
用戶名: 密碼:
驗(yàn)證碼: 匿名發(fā)表
主站蜘蛛池模板: 欧美日韩免费一区 | 久草在线视频新 | 特级西西444www大精品视频免费看 | 娇喘在线| 欧美精品成人一区二区在线观看 | 欧美人与性禽动交精品 | 全黄裸片武则天一级第4季 九色p | 一级α片免费看刺激高潮视频 | xxxxxx性 | 老a影视网站在线观看免费 国产精品久久久久久久久久尿 | 欧美成人二区 | 小视频免费在线观看 | 国产91丝袜在线播放 | 欧美日韩亚洲国产精品 | 日韩黄色片免费看 | 久久伊 | 激情黄页| 中文字幕在线观看国产 | 国产精品99久久久久久大便 | 亚洲日本欧美 | 欧美国产成人在线 | 久草在线播放视频 | 中文字幕观看 | 欧美人的天堂一区二区三区 | 日本精品久久久一区二区三区 | 国产福利不卡一区二区三区 | 九九色网站| 婷婷久久久久久 | 黄色一级视频 | 天天草天天爱 | 美国一级免费视频 | 成人电影毛片 | 久久艹艹艹 | av在线观 | 色999中文字幕 | 护士hd老师fre0性xxx | 综合网天天色 | 成人福利软件 | 国产毛片视频 | 精品中文视频 | 日日草夜夜草 |