在這篇教程中,我們將解釋字符編碼的含義,然後給出一些使用命令行工具將使用某種字符編碼的文件轉化為另一種編碼的例子。最後,我們將一起看一看如何在 Linux 下將使用各種字符編碼的文件轉化為 UTF-8 編碼。
你可能已經知道,計算機除了二進制數據,是不會理解和存儲字符、數字或者任何人類能夠理解的東西的。一個二進制位只有兩種可能的值,也就是 0 或 1,真或假,是或否。其它的任何事物,比如字符、數據和圖片,必須要以二進制的形式來表現,以供計算機處理。
簡單來說,字符編碼是一種可以指示電腦來將原始的 0 和 1 解釋成實際字符的方式,在這些字符編碼中,字符都以一串數字來表示。
字符編碼方案有很多種,比如 ASCII、ANCI、Unicode 等等。下面是 ASCII 編碼的一個例子。
在 Linux 中,命令行工具 iconv 用來將使用一種編碼的文本轉化為另一種編碼。
你可以使用 file 命令,並添加 -i 或 --mime 參數來查看一個文件的字符編碼,這個參數可以讓程序像下面的例子一樣輸出字符串的 mime (Multipurpose Internet Mail Extensions) 數據:
在 Linux 中查看文件的編碼
iconv 工具的使用方法如下:
在這裡,-f 或 --from-code 表明了輸入編碼,而 -t 或 --to-encoding 指定了輸出編碼。
為了列出所有已有編碼的字符集,你可以使用以下命令:
列出所有已有編碼字符集
下面,我們將學習如何將一種編碼方案轉換為另一種編碼方案。下面的命令將會將 ISO-8859-1 編碼轉換為 UTF-8 編碼。
考慮如下文件 input.file,其中包含這幾個字符:
我們從查看這個文件的編碼開始,然後來查看文件內容。最後,我們可以把所有字符轉換為 UTF-8 編碼。
在運行 iconv 命令之後,我們可以像下面這樣檢查輸出文件的內容,和它使用的字符編碼。
在 Linux 中將 ISO-8859-1 轉化為 UTF-8
注意:如果輸出編碼後面添加了 //IGNORE 字符串,那些不能被轉換的字符將不會被轉換,並且在轉換後,程序會顯示一條錯誤信息。
好,如果字符串 //TRANSLIT 被添加到了上面例子中的輸出編碼之後 (UTF-8//TRANSLIT),待轉換的字符會盡量采用形譯原則。也就是說,如果某個字符在輸出編碼方案中不能被表示的話,它將會被替換為一個形狀比較相似的字符。
而且,如果一個字符不在輸出編碼中,而且不能被形譯,它將會在輸出文件中被一個問號標記 ? 代替。
回到我們的主題。如果你想將多個文件甚至某目錄下所有文件轉化為 UTF-8 編碼,你可以像下面一樣,編寫一個簡單的 shell 腳本,並將其命名為 encoding.sh:
保存文件,然後為它添加可執行權限。在待轉換文件 (*.txt) 所在的目錄中運行這個腳本。
重要事項:你也可以使這個腳本變得更通用,比如轉換任意特定的字符編碼到另一種編碼。為了達到這個目的,你只需要改變 FROM_ENCODING 及 TO_ENCODING 變量的值。別忘了改一下輸出文件的文件名 "${file%.txt}.utf8.converted".
若要了解更多信息,可以查看 iconv 的手冊頁。
將這篇指南總結一下,理解字符編碼的概念、了解如何將一種編碼方案轉換為另一種,是一個電腦用戶處理文本時必須要掌握的知識,程序員更甚。
最後,你可以在下面的評論部分中與我們聯系,提出問題或反饋。