還是回到我們的command line
來吧...
經(jīng)過前面兩章的學習,應該很清楚當你在shell prompt
后面敲打鍵盤, 直到按下Enter
鍵的時候,你輸入的文字就是command line
了, 然后shell
才會以進程的方式執(zhí)行你所交給它的命令。 但是,你又可知道:你在command line
中輸入的每一個文字, 對shell
來說,是有類別之分的呢?
簡單而言,(我不敢說精確的定義,注 1),command line
的每一個charactor
, 分為如下兩種:
shell
來說沒特殊功能;shell
來說,具有特定功能的特殊保留元字符。Note
對于
bash shell
在處理comamnd line
的順序說明, 請參考 O'Reilly 出版社的 Learning the Bash Shell,2nd Edition, 第 177-180 頁的說明,尤其是 178 頁的流程圖:Figure 7-1 ...
literal
沒什么好談的, 像 abcd、123456 這些 "文字" 都是 literal...(so easy? ^_^) 但 meta 卻常使我們困惑...(confused?) 事實上,前兩章,我們在command line
中已碰到兩個 似乎每次都會碰到的 meta:
IFS
:有space
或者tab
或者Enter
三者之一組成 (我們常用 space)CR
: 由Enter
產(chǎn)生;IFS
是用來拆解command line
中每一個詞 (word) 用的, 因為shell command line
是按詞來處理的。 而CR
則是用來結束command line
用的,這也是為何我們敲Enter
鍵, 命令就會跑的原因。
除了常用的IFS
與CR
, 常用的 meta 還有:
meta 字符 | meta 字符作用 |
---|---|
= | 設定變量 |
$ | 作變量或運算替換 (請不要與shell prompt 混淆) |
> | 輸出重定向 (重定向 stdout) |
< | 輸入重定向 (重定向 stdin) |
| | 命令管道 |
& | 重定向 file descriptor 或將命令至于后臺 (bg) 運行 |
() | 將其內部的命令置于 nested subshell 執(zhí)行,或用于運算或變量替換 |
{} | 將期內的命令置于 non-named function 中執(zhí)行,或用在變量替換的界定范圍 |
; | 在前一個命令執(zhí)行結束時,而忽略其返回值,繼續(xù)執(zhí)行下一個命令 |
&& | 在前一個命令執(zhí)行結束時,若返回值為 true,繼續(xù)執(zhí)行下一個命令 |
|| | 在前一個命令執(zhí)行結束時,若返回值為 false,繼續(xù)執(zhí)行下一個命令 |
! | 執(zhí)行 histroy 列表中的命令 |
... | ... |
假如我們需要在command line
中將這些保留元字符的功能關閉的話, 就需要 quoting 處理了。
在bash
中,常用的 quoting 有以下三種方法:
Note:
在 soft quote 中被豁免的具體 meta 清單,我不完全知道, 有待大家補充,或通過實踐來發(fā)現(xiàn)并理解。
下面的例子將有助于我們對 quoting 的了解:
$ A=B C #空白符未被關閉,作為IFS處理
$ C:command not found.
$ echo $A
$ A="B C" #空白符已被關掉,僅作為空白符
$ echo $A
B C
在第一個給 A 變量賦值時,由于空白符沒有被關閉, command line
將被解釋為: A=B 然后碰到<IFS>,接著執(zhí)行C命令
在第二次給 A 變量賦值時,由于空白符被置于 soft quote 中, 因此被關閉,不在作為IFS
; A=B<space>C
事實上,空白符無論在 soft quote 還是在 hard quote 中, 均被關閉。Enter 鍵字符亦然:
$ A=``B
> C
> '
$ echo "$A"
B
C
在上例中,由于enter
被置于 hard quote 當中,因此不再作為CR
字符來處理。 這里的enter
單純只是一個斷行符號 (new-line) 而已, 由于command line
并沒得到CR
字符, 因此進入第二個shell prompt
(PS2
,以 > 符號表示), command line
并不會結束,直到第三行, 我們輸入的enter
并不在 hard quote 里面, 因此沒有被關閉, 此時,command line
碰到CR
字符,于是結束,交給 shell 來處理。
上例的Enter
要是被置于 soft quote 中的話,CR
字符也會同樣被關閉:
$ A="B
> C
> "
$ echo $A
B C
然而,由于 echo $A
時的變量沒有置于 soft quote 中, 因此,當變量替換完成后,并作命令行重組時,enter
被解釋為IFS
, 而不是 new-line 字符。
同樣的,用 escape 亦可關閉 CR 字符:
$ A=B\
> C\
>
$ echo $A
BC
上例中的,第一個enter
跟第二個enter
均被 escape 字符關閉了, 因此也不作為CR來處理,但第三個enter
由于沒有被 escape, 因此,作為CR
結束command line
。 但由于enter
鍵本身在 shell meta 中特殊性,在 \ escape 字符后面 僅僅取消其CR
功能, 而不保留其 IFS 功能。
你或許發(fā)現(xiàn)光是一個enter
鍵所產(chǎn)生的字符,就有可能是如下這些可能:
至于,什么時候解釋為什么字符,這個我就沒法去挖掘了, 或者留給讀者君自行慢慢摸索了...^-^
至于 soft quote 跟 hard quote 的不同,主要是對于某些 meta 的關閉與否,以 $ 來做說明:
$ A=B\ C
$ echo "$A"
B C
$ echo '$A'
$A
在第一個echo
命令行中,$ 被置于 soft quote 中,將不被關閉, 因此繼續(xù)處理變量替換, 因此,echo
將 A 的變量值輸出到屏幕,也就是 "B C" 的結果。
在第二個echo
命令行中,$ 被置于 hard quote 中,則被關閉, 因此,$ 只是一個 $ 符號,并不會用來做變量替換處理, 因此結果是 $ 符號后面接一個 A 字母:$A。
練習與思考: 如下結果為何不同?
tips: 單引號和雙引號,在 quoting 中均被關閉了。
$ A=B\ C
$ echo '"$A"' #最外面的是單引號
"$A"
$ echo "'$A'" #最外面的是雙引號
'B C'
在 CU 的 shell 版里,我發(fā)現(xiàn)很多初學者的問題, 都與 quoting 的理解有關。 比方說,若我們在 awk 或 sed 的命令參數(shù)中, 調用之前設定的一些變量時,常會問及為何不能的問題。
要解決這些問題,關鍵點就是:區(qū)分出 shell meta 與 command meta
前面我們提到的那些 meta,都是在 command line 中有特殊用途的, 比方說 {} 就是將一系列的 command line 置于不具名的函數(shù)中執(zhí)行 (可簡單視為 command block), 但是,awk 卻需要用 {} 來區(qū)分出 awk 的命令區(qū)段 (BEGIN,MAIN,END). 若你在 command line 中如此輸入:
$ awk {print $0} 1.txt
由于 {} 在 shell 中并沒有關閉,那 shell 就將 {print $0} 視為 command block, 但同時沒有;
符號作命令分隔,因此,就出現(xiàn) awk 語法錯誤結果。
要解決之,可用 hard quote:
awk '{print $0}'
上面的 hard quote 應好理解,就是將原來的 {、、$、} 這幾個 shell meta 關閉, 避免掉在 shell 中遭到處理,而完整的成為 awk 的參數(shù)中 command meta。
Note:
awk 中使用的 $0 是 awk 中內建的 field nubmer,而非 awk 的變量, awk 自身的變量無需使用 $。
要是理解了 hard quote 的功能,在來理解 soft quote 與 escape 就不難:
awk "{print \$0}" 1.txt
awk \{print \$0\} 1.txt
然而,若要你改變 awk 的 $0 的 0 值是從另一個 shell 變量中讀進呢? 比方說:已有變量 $A 的值是 0, 那如何在command line
中解決 awk 的 $$A 呢? 你可以很直接否定掉 hard quote 的方案:
$ awk '{print $$A}' 1.txt
那是因為 $A 的 $ 在 hard quote 中是不能替換變量的。
聰明的讀者 (如你!),經(jīng)過本章的學習,我想,你應該可以理解為 為何我們可以使用如下操作了吧:
A=0
awk "{print \$$A}" 1.txt
awk \{print\ \$$A\} 1.txt
awk '{print $'$A'}' 1.txt
awk '{print $'"$A"'}' 1.txt
或許,你能給出更多方案... ^_^
更多練習:
read a #輸入: abc
echo "$a" #只輸出abc
原因: 變量 a 的值,從終端輸入的值是以 IFS 開頭,而這些 IFS 將被 shell 解釋器忽略 (trim)。 應該與 shell 解釋器分詞的規(guī)則有關;
read a #輸入:\ \ \ abc
echo "$a" #只輸出abc
需要將空格字符轉義
Note:
IFS Internal field separators, normally space, tab, and newline (see Blank Interpretation section). ...... Blank Interpretation After parameter and command substitution, the results of substitution
are scanned for internal field separator characters (those found in IFS) and split into distinct arguments where such characters are found. Explicit null arguments (""or'') are retained.
Implicit null arguments(those resulting from parameters that have no values) are removed. (refre to: man sh)
解決思路:
若你還是不理解,那來驗證一下下面這個例子:
$ A=" abc"
$ echo $A
abc
$ echo "$A" #note1
abc
$ old_IFS=$IFS
$ IFS=;
$ echo $A
abc
$ IFS=$old_IFS
$ echo $A
abc
Note:
這里是用 soft quoting 將里面的 space 關閉,使之不是 meta(IFS), 而是一個 literal(white space);
- IFS=; 意義是將 IFS 設置為空字符,因為; 是 shell 的元字符 (meta);
問題二:為什么多做了幾個分號,我想知道為什么會出現(xiàn)空格呢?
$ a=";;;test"
$ IFS=";"
$ echo $a
test
$ a=" test"
$ echo $a
test
$ IFS=" "
$ echo $a
test
解答:
這個問題,出在IFS=;
上。 因為這個;
在問題一中的 command line 上是一個 meta, 并非";"
符號本身。 因此,IFS=;
是將 IFS 設置為 null charactor (不是 space、tab、newline)。
要不是試試下面這個代碼片段:
$ old_IFS=$IFS
$ read A
;a;b;c
$ echo $A
;a;b;c
$ IFS=";" #Note2
$ echo $A
a b c
Note:
要關閉
;
可用";"
或者';'
或者\;
。
思考問題二:文本處理:讀文件時,如何保證原汁原味。
cat file | while read i
do
echo $i
done
文件 file 的行中包含若干空,經(jīng)過 read 只保留不重復的空格。 如何才能所見即所得。
cat file | while read i
do
echo "X${i}X"
done
從上面的輸出,可以看出 read,讀入是按整行讀入的; 不能原汁原味的原因:
echo $i
的解析過程中,首先將 $i 替換為字符串, 然后對 echo 字符串中字符串分詞,然后命令重組,輸出結果; 在分詞,與命令重組時,可能導致多個相鄰的 IFS 轉化為一個;cat file | while read i
do
echo "$i"
done
以上代碼可以解決原因 2 中的,command line 的分詞和重組導致 meta 字符丟失; 但仍然解決不了原因 1 中,read 讀取行時,忽略行起始的 IFS meta 字符。
回過頭來看上面這個問題:為何要原汁原味呢? cat 命令就是原汁原味的,只是 shell 的 read、echo 導致了某些 shell 的 meta 字符丟失;
如果只是 IFS meta 的丟失,可以采用如下方式: 將 IFS 設置為 null,即IFS=;
, 在此再次重申此處;
是 shell 的 meta 字符, 而不是 literal 字符; 因此要使用 literal 的 ;
應該是\;
或者關閉 meta 的 (soft/hard) quoting 的";"
或者';'
。
因此上述的解決方案是:
old_IFS=$IFS
IFS=; #將IFS設置為null
cat file | while read i
do
echo "$i"
done
IFS=old_IFS #恢復IFS的原始值
現(xiàn)在,回過頭來看這個問題,為什么會有這個問題呢; 其本源的問題應該是沒有找到解決原始問題的最合適的方法, 而是采取了一個迂回的方式來解決了問題;
因此,我們應該回到問題的本源,重新審視一下,問題的本質。 如果要精準的獲取文件的內容,應該使用 od 或者 hexdump 會更好些。