許多汽車商都在開發無人駕駛汽車，在不久的未來，無人駕駛汽車必將進入我們的生活。在一些人興奮地期待之時，另一些人卻表示擔憂。難道我們真的愿意將自己的生命交給幾行代碼嗎?

繞不開的有軌電子難題

　　1967年時，哲學家菲利帕.福特(Philippa Foot)曾提出一個關于有軌電子的倫理學難題：

　　一個瘋子將5個無辜的人綁在軌道上。一輛失控的電車迎面開來，即將碾過這5個人，幸好可以拉下火車的控制桿，將它轉向另一個方向。問題在于，在另一條軌道上也有1個無辜的人。拉下控制桿的確可以救下5個人，但會犧牲另外那1個人。你應該怎么做才符合倫理?

　　這個難題后來還演化出許多版本，比如讓你選擇撞死5無辜的人，或者將一個胖子推下去阻止電車前進;又比如這個胖子剛好就是將5個無辜者綁在電軌上的人，等等。

　　同樣的，我們可以將類似的爭論引入到無人駕駛汽車的討論中來。討論的問題可以這樣概括：你的無人駕駛汽車即將與一輛巴士相撞，車上全是學生，車子意識到要么犧牲你去挽救一車的學生，要么救你而放棄那些學生，在設計程序時我們應該怎么選擇呢?

借鑒iPhone模式能保證無人駕駛汽車安全嗎?

　　我們可以換一個方式來看待這個問題：如果你想設計一輛汽車，讓它在特定環境下故意謀殺司機，你如何保證司機不會修改程序讓他的汽車無法故意謀殺人?

　　其實我們已經有了一個明顯的答案，那就是借鑒iPhone模式。我們可以設計一輛汽車，只允許它安裝運輸部(或者制造商)提供的軟件，然后制定嚴格的法規，誰修改軟件就處以重罪。這就是目前iPhone王國推行的法規，游戲主機和許多其它設備也都這樣做，它們紛紛配上數字鎖，即內部人說的“DRM”(數字版權管理)。《數字千年版權法案》(Digital Millennium Copyright Act)等法律禁止人們移除數字鎖，防止受版權保護的著作被盜版，如果誰膽敢發布信息幫助他人解除數字鎖，同樣也逃不過法律的制裁。

　　自動駕駛汽車程序必須對公路上高速移動的目標負責，尤其是那些脆弱的人類，這似乎是理所當然的，但它會帶來一個很大的問題：在現實中根本行不通。

　　每個被鎖定的設備都可以輕易“越獄”。早期的數字鎖法規之所以制定，最主要目的并不是為了阻止人們重新配置設備，而是確保沒有企業和設備幫助他們破解。給手機解鎖并不是什么難事，你可以從網上輕易下載軟件解鎖手機，也可以讓非法破解手機的企業幫你代勞。

　　沒有制造商的允許無人可以重置自動駕駛汽車，如果說這就是確保無人駕駛汽車安全的前提條件，那么無人駕駛汽車將永遠不會安全，因為總會有人能破解軟件的。

不要忘了是軟件就有漏洞!

　　即使我們可以鎖定汽車的設置，它也同樣不安全。數字鎖會在電腦程序中占據一個特定區域，就連電腦所有者也無法進入。要讓數字鎖管用，它的相關文件必須連所有者都看不到。當我們命令操作系統列出數字鎖所在目錄的文件時，系統要掩蓋或者忽略數字鎖文件，以防止用戶刪除或者替換它。當我們命令操作系統列出所有運程程序的列表時，數字鎖程序也應該被忽略，以防止用戶終止程序。

　　不要忘了，所有的電腦都有漏洞。就算是那些使用多年的軟件，它的源代碼已經被無數程序員檢查過，也存在微小的漏洞。汽車體格龐大，行駛速度快，它的破壞力很大，可以殺死司機及周圍的人。如果軟件不夠安全，攻擊者就可以劫持剎車、加速器或轉向裝置，最終導致悲劇發生。相反，如果我們設計出用戶無法修改的無人駕駛汽車，將汽車使用者修改程序視為自私(比如在碰到有軌電車難題時只求自保)的行為，情況會更糟糕。

　　無論無人駕駛汽車有什么問題，當它將自己的乘客當成敵人時，問題會變得更嚴重。

執法者留下的漏洞被恐怖分子利用

　　在連網設備的世界里已經出現“合法攔截”，設備常常留下一些后門供警察監管，這些后門又往往成為安全威脅的根源。盡管如此，執法者仍然希望留下更多的后門。以后的自駕汽車也會留下后門，警察可以向你的車發信號，強迫它停在路邊。漏洞會帶來更多問題，騙子和殺人犯可以在車中內置相似功能，乘客將成為他們的“禮物”，恐怖分子也可以利用這種功能進行攻擊。

　　問題還不只這些。城市規劃者之所以關注自動駕駛汽車，主要是因為它有可能降低路上的汽車數量，將私家車轉為公用分享的車，被Uber等企業控制。我們可以乘車，但車不是我們自己的，我們無法修改，上面談的問題會變得更復雜。Uber等企業會指定第三方來修改。它們也可能會允許用戶作出一些修改，比如增加用戶控制的緊急剎車功能，它可能會委托給保險商管理，不用想也知道，保險商肯定不希望這樣的功能出現。

　　真的這么多危險存在嗎？如果人類懼怕這些潛在的危險，那么我們的生活真的有可能會停滯不前！