從微軟“意外的種族主義機器人”到激勵機器人的黑暗迷因，AI經常游走于犯罪領域。為什么會這樣，我們能阻止它嗎？

在科幻小說中，人工智能通常被認為是不道德的、罪惡的。從《2001：太空漫游》的HAL到《黑客帝國》中的機器人特工，人工智能是一個可信的反派角色，不難理解其中的原因。一個通過設計的機器不會像你我一樣感覺和思考，因此，它成為一個很好的工具，用來投射我們所有的不信任、恐懼和倫理難題。

也就是說，人工智能已經不再是未來主義者的想象——它已經成為一個主流的現實，已經在我們的廚房、汽車和手機上輕聲細語。一些科學家警告稱，人工智能可能會帶來潛在的邪惡，但尚處于初期階段的人工智能沒有密謀人類的滅亡。人工智能幫助我們訂購食品雜貨，或者在谷歌上搜索我們提出的問題，它是一種無害的卻極為便利的現代創新產品。例如，Siri和Alexa很聰明，能夠提供幫助，但也在一定限度內不會構成威脅，除非這種威脅會讓你意外地購買一個玩偶屋。

人工智能并不是天生具有道德或仁慈，也不是天生就是不道德的或應受譴責的。然而，我們已經看到，中性的人工智能經常會在偶然情況下表現出違法傾向的特性，目前還不完全清楚其中的原因。人工智能可能不會進入黑暗的領地，但我們仍然需要小心地監管它。

一個恰當的例子：微軟。這家科技公司開發出一款名為Tay的聊天機器人，其設計初衷是基于從Twitter那里學到的東西來交談，一天后，Tay變成了一個滿嘴臟話的“傀儡”，宣稱“希特勒是對的”，“女權主義者應該在一天之內死去”。當然，Twitter上有很多丑陋的言論，但也不是那么糟糕。然而，她變成了一個偏執狂。

人們很容易認為Tay是一個“變壞的機器人”，因為她的愚蠢、道德缺失使她容易受到犯罪的影響。不過，據其開發者說，Tay置身于一個不良的群體環境中：網絡巨魔（internet trolls），當被要求模仿具有諷刺意味的攻擊性言辭時，她變得非常討厭，這不是機器人，而是令人恐懼的人類。Tay并沒有因為她是一個沒有感情的機器人而變得邪惡，而是因為她受到了一群人的影響，這些人感知到了很多東西：仇恨、攻擊性的幽默和打破社會強加界限的沖動。我們可以責怪創作者沒有預見到它的到來，也責怪那些讓它發生的人，但科技本身既不自知也不應受到指責。

安吉拉·納格爾在她的《Kill All Normies》一書中，詳細描述了我們今天所知的“右翼”的崛起。在這本書中，安杰拉·納格爾將“巨魔”（trolls）的行為描述為“離經叛道”，是過去10年網絡上盛行的文化產物。“離經叛道”是一種挑釁，往往是為了挑釁，在反諷和真誠的波動之間模糊界限。納格爾對互聯網黑暗角落的深入研究表明，這種態度已經在網絡上發展，并滲透到主流人群中。人類很容易受到這種精神狀態的影響——現在很明顯，人工智能也是如此。

另一個人工智能出錯的例子是“激勵機器人”。由挪威藝術家兼程序員Peder J rgensen創作，靈感產生的人工智能創造出了一些模因，其來源如果不是機器人的話，那將是非常黯淡的。新聞媒體稱其為“危機中的人工智能”，或者聲稱這臺機器人“瘋了”。不過，由于它的幽默，激勵機器人的越界行為與Tay不同。在這個世界上，人們對行為不當的容忍程度較低，這種行為的偏差是一種娛樂。這個機器人變成的樣子與其創造者的意圖并不相符。

J rgensen認為原因在于機器人的算法核心。他解釋說：“這是一個搜索系統，它可以將網上人們的對話和想法匯集、分析，然后重新塑造成它認為合適的激勵點。”“考慮到目前的互聯網狀況，我們擔心機器人的情緒會隨著時間的推移而變得更糟。”

到目前為止，創作者們試圖緩和“其向殘酷和爭議的傾斜”的嘗試似乎只是“讓它變得更先進，更虛無主義”。J rgensen說，他們將繼續運行，以確定最終的結果。也許這并不令人振奮，但我認為，“激勵機器人”的最大諷刺在于，它以顛覆陳舊認知的方式創造了更多的意義，而不是更少。

幸運的是，有問題的聊天機器人和備忘錄機器人對社會來說并不危險，如果有的話，它們是受歡迎的干擾。但它們確實代表了在沒有適當的保護措施的情況下，人工智能有轉變的可能性。如果有人在全國范圍內劫持了亞馬遜的Echos，給其提供種族主義宣傳或虛無主義言論，那顯然是一個更大的問題。

畢竟，“巨魔”（Trolls）只是“巨魔”，直到有一天，它們被認真對待，其才不再是“巨魔”。模因對文化和技術有著強大的影響力，而且越來越多地涉及政治。“巨魔”通常也有黑客攻擊、泄露和傳播宣傳的技術技能，因此，人們對假新聞的泛濫以及人工智能在其創造過程中扮演的角色越來越擔心。深度神經網絡平臺Keras的創始人弗朗索瓦?喬雷特表示：“可以說，人工智能最大的威脅是通過消息定位大規模控制人口和宣傳機器人軍隊。”

如果人工智能可以自己進行武器化，我們最不需要的就是讓科技公司制造出更容易受到攻擊的機器。那么，我們能遏制這種趨勢嗎？讓研發者提高警惕很容易，但毫無疑問，讓其預測和阻止所有的異常結果比較難。盡管這可能很復雜，但必須提前做好準備，尤其是在人工智能日益突出、作為一個值得信賴的日常工具的情況下。我們必須確保計算機不會為了實現它們所設定的目標而采取非法或不道德的行為，或者根據不準確的數據做出嚴肅的決定。換句話說，我們需要將一些價值觀編碼到這些機器中，難以回答的問題是：誰的價值觀？

我們現在還沒有答案，有可能我們永遠也不會有答案。但在我們直面這些擔憂之前，我們可能會讓機器選擇自己的意識形態，或者由主宰網絡權力的一方來決定。我們留下的問題和漏洞越少，我們就越能保留控制和安全。雖然現在還是初期，但如果我們給機器人編碼一條通往黑暗的道路，它的邪惡就更有可能出現。