作者：陳小平（中國科學技術大學計算機學院）

內容提要：人工智能倫理建設的必要性已形成全球共識，但建設目標、重點任務和實現路徑仍存在較大分歧，概括為六個議題。本文首先介紹AI的兩大類主要技術——強力法和訓練法，在此基礎上總結AI現有技術的三個特性，作為AI倫理的技術依據。同時，以全球公認的福祉原則作為AI倫理的根本依據。本文立足于這兩個依據，闡述AI倫理建設應具有雙重目標——同時回答應該和不應該讓AI做什么，進而探討另外五個重要議題：AI的安全底線，AI功能的評價原則，AI治理責任的落實路徑，AI主體狀況變遷的可能性，以及一種全新的創新模式——公義創新。

經過幾年的廣泛討論，人工智能(artificial Intelligence，簡稱AI)倫理建設的必要性已形成全球共識。但是，關于AI倫理的建設目標、重點任務和落地路徑，仍存在較大的分歧和爭論，也有些關鍵問題尚未引起足夠的重視，文本將這些內容概括為六個議題。顯然，建設目標的定位將決定重點任務和落地路徑的選擇，從而決定AI倫理建設的發展大局。關于AI倫理建設目標的主要分歧是：AI倫理應該是雙重目標(即同時回答應該和不應該讓AI做什么)，還是單一目標(即主要回答不應該讓AI做什么)？如果是單一目標，一些重大議題將被完全或部分地排除。引起分歧和爭議的一個重要原因在于，對現階段AI技術特性的認識存在巨大差異，從而導致對AI社會意義和倫理風險的截然不同甚至完全相反的判斷。為此，有必要梳理七十年來AI研究的主要進展，澄清現階段AI技術的主要特性，形成AI倫理的技術依據。同時，以全球公認的福祉原則作為AI倫理的根本依據。本文根據這兩個依據討論AI倫理的六個議題。

一、人工智能的強力法

AI經過三次浪潮取得了大量進展，各種技術路線層出不窮，受到研究者較多關注的有兩大類技術——強力法和訓練法。強力法又包含推理法和搜索法兩種主要類型，推理法是在知識庫上進行推理，搜索法是在狀態空間中進行搜索。推理法通常由一個推理機和一個知識庫組成，推理機是一個負責推理的計算機程序，往往由專業團隊長期研發而成，而知識庫則需要研發者針對不同應用自行開發。

一般來說，推理機的工作方式是：針對輸入的提問，根據知識庫里的知識進行推理，給出問題的回答。下面用一個簡化的例子加以說明。假設我們要用推理法回答“就餐”這個應用場景的有關問題。為此需要編寫一個關于“就餐”的知識庫，其中部分知識如表1所示。表1中的第一條知識是一個邏輯公式，它的含義是：餐具可以盛食物；表中的第二條知識food(rice)也是一個邏輯公式，它的含義是：米飯是食物；表中的其他知識類似。

表2列舉了一些問題，比如第一個問題“hold(bowl，rice)？”問的是：碗能盛米飯嗎？推理機利用知識庫中的知識進行推理，可以給出此問題的回答yes。表2中的第三個問題稍微復雜一點，它問的是：碗能盛什么？回答一般不是唯一的，但推理機仍然能夠根據知識庫中的知識，找出所有正確的答案：碗能盛米飯、能盛湯……推理機還可以回答更復雜的問題。

值得注意的是，一般情況下，由推理機得到的回答，并不是知識庫中存貯的知識。例如表2中的三個回答都是推導出來的，在知識庫(表1)中并沒有直接保存“碗能盛米飯”“碗能盛湯”等答案。因此，知識庫推理與數據庫查詢不同，不是提取事先保存的答案，而是推出知識庫中沒有保存的答案，可見知識庫加推理機的組合能力之強大。知識庫上的推理被認為是一種智能功能，是其他信息技術所不具備的。

目前強力法受到一個條件的限制——封閉性。封閉性在推理法上的具體表現是：要求存在一組固定、有限的知識，可以完全描述給定的應用場景。對于上面的“就餐”場景，如果存在著不可以盛湯的“破碗”(并且將“破碗”也當作“碗”)，那么表1中的知識就不能完全描述這樣的“就餐”場景，因為根據這些知識推出的某些回答(如“碗能盛湯”)在這個場景中是不正確的。

上述“就餐”場景是特意設計的一個小例子，而實際應用中的場景都很大、很復雜(否則就不必應用AI技術了)，有時不滿足封閉性條件。比如一個就餐場景中，一開始沒有破碗，根據知識庫推出的回答都是正確的；可是一段時間之后出現了破碗，根據知識庫推出的某些回答就不正確了。這種情況也是不滿足封閉性條件的。

關于推理法對于整個AI的重大意義，深度學習的三位領軍學者Geoffrey Hinton、Yann LeCun和Yoshua Bengio(他們共同獲得2018年度圖靈獎)在深度學習的總結性論文中指出：深度學習的根本性局限在于缺乏復雜推理能力。(cf.LeCun et al)而推理法代表著人類關于復雜推理能力的最高研究成果，所以推理法的局限性也代表著整個AI現有技術的局限性，封閉性對推理法的限制也是對整個AI現有技術的限制。

二、人工智能的訓練法

訓練法要求首先收集一組原始數據，并對其中的每一條數據都進行人工標準，做成訓練數據集。然后用訓練數據集訓練一個人工神經元網絡，用訓練好的網絡回答問題。

圖1是一個人工神經網絡的示意圖。圖中每一個圓圈代表一個“神經元”，每一個帶箭頭的線段代表神經元之間的一個“連接”。人工神經元網絡就是由大量神經元和連接組成的網絡。一個連接可理解為一條信息通道，并對通道中傳遞的信息進行加權運算；也就是說，一條連接首先從一個神經元接受輸入數值，經過加權運算，再按照箭頭的指向，向下一個神經元輸出加權計算的結果。圖1省略了所有連接上的權值。

如圖1所示，一個神經元可以有多個輸入連接，從而同時接受多個輸入值。一個神經元也可以有多個輸出連接，從而同時向多個神經元傳遞輸出值。每個神經元能夠獨立地計算一個簡單函數f，即根據該神經元的所有輸入值，計算得出函數f的值之后，作為輸出值向所有輸出通道同時發送，經過各條連接上的加權運算之后，傳遞給其他神經元。在圖1中，是整個人工神經元網絡的輸入連接，具體輸入值來自網絡外部； 是整個人工神經元網絡的輸出，具體的輸出值就是網絡的計算結果。