人腦植入芯片，或能成為長生不老的超人，但我們還會有屬人的豐沛感受和無限創意嗎？人工智能給世界帶來巨大便利，但會不會某一天越過奇點轉而操控、替代并加害人類？基因編輯生殖細胞，或能治療許多疾病，但會不會危及人類基因庫與自然的生物世界？凡此種種，對人類來說，到底是福音還是噩耗？

在最新出版的《人來還有未來嗎？》一書中，倫理學家、北大哲學系何懷宏教授從底線倫理和中西傳統文化智慧的角度考察了人工智能和基因技術與我們的現實關系，并提出了預防性的道德與法律規范設想。這是北京大學何懷宏教授 2017年至今在博古睿研究中心從事跨學科研究的成果。

何懷宏9月底，何懷宏、科幻作家郝景芳、清華大學計算機系教授孫富春與批評家季亞婭就人工智能相關問題進行了對話。對話內容包括：怎么看待赫拉利《未來簡史》《人類簡史》和劉慈欣、郝景芳等人科幻小說為我們描繪的未來圖景；伴隨著人工智能在具體生活里的應用，哪些職業會被取代以及由此衍生的人工智能優勢在算法、深度學習還是其他方面的問題；人工智能在人類歷史的原型、發展；神人關系和人機關系究竟意味著什么……

《人來還有未來嗎？》

“

技術時代，文明和人類都將面臨新的挑戰

”

何懷宏在談及本書寫作的起因時說：“大概是七八年前吧，我對這個世界的精神文化感到一種突然的失落，它好像不再是向上，而是開始向下。我們所讀的書，我們的作家、哲學、藝術，包括我們讀的最偉大的哲學家的作品還是100多年前的、甚至更早的。我也開始擔心文明，100多年前的某天，梁漱溟的父親梁濟曾經問過他25歲的兒子一個問題：這個世界會好嗎？三天后他就自殺了。但他這個問題主要還是心系中國，在中國建設政治社會的途中，在辛亥革命、建立共和國之后，他看到很多亂象，憂心忡忡，為什么？我們現在這個問題不僅僅是對中國，可能是對人類而言。在技術時代，文明和人類都將面臨新的挑戰。”

何懷宏認同“積極的行動者”的態度，“我也是這樣想的，絕不讓人工智能妨礙我的理智。我非常喜歡具體的事情：比如護理機器人，如果有小偷來襲擊一個老人，可不可以讓護理機器人保護他？我現在覺得還可以采取別的辦法，比如報警或者什么。需要護理機器人用暴力的手段的話，是很危險的，因為很可能變成進攻的工具。還有基因工程也是一樣的，你要有預防性，預防各種各樣的威脅。比如說生殖細胞你就不能動，你要動生殖細胞，也許能使患者健康，但是它間接的長遠的后果是不知道的。可能防止了艾滋病，但是容易感染其他的疾病等等。”

人工智能的研發需要遵守哪些原則？

孫富春作為清華大學計算機系教授、智能機器人研究中心主任，對于人工智能的有一些專業的闡釋。

孫富春關于機器人的基層研究已經發生了巨大的變化：我們過去研究的機器人完全寫程序控制工作，第二代機器人就給它裝上視覺系統，現在在這些基礎上研制了一種叫模態的自建傳感器，它可以測量接觸物體表面的顏色問題，觸覺，包括還有給你的感受，這些都能夠測出來，還有溫度計也能測出來。比如華為最近跟我們合作的家用機器人，它可以識別人，甚至可以對環境進行監控。現在也有情感智能的研究，目前還是基于這種視覺的表面的表情體態的。下一步它可能有像一個擁抱一個輕拍，那種親熱感。”

孫富春介紹，在2017年達沃斯論壇會議上，一些科學家提出了三點建議，現在也成為我們人工智能課程的教學理念，他介紹了人工智能三原則，分別為：價值一致性原則，即我們要讓人工智能機器人幫助人增強它的服務能力，但絕不能取代人類，這是一個比較重要原則；其次是透明性原則，人工智能必須是透明的，包括在倫理上的許可，獲得公眾的信任和可解釋性。“講一個最簡單的例子，就是基因編輯，這個基因編輯好嗎？有的基因編輯真的是好的，有的基因編輯真的不能做，為什么這么講？機器人特別聰明，就像一個人特別聰明，時間長了，以后我們可能會看到，我們這些人都將是他統治的對象，這是人的本性。大家可以看到人的貪婪，那種欺弱的本性，這是我們每個人都有的。”孫富春說。最后就是要把工智能系統做成閉合回路。讓機器人真的為我們服務，千萬不能讓機器隨性發展。在我們人類能力能夠控制的地方，再任它去發展。

何懷宏對此也提出自己觀感：“過去區分人和機器主要是在材料。人類是碳基生物。但是我們有人造肢體，那碳基生物是不是也可以完全變成一個硅基的存在？我們用特殊材料支撐，變成鋼鐵人。我們很難說，哪里發生了一種質變，這會遇到一個極大的挑戰。其次就是感受性，作為碳基生物，我們很強調感受性，恰恰這些人人工智能最沒辦法學的，但是機器人還有一點很笨，我們人能夠進入屋子，掃視一下，看著很多人，其實有些印象深刻的一下就記住了。還有可能一見鐘情，但是機器沒辦法做到這些，我們最容易做到的事情，機器最難做到。這要依靠我們的感受。因為他一切都要通過算法，通過計算來完成，機器人需要輸入數據。”