原標題：我想看看，誰敢把“鳥”寫成“黑”

最近出現了一個神奇的工作燈。

它有兩個攝像頭，一個可以密切關注孩子的作業本，另一個可以關注孩子的面部表情。這樣，在做作業的時候，如果孩子敢把“鳥”寫成“黑”，即使在千里之外，父母依然可以大叫。孩子想變笨，沒辦法；想揉揉眼睛玩玩筆，肯定會拋出一句“注意”。

可以理解，這款產品可以給一些因為工作生活而遠離孩子的父母，實現遠程陪伴。但也給“直升機”的父母增加了一個利器，不僅盯著人，還盯著所有的小動作，包括指尖和眼睛。

以我們的天賦，這樣的產品肯定會被超越：你可以再加一個攝像頭盯著孩子的腿腳。寫作業時，雙腳必須并排放在地上，不許蹺二郎腿；你可以把錘子掛在頭上。如果你發現自己走神了，錘子會馬上掉下來。

人工智能的應用越來越多。在信息安全的前提下，交通導航、醫療診斷、移動支付、藥物篩選等等給我們帶來了太多的好處。人工智能在疫情防控方面也發揮了重要作用。

從一個攝像頭到兩個攝像頭，不管有沒有創新，關鍵是要嫁接人工智能，一個叫人工智能的幫助教育的新產品，值得探討。人工智能應該如何幫助教育？

去年，浙江一所小學的一名學生被戴上了腦機接口環。這個腦帶可以檢測腦電波，判斷學生上課和作業是否注意力集中，系統可以對注意力進行評分。分數可以實時傳到老師電腦里，據說會像考試分數排名一樣發給家長。

還有一款產品可以監控學生上課聽講的全過程，比如舉手3次，低頭8次，打瞌睡一次，趴在桌子上一次……一舉一動，面部表情都可以記錄下來。

好在被媒體舉報后，浙江當地教育部使用上述頭帶進行門禁；上述第二個產品的開發公司也表示，這只是技術場景概念的演示，并否認了申請。真的要感謝他們，不然孩子在學校戴頭帶，放學在家亮工作燈，全天候，沒有死角，都在大人手里，大人干預。這不就是電影《楚門的世界》里的活生生的現實“小楚門”嗎，24小時監控直播。

如何培養更多具有創造力、想象力和突破勇氣的優秀人才，一直是我們的疑問和目標。一個人的成長需要適度的空間，心理成熟和精神豐富都需要自我探索和嘗試。從試錯和反思中獲得的很多經驗更有價值。一直被作業束縛，成績，沒有空間，也許會有好成績，但很難說會有陽光的態度。

從小只會拉磨的小馬永遠成不了好馬，這已經被形象地比喻過了。

兩年前剛應用人臉識別技術的時候，公園里有廁所配有人臉識別設備，刷臉的時候給你一張衛生紙。如果你想要更多，對不起，你只能刷一次臉。如果有特殊需要，真的要找別人“借臉”了。人臉識別的應用場景有很多。在新冠肺炎爆發肺炎期間，一些相機甚至在戴口罩時也能識別。

現在衛生紙也升級了。有的人在地上打印二維碼，掃碼，注意公眾號就能滑出一張衛生紙。這種推廣營銷，用在馬桶上，總讓人覺得不聽話。

每年都有精彩的事情，人工智能來的時候特別豐富。

出現了一些批量生產“優雅罵人”語句的軟件。這類軟件可以快速從文學名著中檢索并生成具體的罵人句子，充滿惡意，沒有臟字。這些軟件為網絡噴霧器提供了一個“裝滿狗屎的炸彈”，誹謗他人，污染網絡環境。

有了迭代技術，雙刃劍總是極其鋒利。有學者形容科學技術是一匹飛奔的馬，倫理道德就像限制馬的籠頭。沒有倫理規范、約束和引導，科學技術的瘋狂發展很可能給人類帶來不歸。"

何健魁濫用基因編輯技術被追究刑事責任，這就是韁繩的作用。前幾年的瘦肉精、三聚氰胺、蘇丹紅也是如此。

倫理有一定的穩定性。面對不確定性日益增加的未來，科學技術應該為人類提供什么幫助？科技的極限和禁區在哪里？在過去，如果提前設定一些高于當前要求的倫理規范，就有機會消除某些技術帶來的不確定性危害。

去年，多家研究機構聯合推出《人工智能北京共識》，提出人工智能的研究、開發、使用和治理應遵循15條有利于人類命運共同體建設和社會發展的原則。比如“善用慎用”原則，要充分認識人工智能應用的潛在影響，避免誤用和濫用，使人工智能帶來的收益最大化，風險最小化。

之后科技部還公布了《新一代人工智能治理原則——發展負責任的人工智能》，提出了和諧友好、公平正義、包容共享、尊重隱私、安全可控、敏捷治理等八項原則。

幾乎與此同時，歐盟委員會也發布了人工智能倫理準則，并宣布將同時開始試驗階段。據統計，目前，政府、各種組織、研究機構和行業已經發布了幾十項關于人工智能倫理標準的建議。

但可以看到，這些準則大多只是原則性和主動性，缺乏可操作性和法律約束力。

因此，如何利用好人工智能，取決于研究者的自律。作業神燈的發明者，應該想想自己小時候是否愿意一直被父母老師盯著看。

當然，無論是阿拉丁神燈還是蓮花燈，無論是金箍還是銀箍，產品經理一定是考察過市場，看到了需求，推廣團隊才會去培育市場，獲取利潤。但是這種收入的支付者是誰，只是父母花錢而已？不，可能失去的是一群人的未來。

算法覆蓋24小時的孩子可能很聽話，作業遇到問題也不會露齒而笑。如果都像一批小機器人，未來這是誰的世界？

在電影《星球大戰》中，被稱為“終極武器”的死星，代表了技術兩面的“惡”。這個巨大的有兩個引力場的怪物會讓克隆人慢慢降低人性，讓一切都在機器控制之下。

且不說那么遠的科幻世界，最近幾年，商業公司最感興趣的信息已經從個人生日、電話號碼和地址變成了指紋、五官、虹膜等等。南京的一家售樓處收集看房者的面部信息，自保買家戴頭盔看房。父母可以通過神燈安全的把孩子的臉交給一家公司？

這幾年一直很熱鬧鬧的人工智能，已經有60多年歷史。現在公認的說法是1956年達特茅斯學院夏季研討會（人工智能的起源事件）的召集者麥卡錫（John McCarthy）想出來的。有人考證，說這是誤讀，因為麥卡錫晚年承認這個詞最早是從別人那里聽來的，但記不清是誰了。如今當事人大都已仙逝，誰發明了這個詞恐成世紀懸案。不過，人工智能花里胡哨的應用，還能遠程管中國小孩寫字多一筆少一筆，應該是這些先賢們沒有想到的。

李新玲