張洪忠:社交機器人不善也不惡,關鍵是如何規制
在萬物互聯的5G時代,媒體智能化已經成為不可阻擋的趨勢和發展方向。人工智能技術與媒體如何融合?智能化會帶來哪些媒體倫理問題?進入智能時代,媒體如何做好社會的“望者”?新浪新聞、封面新聞聯合推出《未來媒體訪談》節目智能媒體專題,探討與智能媒體相關的問題。
本期訪談嘉賓
張洪忠,北京師范大學新聞傳播學院執行院長、教授,傳播學博士,新聞出版業科技與標準重點實驗室"新聞出版大數據用戶行為跟蹤與分析實驗室"主任,北京師范大學新媒體傳播研究中心主任。
張教授在SSCI刊物和CSSCI等各類中英文學術刊物發表多篇學術論文,出版《資本影響下的中國傳媒業》、《轉型期的中國傳媒公信力》等4本專著,合著和編著5本,主編3本。承擔了3項國家自然科學基金和社科基金課題,以及近五十項省部級和橫向課題,長期開展大型調查和網絡數據挖掘與分析工作。
張教授的主要研究方向為傳播效果測量、智能傳播、傳媒公信力。
以下為訪談實錄:
未來媒體訪談:
智能機器人的出現,它已經成了社交媒體上的重大參與者。那么,它對我們的信息輿論的生產將會產生哪些影響?
張洪忠:
社交機器人,簡單的說就是我們一種人工智能的技術就在社交媒體上,有人的形象,與人交流的,一種算法的那么一種賬號。那么這些賬號呢,就假扮人的賬號來跟人溝通,但是我們不知道它的背后是機器來運作的,比如在Twitter,在Facebook上面很多的社交機器人。
2016年的時候美國總統選舉里面,多種數據都顯示20%左右的信息是社交機器人發出來的。那我們北師大的團隊,我們做2018年中美貿易戰、2020年3月的新冠疫情在推特上的那個檢測也是20%左右的關于這些疫情的信息是社交機器人發出來的。社交機器人已經成為影響全球輿論市場的一個重要的一股力量,所以從技術角度來說,社交機器人是我們目前用的最成熟的在輿論領域里面一種人工智能技術。
比爾蓋茨說過一句話,自然語言是人工智能這頂皇冠上的明珠。那么社交機器人就是我們自然語言這頂皇冠上的明珠。所以,社交機器人因為它有強大的對話系統,很多是開放域的,這個做到是很不容易的。
社交機器人當然也不是壞的,都是惡意的,也有善意的。比如說微軟小冰,她是善意的,微軟小冰在微博、微信跟人聊天在全球。然后微軟小冰也出詩集、也唱歌,做主持人等等。我們跟微軟亞洲工程研究院聯合成立了一個人工智能與未來媒體實驗室。那我們的團隊就參與到當時微軟小冰的寫作盒子的開發,機器寫作分兩種,搜索型寫作和深層型寫作,我們用的深層型寫作技術,是比較難的。那么小冰寫作盒子,我們兩三分鐘可以寫5000字、6000字、7000字。還有,我們國內比如商業機構都在開發社交機器人。比如你在淘寶里面買東西的時候,你也會遇到很多語音對話,它其實也是種機器人。我們今天所講的是在社交媒體上,參與輿論的這樣的一個社交機器人,這部分群體,我們叫政治機器人,就是社交機器人里面一個非常小的一個部分,那么這塊群體我們研究的比較多,那么它已經成為整個輿論環境的一個重要的一個方面。
比如說英國脫歐的投票前兩個月,大量的Facebook 、Twitter賬號里面,是支持脫歐的。兩個月投票一結束以后,這些賬號突然就沉沒了。但是后來這些賬號又在法國的選舉里面又出現了、又活躍了。里面關于參與政治的這部分叫政治機器人,已經形成一個全球的地下產業鏈。就像雇傭軍一樣的,那么這些賬號做溯源處理的時候,你會發現在世界不同的地方,比如說來自于不同的非洲國家、南亞國家,所以這個是一個社交機器人已經在輿論領域里面應用的非常的廣泛,它已經成了我們整個輿論的一個重要的力量。
未來媒體訪談:
我覺得這個技術,它好還是不好,關鍵還是什么人用它。有些時候,比如說我們對社交機器人的理解可能是網絡水軍,他為了達到某一種政治的目的或者一些什么目的,但這不是一種對真實輿論場的一種扭曲嗎?
張洪忠:
社交機器人有惡意的和善意的,所以這里面提出很多政策的問題、文化的問題。就是說我怎么來看待社交機器人傳遞信息,有學者們也做了這方面很多的研究,比如說我們怎么規范他的行為,需不需要自己自我地、自動說我是機器人?怎么樣來做一個法律的規范、倫理的規范、背后算法操縱者的倫理的規范,這些都需要我們來做很多的研究。它是一個新的事物,那么這個里面,我們就需要讓它走到正常的軌道上來,而不是隨便地不按軌道來前行。但是我們現在學界都開始大量的開始關注,比如我們北師大新聞傳播學院,我們2019年舉辦了首屆社交機器人論壇,就是跨學科的。計算機、自然語言學科的很多學者,包括微軟的、的、阿里的、京東的、字節跳動的,都參與了我們這個論壇。我們到目前已經舉辦了四屆論壇,今年將在北師大舉辦第五屆論壇,社交機器人論壇。那么,我們將慢慢從一種跨學科,從基于技術傳播,從技術到政策法規,來全方位地討論這樣的一個新事物會怎么樣發展。
未來媒體訪談:
除了比如說社交機器人運用在海外的這種政治類的選舉,它可以有操縱輿論這樣的形式,如果是在我們國家,一般會是什么樣的主體會主動的、大規模的運用這個社交機器人?
張洪忠:
你要知道做社交機器人,首先我們要明白一個道理,就是我們今天的信息生產,信息傳播,互聯網信息市場的傳播,正在由農業社會式的手工生產變為信息化社會的機器生產。根據我們的實驗室的一些數據還有機構的一些數據,就發現有些報告說全球互聯網市場里面,機器生產的信息占到50%,也有說占60%。因為機器,它是不知疲憊的,在社交機械的識別里面,有一個傳統的方法叫釣魚法,你想知道哪些是社交機器人,你就不停的注冊新的賬號,自動來加你好友關注的,他一定是機器賬號,那么這些都可以識別出來。但是這個層出不窮,它技術的迭代是很多的,所以我們整個信息的生產有這樣的轉變,就是我們進入到一種真正的信息化時代,我們要注意我們信息化時代不說給我們提供了一個信息的通路。通路只是一個方面,信息化時代還有一個概念是什么,信息的機器生產也是構成我們信息化的一個重要的方面。
未來媒體訪談:
所以說,您對社交機器人其實還是比較積極的評價?
張洪忠:
所有的技術都是一個中性的技術,需要人去規制它,怎么樣去規制它才是最重要的。技術本身,對我們人類來說,我們有新的技術需求,這個技術本身是有利的,但是同時,任何一個技術沒有好的規制的時候,它也會產生負面作用,關鍵是我們人怎么去利用好這個技術。這個技術本身是沒有問題,對不對?另外一點我特別要強調一點,社交機器人作為我們人工智能技術,在傳媒領域里面應用的比較成功的這樣的一項技術。人工智能技術,我們不要把它夸大化,它就是個技術的升級,不要以為它無所不能。人工智能技術,它畢竟背后規則是人定的。所以對人工智能技術,我們不需要去基于好萊塢電影來想象。好萊塢電影它是想象來的,它不可能的。所有規則都是我們人制定的嘛。
未來媒體訪談:
那你認為未來的這種社交機器人,它會向哪個方向去發展?
張洪忠:
社交機器人未來肯定會成為我們重要的一個信息的交流和傳播,比如說我們這么多人孤獨啊,失眠癥啊,不可能一個人陪你,聊12小時呀,對不對?社交機器人可以陪你聊天、為你解悶,我們專門可以開發這樣情感的機器人。在我們社交機器人小組里面,清華大學的黃民烈老師,他們也在開發基于滿足人類情緒需要的對話機器人,就基于這種情緒給你緩解。他們也嘗試過做抑郁癥的那種治療智能機器人,根據心理學家的基礎研究,確定我跟你聊什么東西、跟怎么聊,能夠降解人的抑郁程度。因為它可以不停地跟你聊你感興趣的,這塊難度特別大,但是在情緒的安撫上面是有作用的,現在可以做到,他們在做很多這種工作都是可以開發的。