衡宇 Alex 發自 凹非寺

量子位 | 公眾號 QbitAI

AI屆當紅炸子雞ChatGPT，剛剛被程序員問答社區Stack Overflow禁用了！

蕪湖，難道是因為有人感慨，ChatGPT非常強大，可以取代Stack Overflow？

但其實，Stack Overflow給出的官方公告里，是這樣說的：

（這樣做）的目的是減緩使用ChatGPT創建的大量答案流入社區。

因為從ChatGPT得到錯誤答案的概率太高了！

不過，官方也說了，這個措施只是臨時的。

到底要不要永久在社區里禁用ChatGPT尚待研究，暫未決定。

“回答正確率太低”

昨天，OpenAI的CEO在推特上高興地宣布，ChatGPT這個出生不滿一周的家伙，已經擁有了超百萬用戶。

不過，大喜之余，有個小悲，那就是——

Stack Overflow臨時禁止在社區內發布ChatGPT生成的文本。

Stack Overflow，程序員meme經常出現的段子之一，把自己活成了ChatGPT爆紅時期最引人注目的段子。

這到底是為什么？

看了官方給的公告，總結下來不外乎一個原因。

最主要的目的，就是減緩使用ChatGPT創建的大量答案流入社區。

目前在Stack Overflow站內搜索，還能看到公告發布前，許多用ChatGPT在問題下的回答。

Stack Overflow官方認為，和ChatGPT對話得到的答案，正確率太低了。

而且，無論答案正確與否，它的所有回答看起來都很正兒八經。

但是ChatGPT的火熱和極低的門檻，讓很多人用它創建的答案在社區里進行詢問和回答。

但是很多人在發帖時，缺乏相關專業知識，在發布之前又沒有驗證一下答案的正確性。

而且，ChatGPT給出回答的消息源也不能追溯。

對于一個程序員問答社區來說，這是非常有害的。

為了應對這個現象，可苦了Stack Overflow為管理基礎設施質量的志愿者們。

他們只能沒日沒夜在鋪天蓋地的海量帖子中，去確認ChatGPT生成的問答到底是不是對的。

而且對想要找到保真問答的程序員來說，ChatGPT“入侵”Stack Overflow，也加大了他們的獲取有效信息的成本。

為了從源頭杜絕這種現象發生，StackOverflow做出決定：先禁止！

目前，Stack Overflow已經不允許發布ChatGPT創建的答案來提問或回答文章了。

臨時措施發布后，如果還有用戶在用ChatGPT搞事情，那Stack Overflow就不客氣了——

將對這類用戶實施制裁（具體咋制裁木有說）。

還是“格殺勿論”那種，哪怕除了使用ChatGPT外，用戶的提問和回答行為和內容都是符合社區規定的。

現在，只是在站內搜索“ChatGPT”這個關鍵詞，也因為要證明一下你不是機器人哦～

但無論怎么說，這個措施怎么說也只是臨時的。

關于ChatGPT和其它類似AI問答軟件，社區到底會有啥樣的最終策略， Stack Overflow工作人員還在緊急討論中，尚不確定。

公告評論區里，用戶已經七嘴八舌說開了。

有人拍手稱快，嚷著“永久封了它”。

有人也趁機表達了拿AI問答軟件來社區互動的不滿。

當然，也有人投出了自己的贊成票。

語言大模型的應用引起擔憂

再來說下Stack Overflow到底是為何物。

簡而言之，這是很多程序員都會用到的一個免費問答網站。

該網站有幾個特點，一是不像一般的論壇，它沒有閑聊區。

另外，那些觀點類、可能引起激烈討論的問題一般都會被臨時“和諧”掉，得是能出確切答案的問題才行。

也就是說，假如你在該網站上提出一個很主觀的問題，網站很可能不會公開顯示出來，直到你把問題修改到合規為止。

新用戶起初只能提出問題或給出回答。但是你可以通過問答等賺積分（這里是Reputation），然后解鎖各種功能。

包括評論、編輯他人的帖子、選擇隱藏或展示別人的問題，最高等級的用戶還能網站內部的工作人員一起來搞分析維護。

而ChatGPT，則是基于語言大模型的聊天AI，能生成代碼、修復Bug，其回答各種問題的能力更是驚艷了一大波人。

不過，目前Stack Overflow以及不少AI專家已經對背后的語言大模型產生了擔憂，至少是有些顧慮。

Lecun也說，基于語言大模型開發出的文本生成類工具，可能會使廣泛傳播錯誤信息變得更容易。

IBM科學家Grady Booch的態度更為堅定。

還有人指出，即使AI回答正確，但這對于不少內容創作者來說，將是一場不小的打擊。

One More Thing

對于Stack Overflow臨時禁用ChatGPT生成的答案，我們詢問了ChatGPT本尊的看法。（手動狗頭）

我們還問，如果StackOverflow確定禁用的話它會怎么辦。

結果人家倒是很淡定：

ChatGPT傳送門：

http://chat.openai.com/origin/chat

參考鏈接：

[1]http://meta.stackoverflow.com/origin/questions/421831/temporary-policy-chatgpt-is-banned

[2]http://www.reddit.com/origin/r/programming/comments/zd71vl/chatgpt_ai_generated_answers_banned_on_stack/

[3]http://stackoverflow.com/origin/tour?mnu=1

—完—

@量子位 · 追蹤AI技術和產品新動態

深有感觸的朋友，歡迎贊同、關注、分享三連?&39;?&39; ? ?