谷歌解雇了人工智能倫理團隊的負責人,導致爭議,學術界拒絕審查谷歌的論文
簡介:人工智能機器學習領域的科學家表示,在谷歌改變對前人工智能倫理小組共同負責人蒂姆尼特蒲鴿的立場之前,他們將拒絕幫助谷歌審查該論文.人工智能機器學習領域的科學家表示,在谷歌改變對前人工智能倫理小組共同負責人蒂姆尼特蒲鴿的立場之前,他們將拒絕幫助谷歌審查該論文。
學術科學家拒絕為谷歌審閱論文
選擇在學術會議上發表研究的審稿人通常是自愿工作的。審稿人會根據自己的經驗和專業知識,選擇能夠發表在人工智能頂端的論文。根據公開數據,谷歌是人工智能研究會議論文投稿最多的公司。
上周,谷歌人工智能道德團隊的聯合負責人蒂姆尼特蒲鴿突然在個人推特上說,谷歌直接解雇了她,她的內部賬戶不能直接登錄。是谷歌人工智能主管杰夫迪恩做出的決定。雙方爭議的焦點是谷歌內部仍在考慮的一份文件。
蒂姆尼特蒲鴿畢業于斯坦福大學,她的導師是人工智能領域的著名學者李菲菲。她的主要研究興趣是算法偏差和數據挖掘。人工智能中的黑人創始人之一蒲鴿一直致力于黑人在科技界的平等權利。蒲鴿最著名的研究是在2018年,她發現面部識別軟件對黑人女性的錯誤率高達35%,對白人男性幾乎完全正確。
這篇有爭議的論文題目是《隨機鸚鵡的危險:語言模型會太大嗎?》,英文是“論隨機鸚鵡的和尚:語言模型能不能太大?”。本文詳細介紹了大規模語言模型對機器學習領域邊緣化社區的負面影響,并仔細研究了使用大規模語言模型的相關風險,如環境、種族主義以及基于性別、種族等特征的各種頑固偏見。這篇論文的合著者包括谷歌人工智能的米切爾和語言學家艾米麗本德,他們批評了大型語言模型的工作,并在今年早些時候獲得了獎項。
值得一提的是,2018年,谷歌推出了BERT模型,在自然語言處理領域帶來了里程碑式的影響。
杰夫迪恩在一封駁斥蒲鴿的電子郵件中說,論文是在截止日期前一天提交的,根據公司的慣例,論文的審查時間是兩周。同時,蒲鴿還威脅要提出各種條件,否則就辭職,公司只有在條件達不到時才接受蒲鴿的辭職。
蒲鴿說她沒有辭職,但在她休假期間,谷歌停止了她的谷歌內部系統賬戶。同時,我不同意谷歌不發表自己論文的原因。在發給團隊的一封電子郵件中,她說她對谷歌保持人才多樣性的做法感到沮喪。
谷歌如何對待蒲鴿和即將發表的論文,這一事件也引發了關于科技公司將對學術研究產生多大影響的討論。
機器學習社區的領導者拒絕審查來自谷歌人工智能部門的研究,就在今年的神經科會議(NeurIPS Conference)開幕式上,這是世界上最大的人工智能研究會議。在會議上,發表了一篇關于GPT-3(迄今為止最大的語言模型)的論文,獲得了最佳論文獎。
在谷歌內部,就在谷歌從蒲鴿辭職的一天后,谷歌為真正的改變而罷工發表了一份聲明,譴責谷歌“前所未有的研究審查”,并要求谷歌在完全披露的情況下進行論文審查。到目前為止,這份聲明已經得到了1600多名谷歌員工和2600多名來自學術界、民間社會和工業界的支持者的簽署。
很多AI研究者都和學術機構保持聯系。大量研究發現,從學術界到大型科技公司,大型企業或初創公司的工作總是吸引智力人才。去年10月,航空街資本(Air Street Capital)關于人工智能人才狀況的報告發現,從2004年到2018年,谷歌從美國大學聘請的終身教授比任何其他公司都多。