北京時(shí)間4月20日上午新聞，據(jù)報(bào)道，正在3月份面向公家推出人工智能談天機(jī)器人Bard的前不久，谷歌請(qǐng)求內(nèi)部員工測(cè)試這個(gè)新東西。
依據(jù)內(nèi)部議論的截圖，一位員工的結(jié)論是，Bard是個(gè)“病態(tài)的騙子”。另一位員工則默示，Bard“使人為難”。一位員工寫(xiě)道，當(dāng)他們向Bard訊問(wèn)若何下降飛機(jī)時(shí)，談天機(jī)器人常常給出會(huì)招致墜機(jī)的認(rèn)為。另有一位員工默示，Bard供應(yīng)的關(guān)于潛水的認(rèn)為“可能會(huì)招致重傷或殞命”。
不外，谷歌仍然推出了Bard。憑據(jù)多名正在職員工和前員工的說(shuō)法，和谷歌的內(nèi)部文件，作為一家以往特別很是受信賴的互聯(lián)網(wǎng)搜索巨子，谷歌經(jīng)由過(guò)程Bard供應(yīng)的是低質(zhì)量的信息，目標(biāo)是跟上競(jìng)爭(zhēng)對(duì)手，與此同時(shí)將高新科技倫理許諾放正在了很低的優(yōu)先級(jí)來(lái)思索。2021年，谷歌已經(jīng)許諾，將人工智能倫理研討團(tuán)隊(duì)擴(kuò)大一倍，并投入更多資源評(píng)價(jià)人工智能技術(shù)的潛正在傷害。然而，跟著競(jìng)爭(zhēng)對(duì)手OpenAI的談天機(jī)器人ChatGPT正在2022年11月初次明相并大受歡迎，谷歌起頭匆忙將生成式人工智能技術(shù)融入其最主要的產(chǎn)物中。
對(duì)這項(xiàng)技能自己而言，如許干帶來(lái)的發(fā)展速度顯明更快，并可能會(huì)給社會(huì)發(fā)生深遠(yuǎn)的危害。谷歌的在職員工和前員工們默示，谷歌許諾增強(qiáng)的高新科技倫理團(tuán)隊(duì)現(xiàn)階段沒(méi)有話語(yǔ)權(quán)，士氣高漲。他們泄漏，賣力新產(chǎn)品平安和高新科技倫理危害的員工已被示知，不必要阻礙或試圖抹殺正在開(kāi)辟中的任何生成式人工智能工具。
谷歌的目的是環(huán)繞這項(xiàng)尖端技術(shù)復(fù)興其日趨成熟的搜索業(yè)務(wù)，搶在微軟撐持的OpenAI前面，推進(jìn)生成式人工智能運(yùn)用進(jìn)入環(huán)球數(shù)千萬(wàn)的手機(jī)和家庭，并博得競(jìng)爭(zhēng)。
權(quán)益組織Signal Foundation主席、谷歌前司理梅雷迪思?惠刻克（Meredith Whittaker）暗示：“人工智能倫理已退居主要職位。若是高新科技倫理不克不及被置于利潤(rùn)和增加之上，它們終究就不會(huì)起作用?！?/p>
對(duì)此谷歌表現(xiàn)，負(fù)責(zé)任的人工智能仍是該公司的首要任務(wù)。谷歌發(fā)言人布萊恩?加布里艾你（Brian Gabriel）表現(xiàn)：“我們將繼承投資將人工智能標(biāo)準(zhǔn)應(yīng)用于手藝的團(tuán)隊(duì)。”處置負(fù)責(zé)任人工智能研討的團(tuán)隊(duì)正在1月份的一輪裁人中最少減員3人，個(gè)中包含手藝管理和項(xiàng)目主管。此次裁人影響了谷歌及其母公司的約1.2萬(wàn)名員工。
多年來(lái)，谷歌一向引領(lǐng)著支持當(dāng)前人工智能進(jìn)步的絕多數(shù)研討，然而正在ChatGPT推出時(shí)，谷歌還沒(méi)有將對(duì)用戶友愛(ài)的生成式人工智能技術(shù)集成到產(chǎn)物中。谷歌的員工們說(shuō)，以往正在將新技術(shù)應(yīng)用于搜索和其他主要產(chǎn)物時(shí)，谷歌會(huì)慎重地評(píng)價(jià)本身的才能和品德倫理考量。
然而客歲12月，谷歌初級(jí)管理層公布了“紅色警報(bào)”，并改變了對(duì)風(fēng)險(xiǎn)的偏好。員工們說(shuō)，谷歌的向?qū)F(tuán)隊(duì)決意，只要把新產(chǎn)品定位為“實(shí)驗(yàn)”，民眾就會(huì)諒解個(gè)中的缺點(diǎn)。不外，谷歌仍舊需要讓高新科技倫理團(tuán)隊(duì)參加進(jìn)來(lái)。當(dāng)月，人工智能管理賣力人簡(jiǎn)恩?詹納伊（Jen Gennai）召開(kāi)了賣力任立異團(tuán)隊(duì)的集會(huì)，該團(tuán)隊(duì)賣力保護(hù)谷歌的人工智能標(biāo)準(zhǔn)。
詹納伊倡議，為了加速產(chǎn)物宣布的程序，谷歌也許有需要做出一些讓步。谷歌為一些主要類其余產(chǎn)物開(kāi)展打分，以權(quán)衡這一些產(chǎn)物是是不是預(yù)備好向大眾宣布。正在一些行業(yè)，比方兒童平安，工程師仍舊須要100%處理潛正在題目。但她正在會(huì)上默示，正在其他行業(yè)，谷歌也許沒(méi)時(shí)間持續(xù)守候。她說(shuō)：“‘平正’也許是不是，并不須要到達(dá)99分。正在這個(gè)層面，我們也許只要到80分，85分，或更高的程度，就能夠滿意產(chǎn)物宣布的需求?！边@里的“平正”指的是削減產(chǎn)物的私見(jiàn)。
本年2月，谷歌一位員工正在內(nèi)部動(dòng)靜群中提出：“Bard的題目不僅是毫無(wú)用處：請(qǐng)不必要公布這款產(chǎn)物?！庇薪?000人查看了這條動(dòng)靜。此中很多人皆以為，正在簡(jiǎn)樸的事實(shí)題目上，Bard的回覆桿格不入，乃至荒謬絕倫。然而動(dòng)靜人士泄漏，詹納伊正在次月駁回了團(tuán)隊(duì)成員提交的風(fēng)險(xiǎn)評(píng)價(jià)告訴。那時(shí)告訴的結(jié)論是Bard還沒(méi)有做好預(yù)備，也許造成危害。不久以后，谷歌就面向民眾開(kāi)放了Bard，并將其稱作是一次“實(shí)驗(yàn)”。
正在一份聲明中，詹納伊默示，這不僅僅是她這個(gè)層級(jí)的決議。正在團(tuán)隊(duì)做出評(píng)價(jià)以后，她“列出了潛正在風(fēng)險(xiǎn)清單，并將闡明成果”升級(jí)提交給產(chǎn)物、研討和業(yè)務(wù)線的高等管理者。她說(shuō)，該團(tuán)隊(duì)隨后推斷，“能夠經(jīng)過(guò)有限定的實(shí)驗(yàn)性公布的情勢(shì)向前推動(dòng)，包孕繼續(xù)進(jìn)行預(yù)鍛煉，進(jìn)步寧?kù)o圍欄，和做出適度的免責(zé)聲明”。
作為一個(gè)團(tuán)體，硅谷仍然正在起勁處理競(jìng)爭(zhēng)壓力和技能寧?kù)o之間的沖突?！叭诵约寄苎芯恐行摹闭诮鼇?lái)的一次演示中暗示，人工智能研究者取專注于人工智能寧?kù)o的研究人員的數(shù)目之比到達(dá)30:1。這表明，正在大型組織中提出對(duì)人工智能的擔(dān)心往往會(huì)孤立無(wú)援。
伴隨著人工智能的加快進(jìn)步，人們正在愈來(lái)愈擔(dān)心人工智能對(duì)社會(huì)的晦氣危害。作為ChatGPT和Bard背后的手藝，大言語(yǔ)模子由新聞報(bào)道、社交媒關(guān)心文和其他互聯(lián)網(wǎng)信息源處得到大批文字信息，隨后用這一些信息來(lái)練習(xí)軟件，讓軟件按照用戶的輸入信息或題目主動(dòng)猜測(cè)并生成內(nèi)容。這意味著，由本質(zhì)上來(lái)看，這一些產(chǎn)物有可能會(huì)發(fā)生攻擊性、有害或沒(méi)有精確的行動(dòng)。
然而，ChatGPT正在初次亮相時(shí)引發(fā)了顫動(dòng)。到今年年初，這方面的成長(zhǎng)曾經(jīng)沒(méi)法轉(zhuǎn)頭。2月份，谷歌入手下手公布一系列的生成式人工智能產(chǎn)物，推出談天機(jī)器人Bard，隨后升級(jí)了視頻平臺(tái)YouTube。那時(shí)谷歌暗示，YouTube的創(chuàng)作者很快就能夠正在視頻中舉行假造換裝，和運(yùn)用生成式人工智能建立“奇異的影戲場(chǎng)景”。兩周后，谷歌宣告谷歌云到場(chǎng)新的人工智能功用，展現(xiàn)了谷歌Docs和Slides等效勞若何主動(dòng)建立演示文稿、販賣培訓(xùn)文件和電子郵件。同一天，谷歌還宣告將把生成式人工智能融入醫(yī)療安康產(chǎn)物線。員工們暗示，他們憂慮，如許的成長(zhǎng)速度意味著谷歌沒(méi)有充足的工夫來(lái)研討人工智能潛正在的傷害。
是不是應(yīng)該以相符高新科技倫理的體例往開(kāi)辟尖端的人工智能技術(shù)，長(zhǎng)期以來(lái)這一直是谷歌內(nèi)部爭(zhēng)辯的一個(gè)話題。正在過(guò)往幾年里，谷歌產(chǎn)物發(fā)作的毛病備受矚目。比方，正在2013年一同使人為難的事務(wù)中，谷歌相簿毛病地將一位黑人軟件開(kāi)辟者和他朋儕的照片標(biāo)記為“大猩猩”。
三年后，谷歌示意，沒(méi)有修復(fù)底層的人工智能技術(shù)，反而是刪除搜索關(guān)鍵詞“大猩猩”、“黑猩猩”和“山公”的全部成果。憑據(jù)谷歌的說(shuō)法，“一群分歧后臺(tái)的專家”評(píng)價(jià)了這一解決方案。該公司還成立了人工智能倫理部分，主動(dòng)展開(kāi)相干研討，確保人工智能對(duì)用戶加倍平正。
然而按照多名正在職員工和前員工的說(shuō)法，一個(gè)主要轉(zhuǎn)折點(diǎn)是人工智能研討員蒂姆尼刻?格布魯（Timnit Gebru）和瑪格麗刻?米切爾（Margaret Mitchell）的去職。他們?cè)浜项I(lǐng)導(dǎo)谷歌的人工智能倫理團(tuán)隊(duì)。然而，由于一場(chǎng)關(guān)于谷歌人工智能研討公平性的爭(zhēng)議，他們分別正在2020年12月和2021年2月脫離。終極，賣力治理他們事情的計(jì)算機(jī)科學(xué)家薩米?本吉奧（Samy Bengio）和其他幾名研討者還正在幾年時(shí)間里紛紜去職，加入了谷歌的競(jìng)爭(zhēng)對(duì)手。
丑聞發(fā)生后，谷歌還采取措施試圖規(guī)復(fù)民眾名譽(yù)。負(fù)責(zé)任人工智能團(tuán)隊(duì)正在其時(shí)的工程副總裁瑪麗安?克羅克（Marian Croak）的領(lǐng)導(dǎo)下進(jìn)行了重組。她許諾，將把人工智能倫理團(tuán)隊(duì)的范圍擴(kuò)大一倍，并強(qiáng)化該團(tuán)隊(duì)取公司其他部分的聯(lián)絡(luò)。
不外即便正在公開(kāi)發(fā)表聲明以后，一些人還發(fā)明，正在谷歌處置人工智能倫理事情難度很大。一位前員工暗示，他們提出規(guī)定，處理機(jī)械進(jìn)修公平性的題目。然而他們還發(fā)明，本人常常不被鼓舞如許干，以至于乃至影響了他們事情的績(jī)效打分。他暗示，司理們還提出抗議，以為人工智能倫理題目的提出阻礙了他們“真正的事情”。
那些繼承正在谷歌處置人工智能倫理研討的員工則面對(duì)兩難：若何既能保住自身正在谷歌的事情，又能繼承推動(dòng)這層面研討。亞倫?穆羅希（Nyalleng Moorosi）曾是谷歌的研討員，今朝則正在格魯布創(chuàng)建的“分布式人工智能研討所”擔(dān)當(dāng)高等研討員。她透露表現(xiàn)，人工智能倫理研討崗?fù)さ脑O(shè)立便是為了闡明，手藝也許沒(méi)有做好大規(guī)模宣布的籌辦，而公司須要放慢速度。
兩名員工透露表現(xiàn)，到目前為止，谷歌對(duì)產(chǎn)物和功效的人工智能倫理審核幾近完全是志愿性質(zhì)的，僅有的破例是研討論文的揭橥，和谷歌云對(duì)客戶合作和產(chǎn)物公布的審核。生物辨認(rèn)、身份辨認(rèn)，和取兒童相干的人工智能研討必須由詹納伊的團(tuán)隊(duì)開(kāi)展“敏感話題”審核，但其他項(xiàng)目不一定須要。不外，一些員工還會(huì)在沒(méi)有被規(guī)定的情況下接洽人工智能倫理團(tuán)隊(duì)。
盡管如此，當(dāng)谷歌產(chǎn)物和工程團(tuán)隊(duì)的員工試圖掌握，谷歌的人工智能為什么正在市場(chǎng)上進(jìn)度遲緩時(shí)，他們往往會(huì)注意到公家對(duì)人工智能倫理的關(guān)心。但谷歌的一些人信任，新技能該當(dāng)更快地被提供給公家，以便根據(jù)公家反應(yīng)對(duì)技能開(kāi)展優(yōu)化。
另一名前員工表現(xiàn)，正在紅色警戒公布之前，谷歌工程師大概很難接觸到公司最進(jìn)步前輩的人工智能模子。他說(shuō)，谷歌的工程師常常會(huì)根據(jù)研討其他公司的生成式人工智能模子來(lái)開(kāi)展腦筋風(fēng)暴，探索這項(xiàng)技能的大概性，隨后再往研討如安正在公司內(nèi)部往實(shí)現(xiàn)這一技能。
谷歌前產(chǎn)物司理、正在2020年之前一向處置谷歌談天機(jī)器人開(kāi)辟的高拉夫?內(nèi)馬德（Gaurav Nemade）表現(xiàn)：“毫無(wú)疑問(wèn)我看到‘紅色警戒’和OpenAI的震動(dòng)為谷歌帶來(lái)的緊密變更。他們真的能成為領(lǐng)導(dǎo)者，正在本身的游戲中挑釁OpenAI嗎？”近期的一系列變更，比方三星斟酌正在手機(jī)頂用微軟必應(yīng)更換谷歌作為默許搜索引擎，充足表明白技能的先發(fā)上風(fēng)有何等主要。微軟必應(yīng)還采用了ChatGPT的技能。
谷歌的一些員工透露表現(xiàn)，他們以為谷歌已對(duì)最新的生成式人工智能產(chǎn)物進(jìn)行了充足的寧?kù)o搜檢，而且Bard比競(jìng)爭(zhēng)對(duì)手的談天機(jī)器人更寧?kù)o。然而，而今的燃眉之急是快速公布生成式人工智能產(chǎn)物，因而再怎樣夸大高新科技倫理題目全是徒勞的。
研發(fā)新人工智能功效的團(tuán)隊(duì)現(xiàn)階段正在關(guān)閉狀況中，是以一般的谷歌員工很難看到谷歌人工智能技術(shù)的全貌。以往，員工還能夠經(jīng)過(guò)公司的郵件組和內(nèi)部頻道來(lái)公開(kāi)表達(dá)自身的疑慮，但現(xiàn)在谷歌以削減毒性為由提出了一系列社區(qū)指南，限定員工如許去做。幾名員工表現(xiàn)，他們以為這一些限定是掌握行動(dòng)的一種方法。
米切爾透露表現(xiàn)：“這帶來(lái)了挫敗感。我們的覺(jué)得是，我們到底正在做什么？”縱然谷歌沒(méi)有明白的指令，請(qǐng)求截止高新科技倫理的事情，但正在當(dāng)前的氛圍下，處置這種事情的員工會(huì)很明顯的覺(jué)得到，本身不受撐持，終究大概會(huì)因而削減事情量?！罢诠雀韫芾韺庸_(kāi)計(jì)議高新科技倫理題目時(shí)，他們傾向于討論設(shè)想的將來(lái)，即萬(wàn)能的技能沒(méi)法被人類節(jié)制，而不太觸及曾經(jīng)大概帶來(lái)傷害的一樣平常場(chǎng)景。這種做法還被一些業(yè)內(nèi)人士批評(píng)為一種營(yíng)銷情勢(shì)。
曾在谷歌擔(dān)負(fù)研討科學(xué)家的艾你馬蒂?艾你瑪穆迪（El-Mahdi El-Mhamdi）于本年2月由谷歌去職，原因是谷歌回絕正面商量人工智能倫理題目。他暗示，去年底他介入合著的一篇論文提出，由數(shù)學(xué)上來(lái)看，基礎(chǔ)性的人工智能模子不太可能與此同時(shí)保證大規(guī)模、硬朗，和保障隱私寧?kù)o。
他暗示，谷歌經(jīng)由過(guò)程雇傭干系對(duì)他到場(chǎng)的研討提出質(zhì)疑。隨后，他并沒(méi)有為本人的學(xué)術(shù)研討辯解，反而是直接拋卻了取谷歌的雇傭干系，挑選了學(xué)術(shù)身份。他說(shuō)：”若是你想留在谷歌，就必須為全部體系效勞，而不全是取其發(fā)生沖突?！?/p>