·OpenAI首席執(zhí)行官山姆·奧特曼說(shuō)，“我認(rèn)為，如果這項(xiàng)技術(shù)出了問(wèn)題，它可能會(huì)大錯(cuò)特錯(cuò)”，“鑒于我們明年將面臨選舉，而這些模型正在變得更好，我認(rèn)為這是一個(gè)值得關(guān)注的重要領(lǐng)域”。
·參議員迪克·杜賓表示，大公司來(lái)到參議院“懇求我們對(duì)其進(jìn)行監(jiān)管”是很了不起的。
當(dāng)?shù)貢r(shí)間5月16日，OpenAI首席執(zhí)行官山姆·奧特曼在美國(guó)國(guó)會(huì)作證。
當(dāng)?shù)貢r(shí)間5月16日，OpenAI首席執(zhí)行官山姆·奧特曼在美國(guó)參議院就人工智能技術(shù)的潛在危險(xiǎn)作證，敦促立法者對(duì)開(kāi)發(fā)GPT-4等先進(jìn)人工智能系統(tǒng)的組織實(shí)施許可要求和其他法規(guī)。
“我們認(rèn)為政府的監(jiān)管干預(yù)對(duì)于減輕日益強(qiáng)大的模型的風(fēng)險(xiǎn)至關(guān)重要?！眾W特曼說(shuō)，“例如，對(duì)開(kāi)發(fā)和發(fā)布超過(guò)能力門(mén)檻的AI模型，美國(guó)政府可以考慮把實(shí)施許可和測(cè)試要求結(jié)合起來(lái)?！?/p>
出庭作證的還有IBM的首席隱私和信任官克里斯蒂娜·蒙哥馬利（Christina Montgomery）和著名AI專(zhuān)家加里·馬庫(kù)斯（Gary Marcus）。馬庫(kù)斯指出，美國(guó)政府可能需要一個(gè)擁有技術(shù)專(zhuān)長(zhǎng)的“內(nèi)閣級(jí)組織”專(zhuān)門(mén)監(jiān)督人工智能。
近年來(lái)，以科技高管為主題的國(guó)會(huì)聽(tīng)證會(huì)的基調(diào)一般會(huì)用“敵對(duì)”來(lái)形容，F(xiàn)acebook創(chuàng)始人馬克·扎克伯格、亞馬遜創(chuàng)始人杰夫·貝索斯等科技名人都曾在國(guó)會(huì)山被對(duì)其公司不滿(mǎn)的立法者訓(xùn)斥。但奧特曼在聽(tīng)證會(huì)上受到了議員的表?yè)P(yáng)。
參議員使用ChatGPT發(fā)表開(kāi)場(chǎng)白
奧特曼是在參議院司法委員會(huì)隱私、技術(shù)和法律小組委員會(huì)舉行的聽(tīng)證會(huì)上發(fā)表上述講話的。
小組委員會(huì)主席、參議員理查德·布魯門(mén)撒爾（Richard Blumenthal，康涅狄格州民主黨）在聽(tīng)證會(huì)上發(fā)表開(kāi)場(chǎng)白，“我們經(jīng)?？吹郊夹g(shù)超出監(jiān)管時(shí)會(huì)發(fā)生什么?！彼f(shuō)，“對(duì)個(gè)人數(shù)據(jù)的無(wú)節(jié)制利用、虛假信息的泛濫和社會(huì)不平等的加深?！?/p>
開(kāi)場(chǎng)白的文字由ChatGPT撰寫(xiě)，語(yǔ)音應(yīng)用程序根據(jù)布魯門(mén)撒爾在參議院的演講訓(xùn)練生成音頻。
這時(shí)候，所有目光都轉(zhuǎn)向了坐在證人席上準(zhǔn)備提供證詞的奧特曼。布魯門(mén)撒爾發(fā)出笑聲，說(shuō)人工智能能夠制作出如此逼真的音頻片段真是太神奇了。他接著用自己真正的聲音閱讀了開(kāi)場(chǎng)白的其余部分。
布魯門(mén)撒爾支持成立一個(gè)機(jī)構(gòu)來(lái)監(jiān)管AI的想法，但他警告說(shuō)，如果新機(jī)構(gòu)得不到足夠的資金和科學(xué)專(zhuān)業(yè)知識(shí)，科技公司“將繞著他們轉(zhuǎn)圈子”。他指出，美國(guó)公司通常反對(duì)任何新規(guī)定，但就人工智能制造商而言，“我感覺(jué)到這里有一種真正的參與意愿?！?/p>
據(jù)參加前一天晚宴和會(huì)議的人士透露，奧特曼在當(dāng)?shù)貢r(shí)間5月15日晚與數(shù)十名眾議院議員共進(jìn)晚餐，并在聽(tīng)證會(huì)前與多位參議員私下會(huì)面。
幾位立法者對(duì)OpenAI和IBM愿意面對(duì)新監(jiān)管發(fā)表了評(píng)論，伊利諾伊州民主黨人迪克·杜賓（Dick Durbin）表示，大公司來(lái)到參議院“懇求我們對(duì)其進(jìn)行監(jiān)管”是很了不起的。新澤西州民主黨人科里·布克（Cory Booker）甚至多次直接稱(chēng)呼奧特曼的名字山姆。
00:29
在聽(tīng)證會(huì)上，被問(wèn)是否賺了很多錢(qián)時(shí)，山姆·奧特曼表示，“沒(méi)有任何OpenAI股權(quán)，做這件事只因熱愛(ài)?！?00:29)
奧特曼建議國(guó)會(huì)成立新機(jī)構(gòu)，定義能力門(mén)檻
雖然奧特曼強(qiáng)調(diào)人工智能的好處，但他在聽(tīng)證會(huì)上表示，OpenAI“非常擔(dān)心”選舉受到人工智能生成的內(nèi)容的影響。他擔(dān)心人工智能行業(yè)可能“對(duì)世界造成重大傷害”?！拔艺J(rèn)為，如果這項(xiàng)技術(shù)出了問(wèn)題，它可能會(huì)大錯(cuò)特錯(cuò)，我們希望對(duì)此直言不諱?！?“我們希望與政府合作，防止這種情況發(fā)生?！?/p>
“鑒于我們明年將面臨選舉，而這些模型正在變得更好，我認(rèn)為這是一個(gè)值得關(guān)注的重要領(lǐng)域……我確實(shí)認(rèn)為在這個(gè)話題上進(jìn)行一些監(jiān)管是非常明智的。”他說(shuō)。
奧特曼建議國(guó)會(huì)成立一個(gè)新機(jī)構(gòu)，為“超過(guò)一定規(guī)模的能力”的人工智能技術(shù)頒發(fā)許可證，在向公眾發(fā)布AI系統(tǒng)之前，應(yīng)該由可以判斷該模型是否符合這些規(guī)定的專(zhuān)家進(jìn)行獨(dú)立審計(jì)。
不過(guò)，奧特曼認(rèn)為繁瑣的要求不應(yīng)該適用于模型遠(yuǎn)不如OpenAI先進(jìn)的公司和研究人員。他建議國(guó)會(huì)“定義能力門(mén)檻”，并將能夠執(zhí)行某些功能的人工智能模型納入嚴(yán)格的許可制度。
例如，奧特曼說(shuō)，“可以說(shuō)服、操縱、影響一個(gè)人的行為、信仰”或“幫助創(chuàng)造新型生物制劑”的人工智能模型可能需要獲得許可。為任何超過(guò)特定計(jì)算能力閾值的系統(tǒng)要求許可會(huì)更簡(jiǎn)單，但他更愿意根據(jù)特定功能劃定監(jiān)管界限。
OpenAI由非營(yíng)利和營(yíng)利實(shí)體組成。奧特曼表示，OpenAI的GPT-4模型“比具有類(lèi)似功能的任何其他模型更有可能做出有益和真實(shí)的響應(yīng)并拒絕有害請(qǐng)求”，部分原因是廣泛的預(yù)發(fā)布測(cè)試和審計(jì)：在發(fā)布任何新系統(tǒng)之前，OpenAI會(huì)進(jìn)行廣泛的測(cè)試，聘請(qǐng)外部專(zhuān)家進(jìn)行詳細(xì)審查和獨(dú)立審計(jì)，改進(jìn)模型的行為，并實(shí)施強(qiáng)大的安全和監(jiān)控系統(tǒng)。在發(fā)布最新模型GPT-4之前，他們花了六個(gè)月時(shí)間進(jìn)行廣泛的評(píng)估、外部紅隊(duì)測(cè)試和危險(xiǎn)能力的測(cè)試。
奧特曼還表示，人們應(yīng)該能夠選擇不將他們的個(gè)人數(shù)據(jù)用于訓(xùn)練AI模型。OpenAI上個(gè)月宣布，ChatGPT用戶(hù)現(xiàn)在可以關(guān)閉聊天記錄，以防止對(duì)話被用于訓(xùn)練AI模型。
IBM提出透明度要求，建議參考?xì)W洲
蒙哥馬利在聽(tīng)證會(huì)上表示，IBM敦促?lài)?guó)會(huì)對(duì)人工智能采取精確的監(jiān)管方法。“從本質(zhì)上講，AI只是一種工具，工具可以服務(wù)于不同的目的?！彼f(shuō)，“這意味著建立規(guī)則來(lái)管理人工智能在特定用例中的部署，而不是監(jiān)管技術(shù)本身?！?/p>
蒙哥馬利呼吁擬議類(lèi)似歐洲的法規(guī)，其中概述了不同級(jí)別的風(fēng)險(xiǎn)。她提出，國(guó)會(huì)應(yīng)該明確定義人工智能的風(fēng)險(xiǎn)，并“針對(duì)不同的風(fēng)險(xiǎn)制定不同的規(guī)則”，最嚴(yán)格的規(guī)則“適用于對(duì)人類(lèi)和社會(huì)風(fēng)險(xiǎn)最大的用例”。
蒙哥馬利提出了透明度要求，稱(chēng)消費(fèi)者應(yīng)該知道他們何時(shí)與人工智能互動(dòng)?！叭魏蔚胤降娜硕疾粦?yīng)該被誘騙與人工智能系統(tǒng)互動(dòng)……人工智能時(shí)代不能成為另一個(gè)快速行動(dòng)和破壞事物的時(shí)代?！彼f(shuō)。
蒙哥馬利還表示，美國(guó)應(yīng)該迅速讓公司對(duì)部署“在選舉等方面?zhèn)鞑ュe(cuò)誤信息”的人工智能負(fù)責(zé)。
馬庫(kù)斯擔(dān)心新聞質(zhì)量下降，批評(píng)微軟
參議員們還聽(tīng)取了加里·馬庫(kù)斯的說(shuō)法，馬庫(kù)斯是一位創(chuàng)辦了兩家人工智能和機(jī)器學(xué)習(xí)公司的作家，也是紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)名譽(yù)教授。他在聽(tīng)證會(huì)上說(shuō)，人工智能可以制造具有說(shuō)服力的謊言并提供有害的醫(yī)療建議。他批評(píng)微軟在“悉尼”聊天機(jī)器人（新必應(yīng)聊天機(jī)器人的內(nèi)部名稱(chēng)）表現(xiàn)出令人震驚的行為后沒(méi)有立即將其撤下。
AI大牛加里·馬庫(kù)斯（左）與山姆·奧特曼在作證前宣誓。
“悉尼顯然有問(wèn)題......我會(huì)暫時(shí)將其從市場(chǎng)上撤回，但他們沒(méi)有?！瘪R庫(kù)斯說(shuō)。“這給我敲響了警鐘，提醒我即使有像OpenAI這樣的非營(yíng)利性公司……其他人也可以收購(gòu)這些公司并隨心所欲。也許現(xiàn)在我們有一組穩(wěn)定的參與者，但這些系統(tǒng)在塑造我們的觀點(diǎn)和生活方面所擁有的力量確實(shí)非常重要，而且這甚至沒(méi)有考慮到有人可能故意將它們重新用于各種不良目的的風(fēng)險(xiǎn)?！?/p>
人工智能生成的新聞文章是馬庫(kù)斯討論的另一個(gè)問(wèn)題。他說(shuō)，隨著越來(lái)越多的新聞?dòng)扇斯ぶ悄茏珜?xiě)，“整個(gè)新聞市場(chǎng)的質(zhì)量將會(huì)下降”。
馬庫(kù)斯說(shuō)，美國(guó)政府可能需要一個(gè)擁有技術(shù)專(zhuān)長(zhǎng)的“內(nèi)閣級(jí)組織”，其全職工作是監(jiān)督人工智能。他說(shuō)，在廣泛部署人工智能系統(tǒng)之前，應(yīng)該進(jìn)行類(lèi)似食品和藥物管理局（FDA）的安全審查，并在產(chǎn)品發(fā)布后再進(jìn)行審查。
但馬庫(kù)斯也警告參議員們要提防濫用監(jiān)管的可能性。 “如果我們讓監(jiān)管看起來(lái)好像我們?cè)谧鍪裁?，但它更像是綠色外衣（greenwashing，指機(jī)構(gòu)為樹(shù)立對(duì)環(huán)境負(fù)責(zé)的公共形象而散布虛假信息），實(shí)際上什么都沒(méi)有發(fā)生，我們就會(huì)把小玩家拒之門(mén)外，因?yàn)槲覀兘o他們施加了太多的負(fù)擔(dān)，以至于只有大玩家才能做到?！彼f(shuō)。
“阻止人工智能發(fā)展沒(méi)有意義”
一些人工智能評(píng)論家呼吁暫停開(kāi)發(fā)，有非營(yíng)利性人工智能研究小組指責(zé)OpenAI在沒(méi)有適當(dāng)考慮其風(fēng)險(xiǎn)的情況下發(fā)布GPT-4。奧特曼表示，迭代發(fā)布更好，因?yàn)椤拔艺J(rèn)為，秘密構(gòu)建一個(gè)超級(jí)強(qiáng)大的AI系統(tǒng)，然后一次性將它投放到世界上，并不會(huì)有好結(jié)果?！?/p>
奧特曼說(shuō)：“我們戰(zhàn)略的很大一部分是在這些系統(tǒng)相對(duì)薄弱且非常不完善的情況下找到讓人們體驗(yàn)它們的方法……并弄清楚我們需要做些什么才能讓它更安全、更好?！?/p>
參議員布魯門(mén)撒爾說(shuō)，試圖阻止人工智能的發(fā)展是沒(méi)有意義的，“世界不會(huì)等待，全球科學(xué)界的其他成員也不會(huì)停下來(lái)。我們的對(duì)手正在前進(jìn)，把頭埋在沙子里不是答案?！?/p>
布魯門(mén)撒爾表示，“人工智能公司應(yīng)該被要求測(cè)試他們的系統(tǒng)，披露已知風(fēng)險(xiǎn)，并允許獨(dú)立研究人員訪問(wèn)。”“在某些地方，人工智能的風(fēng)險(xiǎn)如此之大，以至于我們應(yīng)該施加限制甚至禁止它們的使用，尤其是在涉及商業(yè)性侵犯隱私以謀取利益和影響人們生計(jì)的決策時(shí)。”
參議員喬?！せ衾↗osh Hawley）建議，人工智能的危害可以通過(guò)集體訴訟和其他訴訟來(lái)處理，國(guó)會(huì)可以“建立聯(lián)邦訴訟權(quán)，允許受到這項(xiàng)技術(shù)傷害的個(gè)人”起訴公司。
奧特曼指出，人們已經(jīng)可以就技術(shù)造成的危害起訴OpenAI。馬庫(kù)斯說(shuō)，訴訟是不夠的，可能需要十年或更長(zhǎng)時(shí)間，霍利的建議“肯定會(huì)讓很多律師變得富有，但我認(rèn)為它太慢了，無(wú)法影響我們關(guān)心的很多事情?！?/p>
聽(tīng)證會(huì)上還討論了人工智能對(duì)工作的影響。 IBM首席執(zhí)行官阿溫德·克里希納（Arvind Krishna）最近透露，計(jì)劃暫停招聘約7800個(gè)可能被人工智能系統(tǒng)取代的工作崗位。蒙哥馬利表示，“將創(chuàng)造新的工作崗位，更多的工作崗位將被轉(zhuǎn)變，一些工作崗位將被轉(zhuǎn)移?！眾W特曼告訴參議員們，“GPT-4將完全自動(dòng)化一些工作，并將創(chuàng)造我們認(rèn)為會(huì)更好的新工作?！?/p>
聽(tīng)證會(huì)上的一些立法者仍然表現(xiàn)出華盛頓和硅谷之間在技術(shù)知識(shí)方面的持續(xù)差距。南卡羅來(lái)納州共和黨人林賽·格雷厄姆（Lindsey Graham）反復(fù)詢(xún)問(wèn)證人，針對(duì)Facebook和谷歌等在線平臺(tái)的言論責(zé)任保護(hù)是否也適用于人工智能。奧特曼表現(xiàn)鎮(zhèn)定，多次嘗試區(qū)分人工智能和和社交媒體。 “我們需要共同努力尋找一種全新的方法?！彼f(shuō)。
聯(lián)系客服
