這個(gè)猶太人將統(tǒng)治AI？《時(shí)代》專訪奧特曼：AI能讓人們賺更多錢
這個(gè)猶太人將統(tǒng)治AI？《時(shí)代》專訪奧特曼：AI能讓人們賺更多錢
劃重點(diǎn)：
- 1OpenAI的首席執(zhí)行官山姆·奧特曼（Sam Altman）曾表示，如果使用不當(dāng)，人工智能會(huì)讓所有人都消亡。
- 2在倡導(dǎo)人工智能可能性的同時(shí)，奧特曼敦促政策制定者制定規(guī)則和通過監(jiān)管來減輕人工智能可能帶來的危險(xiǎn)。
- 3奧特曼倡導(dǎo)用普世的基本收入計(jì)劃來緩和不平等，“它將大幅提升人們的平均收入”。
- 4OpenAI去年的營收約為2800萬美元，奧特曼稱公司并不以盈利為目的，未來營收增速會(huì)低于市場(chǎng)普遍的預(yù)期。
- 5我們能夠管理好人工智能，我對(duì)此非常有信心。但如果我們對(duì)風(fēng)險(xiǎn)不是非常警惕，如果不坦率地談?wù)撍赡軙?huì)變得多么糟糕，我們就不會(huì)成功地管理它。
- 6奧特曼：我是一個(gè)中西部的猶太人，我認(rèn)為這充分解釋了我確切的心理模型，非常樂觀，并為任何時(shí)候事情變得超級(jí)糟糕做好了準(zhǔn)備。
- 7奧特曼：我們還需要很多年，我不知道需要多少年，但至少需要很多年，人工智能才能影響經(jīng)濟(jì)。
騰訊科技訊 當(dāng)前人工智能熱潮中最引人注目的人物當(dāng)屬OpenAI的首席執(zhí)行官山姆·奧特曼（Sam Altman）?！稌r(shí)代周刊》前主編愛德華·費(fèi)爾森塔爾（Edward Felsenthal）日前對(duì)奧特曼進(jìn)行了專訪。
這位38歲的連續(xù)創(chuàng)業(yè)的企業(yè)家最近因談?wù)撊斯ぶ悄艿娘L(fēng)險(xiǎn)而聞名，但重點(diǎn)是人工智能所帶來風(fēng)險(xiǎn)的可能性。這種能夠?qū)θ祟惖目陬^命令做出自然反應(yīng)的新技術(shù)具有革命性，奧特曼甚至為它設(shè)想了應(yīng)用場(chǎng)景--最終像電影《星際迷航》(Star Trek)一樣。
奧特曼的公司OpenAI成立只有7年時(shí)間，目前的員工還不到500人。在OpenAI位于舊金山教會(huì)區(qū)的總部的通風(fēng)、光線充足的大廳里，通過管道傳遞一些長笛和鯨魚的聲音，它幾乎會(huì)被誤認(rèn)為是一個(gè)水療中心。但在6個(gè)月的時(shí)間里，該公司通過其病毒式產(chǎn)品ChatGPT，將人工智能帶入公眾的視野。幾乎沒有人質(zhì)疑OpenAI是這場(chǎng)革命的先鋒。最終，這場(chǎng)革命將改變世界，不管是好是壞，兩者都有可能。
被采用速度最快的產(chǎn)品
幾乎可以肯定的是，ChatGPT是科技史上被采用速度最快的產(chǎn)品。它也是功能更豐富的產(chǎn)品之一，能夠響應(yīng)大量的用戶提示，從“給我講個(gè)笑話”到“起草10張幻燈片，提出增加發(fā)廊收入的想法?！彼梢詫懺?，解釋科學(xué)概念。奧特曼說，他如今用ChatGPT來完成日常任務(wù)，比如從他眾多的電子郵件收件箱中提取主要郵件，或者“起草一條我很難處理的推文?！北举|(zhì)上，ChatGPT是一個(gè)超級(jí)強(qiáng)大的自動(dòng)完成工具，但它有其局限性，包括令人不安的無法區(qū)分真實(shí)和虛構(gòu)。OpenAI關(guān)于這一點(diǎn)的警告放在文本輸入框的下面，并沒有阻止人們使用它完成作業(yè)、投資建議，甚至是治療。
面向消費(fèi)者的人工智能產(chǎn)品之前已經(jīng)上市，但ChatGPT的文本對(duì)話界面引起了轟動(dòng)。在2022年11月30日發(fā)布之后的幾天里，OpenAI的員工被粘在他們的電腦屏幕上。隨著使用數(shù)量的增加，他們?cè)诠镜腟lack頻道上發(fā)布不斷增加的用戶數(shù)據(jù)。OpenAI的人力副總裁黛安·尹（Diane Yoon）說：“它只是以越來越陡的角度不斷上升?！备鶕?jù)Similarweb的數(shù)據(jù)，兩個(gè)月后，ChatGPT的獨(dú)立訪問用戶數(shù)量超過了1億。相比較而言，Instagram用了30個(gè)月才達(dá)到這個(gè)水平。
引發(fā)科技巨頭的軍備競(jìng)賽
這也引發(fā)了一場(chǎng)軍備競(jìng)賽。隨后，谷歌發(fā)布內(nèi)部“紅色警報(bào)”，并將旗下兩個(gè)人工智能實(shí)驗(yàn)室--Google Brain和DeepMind--合并為一家公司。已對(duì)OpenAI投資30億美元的微軟，隨后又追加了100億美元投資。今年3月，OpenAI再次加大賭注，發(fā)布了一款名為GPT-4的更強(qiáng)大的工具。
磨煉所有的承諾，才是真正的恐懼。毫無疑問，人工智能會(huì)像其他的新型技術(shù)一樣，即使能夠創(chuàng)造出新的工作崗位，也會(huì)讓更多的工作消失。這也增強(qiáng)了壞人的能力，讓他們用偽裝成真相的虛假內(nèi)容和聽起來像我們所愛的人的虛假聲音來淹沒我們。我們能相信自己看到或聽到的嗎？奧特曼承認(rèn)，令人不安的事實(shí)是，答案可能是否定的?！澳悴荒茉傧嘈抛约涸陔娫捓锫牭降穆曇?，”他說?！拔覀冎皇切枰_始告訴人們這一天即將到來?！?/p>
如果落入壞人之手，這些工具可能會(huì)引發(fā)更嚴(yán)重的問題，發(fā)動(dòng)網(wǎng)絡(luò)攻擊或給金融市場(chǎng)帶來災(zāi)難。如果人工智能能夠自己制定計(jì)劃并付諸行動(dòng)--特別是如果這些計(jì)劃與人類價(jià)值觀不“一致”--那么可以想象它們會(huì)認(rèn)為人類是實(shí)現(xiàn)目標(biāo)的障礙。奧特曼本人最近加入了數(shù)十名科技領(lǐng)袖和科學(xué)家的行列，簽署了一份聲明，將人工智能的發(fā)展視為與流行病和核戰(zhàn)爭(zhēng)同等的風(fēng)險(xiǎn)。他在今年初曾表示，最糟糕的情況是“所有人都消亡”。
這已經(jīng)成為奧特曼的名片，在倡導(dǎo)人工智能可能性的同時(shí)，敦促政策制定者制定規(guī)則來減輕危險(xiǎn)。“我是中西部的猶太人，”在圣路易斯長大的奧特曼說?！拔艺J(rèn)為這充分解釋了我的確切心理模型--非常樂觀，并為任何時(shí)候事情變得超級(jí)糟糕做好了準(zhǔn)備?！眾W特曼的成功來自于調(diào)整自己適應(yīng)全新環(huán)境的能力。在他的職業(yè)生涯中，適應(yīng)性是引導(dǎo)他在20多歲和30多歲時(shí)獲得巨額財(cái)富的一部分。他作為合伙人幫助創(chuàng)辦了數(shù)千家新公司，后來成為知名創(chuàng)業(yè)加速器Y Combinator的總裁。這也讓奧特曼相信，作為一個(gè)物種，人類可以避免人工智能可能帶來的最壞情況?！吧鐣?huì)能夠適應(yīng)，因?yàn)槿祟惐仍S多所謂的專家想象的要聰明和精明得多，”他說?！拔覀兛梢宰龅竭@一點(diǎn)?！?/p>
倡導(dǎo)普世基本收入計(jì)劃
在強(qiáng)調(diào)人工智能風(fēng)險(xiǎn)的同時(shí)，奧特曼認(rèn)為無論如何都要勇往直前。他是人工智能監(jiān)管的直言不諱的倡導(dǎo)者，對(duì)于哪些應(yīng)該適用于他的公司，他有自己的看法。他是一位公開的資本主義者，他說他在OpenAI中沒有股份，構(gòu)建他的公司以限制投資者的利潤；因?yàn)樵S多人認(rèn)為人工智能會(huì)加劇不平等，奧特曼還倡導(dǎo)用普世的基本收入計(jì)劃來緩和不平等。盡管他和他的同事承認(rèn)他們對(duì)技術(shù)將如何發(fā)展的洞察力有限，但他表示相信這些模型有能力不斷改進(jìn)。
OpenAI董事會(huì)成員海倫·托勒（Helen Toner）說：“甚至創(chuàng)造它們的人也不知道它們能做什么，不能做什么。我預(yù)計(jì)，我們真正了解GPT-4能做和不能做的所有事情可能還需要幾年時(shí)間?！?/p>
我們能夠在多大程度上信任正在“調(diào)整”這些強(qiáng)大的機(jī)器算法的人類--包括他們的意圖和能力--將是未來幾年反復(fù)出現(xiàn)的重大問題之一。在與OpenAI各部門員工的交談中，對(duì)人工智能危險(xiǎn)的認(rèn)識(shí)幾乎是一個(gè)普遍的話題。這與煙草、化石燃料和社交媒體高管的劇本大相徑庭，他們花了數(shù)年時(shí)間否認(rèn)可能的危害，但最終被迫承認(rèn)現(xiàn)實(shí)。
OpenAI的人力副總裁黛安·尹表示，OpenAI沒有使用“競(jìng)爭(zhēng)對(duì)手”這個(gè)詞，這是對(duì)在該領(lǐng)域與他人合作以避免不良結(jié)果的重要性的肯定。當(dāng)被問及人工智能軍備競(jìng)賽時(shí)，公司發(fā)言人反對(duì)這一比喻，稱“整個(gè)軍備競(jìng)賽不是由我們引發(fā)的?！?/p>
當(dāng)然，很難否認(rèn)OpenAI在引發(fā)行業(yè)發(fā)展中沒有發(fā)揮重要作用。“這是一場(chǎng)競(jìng)賽，”人道技術(shù)中心（the Center for Humane Technology）的聯(lián)合創(chuàng)始人、倫理學(xué)家特里斯坦·哈里斯（Tristan Harris）說，但主要參與者之間的合作將是關(guān)鍵?！拔覀冃枰獏f(xié)調(diào)，因?yàn)檫@不是為了讓OpenAI更加安全。這不會(huì)有任何作用，因?yàn)槠渌酥粫?huì)發(fā)展的越來越快?！惫锼箵?dān)心“能力的進(jìn)步是指數(shù)級(jí)的，安全措施的進(jìn)步是線性的”，并擔(dān)心“推出人工智能服務(wù)是出于商業(yè)動(dòng)機(jī)，而不是對(duì)我們希望看到的世界的有意識(shí)的考慮?！?/p>
奧特曼認(rèn)為，ChatGPT界面比iPhone界面簡(jiǎn)單是一種進(jìn)步，并表示這是受他小時(shí)候喜歡發(fā)短信的啟發(fā)。奧特曼說，給ChatGPT起一個(gè)“可怕的”機(jī)器人名字是經(jīng)過深思熟慮的；他擔(dān)心將人工智能工具擬人化的誘惑，這可能會(huì)削弱人類和機(jī)器之間的區(qū)別。這是另一個(gè)二元性：ChatGPT被訓(xùn)練來提醒用戶它沒有自己的觀點(diǎn)。然而，ChatGPT的人性化特質(zhì)--它的對(duì)話界面，它對(duì)第一人稱代詞的自由使用--是讓它迅速走紅的關(guān)鍵因素。
盡管微軟進(jìn)行了大量投資，并轉(zhuǎn)向了一種盈利模式，即使有上限，也能獲得100倍的回報(bào)，但OpenAI仍然認(rèn)為自己是一個(gè)研究實(shí)驗(yàn)室，致力于確保通用人工智能“造福全人類”的最初使命。公司的文化就是由它定義的。OpenAI首席運(yùn)營官布拉德·萊特卡普（Brad Lightcap）表示:“如果這個(gè)項(xiàng)目在60、70年前開始，可能會(huì)是政府資助的項(xiàng)目?！?/p>
據(jù)報(bào)道，OpenAI去年的營收約為2800萬美元，還不到一般汽車經(jīng)銷商收入的一半。但是奧特曼說，他并沒有立即感受到將公司的商業(yè)成功提升到與其影響力水平相當(dāng)?shù)膲毫?。?dāng)被問及他花了多少時(shí)間擔(dān)心競(jìng)爭(zhēng)時(shí)，他說，“你不會(huì)相信我，但幾乎沒有?！彼f，讓他夜不能寐的不是來自谷歌的LaMDA、Meta的LLaMA和Anthropic的Claude等語言模型的激烈競(jìng)爭(zhēng)?！斑@與誰獲得更多或更少的市場(chǎng)份額是完全不同的，”奧特曼說?！拔覀儽仨毾氤鋈绾喂芾磉@件事，并讓它順利進(jìn)行?！?/p>
跨越六大洲的閃電旅行
在《時(shí)代周刊》對(duì)奧特曼進(jìn)行專訪后不久，開始了跨越六大洲的為期五周的閃電旅行。他說，這次旅行的目的是讓他走出硅谷的辦公室。從某種程度上說，這也是一次勝利之旅--隨著民族國家意識(shí)到他所引領(lǐng)的技術(shù)的力量，這也是鼓勵(lì)和影響全球人工智能監(jiān)管的一次嘗試。在訪問期間，奧特曼在美國參議院發(fā)表了講話，會(huì)見了英國和印度總理，就即將出臺(tái)的歐盟人工智能法案發(fā)表了意見。
5月24日，奧特曼在倫敦一所大學(xué)的報(bào)告廳演講。排隊(duì)的人群沿著馬路蜿蜒向前，繞過一個(gè)拐角。演講結(jié)束后，奧特曼沒有消失在后臺(tái)，而是跳進(jìn)人群中，被學(xué)生和記者包圍。他擺出自拍姿勢(shì)，勇敢地回答問題。穿過旋轉(zhuǎn)門后，他與抗議者進(jìn)行了短暫的討論。其中一人舉著一個(gè)牌子，上面寫著“停止自殺式AGI競(jìng)賽”。在奧特曼的身旁，并沒有看到保鏢或公關(guān)人員的身影，這與馬克·扎克伯格（Mark Zuckerberg）等人的做法截然不同。
就像在他之前的科技公司一樣，奧特曼所說的和幕后發(fā)生的事情之間有一些共同點(diǎn)。在倫敦的活動(dòng)中，奧特曼告訴記者，由于歐盟即將出臺(tái)人工智能法案，OpenAI可能會(huì)決定在歐盟“停止運(yùn)營”。在去年與歐盟官員的一次會(huì)議上，OpenAI反駁了要求ChatGPT等“通用”人工智能模型遵守與被歐盟視為“高風(fēng)險(xiǎn)”的人工智能工具相同的規(guī)則的措辭。
在《時(shí)代周刊》的專訪中，奧特曼對(duì)社會(huì)適應(yīng)人工智能風(fēng)險(xiǎn)的最終能力深表樂觀。例如，為了確保你在電話上聽到或在視頻上看到的人是他們所說的人，他預(yù)見將使用技術(shù)和社會(huì)舉措的混合方式，如驗(yàn)證身份的密碼或密鑰。他看到人工智能最終完成大量占據(jù)我們?nèi)粘Ｉ畹某Ｒ?guī)任務(wù)的前景，同時(shí)努力應(yīng)對(duì)“發(fā)現(xiàn)癌癥的治療方法”等提示。奧特曼說：“激動(dòng)人心的部分幾乎太長了，無法一一列舉?！?/p>
奧特曼也思考了OpenAI在創(chuàng)建ChatGPT時(shí)是否做了“一些非常糟糕的事情”。長期以來，奧特曼一直被報(bào)道是一個(gè)末日預(yù)言者--隨時(shí)準(zhǔn)備著槍支、藥品和防毒面具。他翻了翻白眼，認(rèn)為這種描述有些夸張，但他補(bǔ)充說，他確實(shí)覺得生存主義是“一種有趣的愛好”?！奥犞?，如果AGI出了問題，沒有任何掩體能幫助任何人，”他說?！翱膳碌氖?，把這個(gè)杠桿放到這個(gè)世界上，肯定會(huì)產(chǎn)生不可預(yù)測(cè)的后果?！?/p>
以下是《時(shí)代周刊》前主編愛德華·費(fèi)爾森塔爾（Edward Felsenthal）對(duì)奧特曼專訪的全文：
問：你在日常生活中用ChatGPT做什么？
答：我每天用它做的一件事是幫助歸納。我真的不能再繼續(xù)關(guān)注我的收件箱了，但是我做了一件小事來幫助它為我總結(jié)，并從未知發(fā)件人那里提取重要的內(nèi)容，這非常有幫助。我每天早上都把它貼在那里。我用它為下周要見的人翻譯了一篇文章，為此做準(zhǔn)備。這是一件有趣的事情，我用它來幫我起草一條我很難理解的推文。
問：ChatGPT發(fā)布后獲得全球用戶的追捧，你對(duì)此感到驚訝嗎？
答：我們認(rèn)為它會(huì)讓人們興奮，許多人確實(shí)已經(jīng)對(duì)這項(xiàng)技術(shù)非常興奮了。所以從某種意義上來說，就像是，“哇，這些數(shù)字快瘋了。這看起來很瘋狂?！钡矣浀玫谝恢艿暮芏嘤懻撌?，為什么以前沒有發(fā)生這種情況？
問：其他的人工智能產(chǎn)品之前已經(jīng)出現(xiàn)了。
答：我認(rèn)為用戶體驗(yàn)非常重要。不僅僅是用戶界面，還有我們調(diào)整模型的方式，使之具有特定的對(duì)話風(fēng)格。它很大程度上是受短信的啟發(fā)。我很早以前就是用短信，也是短信的超級(jí)用戶。
問：隨著技術(shù)更深入地融入我們的生活，未來的界面會(huì)是什么樣子？
答：你可以用雙向語音來做到這一點(diǎn)，而且感覺是即時(shí)的。你將能夠像兩個(gè)人一樣交談，那將是非常強(qiáng)大的。你可以(最終)想象一個(gè)世界，就像你所說的那樣，它就像《星際迷航》中的全息甲板。但我認(rèn)為最重要的是，你想發(fā)生的事情有多少能從相對(duì)少量的對(duì)話中發(fā)生。隨著這些模型更好地了解你，并且有能力做更多的事情，你真的可以想象一個(gè)世界，在那里你與模型進(jìn)行相當(dāng)簡(jiǎn)單和簡(jiǎn)短的對(duì)話，然后大量的事情會(huì)以你的名義完成。
問：是通過我們的手機(jī)還是無處不在？
答：我覺得它無處不在，一下子就會(huì)這樣?，F(xiàn)在，人們?nèi)匀惶幱谡f“我是一家人工智能公司”的階段。但很快，我們就會(huì)期望我們使用的所有產(chǎn)品和服務(wù)都融入一些智能，就像今天的移動(dòng)應(yīng)用一樣。
問：你把這項(xiàng)技術(shù)描述為對(duì)人類生存的最大威脅和人類最大的潛在進(jìn)步。
答：毫無疑問，這項(xiàng)技術(shù)最令人困惑的地方之一就是它的整體能力--既有好的一面，也有潛在的壞的一面。我認(rèn)為我們可以做很多事情來最大化好的方面，管理和減輕壞的方面，但可怕的是，把這個(gè)杠桿放到世界上肯定會(huì)有不可預(yù)知的后果。令人興奮的部分幾乎太長了，無法一一列舉，但我認(rèn)為這正在改變?nèi)藗兊墓ぷ鞣绞?。它正在改變?nèi)藗兊膶W(xué)習(xí)方式。它將改變?nèi)藗兣c世界互動(dòng)的方式。從深層次上來說，人工智能是這個(gè)世界，也是人們一直想要的技術(shù)?？苹靡呀?jīng)談?wù)撊斯ぶ悄茉S久了。
問：作為父母，想想看，有一件事似乎很可怕，那就是我們?cè)趺粗牢覀兊暮⒆诱娴氖俏覀兊暮⒆?。你接到一個(gè)電話稱：“我需要錢，我需要幫助?！?/strong>
答：這將是一個(gè)真正的問題，而且很快就會(huì)成為一個(gè)真正的問題。這不僅僅是作為父母，也是考慮到我們自己的父母，他們已經(jīng)不成比例地成為這些勒索電話的受害者。我想我們都需要開始告訴人們這一天即將到來。你不能再相信電話里聽到的聲音了。社會(huì)能夠適應(yīng)，因?yàn)槿藗儽任艺J(rèn)為許多所謂的專家所認(rèn)為的要聰明和精明得多。
問：我需要和我的孩子說暗語嗎？
答：我認(rèn)為這將是許多解決方案的疊加。人們會(huì)用視頻來驗(yàn)證暗語。這可能會(huì)在一段時(shí)間起到作用。技術(shù)解決方案會(huì)有所幫助。人們也會(huì)交換密鑰和許多其他想法。我們只是需要一個(gè)技術(shù)和社會(huì)解決方案的組合，以不同的方式運(yùn)作。我很擔(dān)心，但我們會(huì)適應(yīng)的。我們很擅長這個(gè)。
問：埃里克·施密特（Eric Schmidt）和喬納森·海特（Jonathan Haidt）認(rèn)為，人工智能將使我們?cè)谏缃幻襟w方面的問題變得更糟。你擔(dān)心嗎？
答：我認(rèn)為社交媒體現(xiàn)在處于一個(gè)非常不穩(wěn)定的時(shí)期，我當(dāng)然對(duì)此感到緊張。我也能看到人工智能讓它變得更好的許多方法。我認(rèn)為這些事情很難預(yù)測(cè)。
問：你說過人工智能最糟糕的情況是所有人都消亡？
答：我們能夠管理好人工智能，我對(duì)此非常有信心。但如果我們對(duì)風(fēng)險(xiǎn)不是非常警惕，如果不坦率地談?wù)撍赡軙?huì)變得多么糟糕，我們就不會(huì)成功地管理它。
問：過去有報(bào)道稱你是末日預(yù)言家。
答：如果生成式人工智能（AGI）出現(xiàn)了問題，任何掩體都幫不了任何人。所以我認(rèn)為它被夸張地諷刺了。我確實(shí)認(rèn)為生存主義是一個(gè)有趣的愛好。有趣的是，在疫情早期，很多人都認(rèn)為，“也許這是個(gè)好主意。”但是我并沒有在這上面花費(fèi)太多的時(shí)間和精力。我認(rèn)為AGI會(huì)發(fā)展得非常好。我認(rèn)為確實(shí)存在我們必須應(yīng)對(duì)的風(fēng)險(xiǎn)，但我認(rèn)為碉堡與此無關(guān)。
我是一個(gè)中西部的猶太人，我認(rèn)為這充分解釋了我確切的心理模型，非常樂觀，并為任何時(shí)候事情變得超級(jí)糟糕做好了準(zhǔn)備。
問：公眾為什么要信賴像OpenAI這種以營利為目的的公司？
答：首先，我們不是一家以營利為目的的公司。我們是一個(gè)非營利組織，擁有一家有利潤上限的子公司。我們認(rèn)真思考并設(shè)計(jì)了一種結(jié)構(gòu)，在這種結(jié)構(gòu)中，我們的非營利組織對(duì)有利潤上限的子公司擁有完全的控制權(quán)和治理權(quán)，可以為其投資者和員工賺一定的錢，讓我們做我們需要做的事情。開發(fā)這些模型的代價(jià)卻是非常高昂。
問：設(shè)置利潤封底還是要盈利的。
答： 當(dāng)然可以。而且我也不覺得盈利不好。我非常贊成資本主義。我認(rèn)為這是我們迄今為止發(fā)明的最不壞的系統(tǒng)。所以我完全贊同人們從中獲利。我覺得這很好。我只是認(rèn)為這項(xiàng)技術(shù)的發(fā)展需要一個(gè)不同于普通的激勵(lì)系統(tǒng)。
問：你能提供一些你認(rèn)為政府在管理人工智能方面的角色的細(xì)節(jié)嗎？
答：我認(rèn)為我們需要對(duì)超過一定功率閾值的模型進(jìn)行監(jiān)管。我們可以用能力來定義，這是最好的?；蛘呶覀兛梢杂脛?chuàng)建模型的計(jì)算能力來定義它，這是最簡(jiǎn)單的，但我認(rèn)為并不完美。我認(rèn)為像那樣的模型需要向政府報(bào)告。它們應(yīng)該受到政府的監(jiān)管，應(yīng)該由外部組織進(jìn)行審計(jì)，應(yīng)該被要求通過一些安全問題的評(píng)估。這將是一個(gè)非常好的政策。我希望這在某個(gè)時(shí)候會(huì)成為全球性的。
問：你談到了一個(gè)全球性的機(jī)構(gòu)，我們需要一個(gè)監(jiān)督委員會(huì)，就像我們看待原子能那樣。
答：是的。我不是這方面的專家。此外，你應(yīng)該對(duì)任何要求自己監(jiān)管的公司持懷疑態(tài)度。但我認(rèn)為我們呼吁的是對(duì)我們影響最大的東西。我們說你必須對(duì)邊境的人進(jìn)行最嚴(yán)格的管理。但我認(rèn)為這些系統(tǒng)已經(jīng)非常強(qiáng)大，并將變得更加強(qiáng)大。我們以前曾作為一個(gè)全球社區(qū)走到一起，尋求非常強(qiáng)大的技術(shù)，這些技術(shù)帶來了巨大的風(fēng)險(xiǎn)，為了獲得巨大的好處，我們必須克服這些風(fēng)險(xiǎn)。
問：其他具體建議？
答：有一些小的短期的事情，我認(rèn)為希望是沒有爭(zhēng)議的。我認(rèn)為所有生成的內(nèi)容都應(yīng)該被標(biāo)記為已生成。事實(shí)上，我們甚至不能就此達(dá)成一致，這似乎是一個(gè)失誤。我還可以談?wù)勎艺J(rèn)為在短期內(nèi)有好處的其他細(xì)節(jié)。但是，我認(rèn)為這個(gè)世界真正需要的是，在非常強(qiáng)大的訓(xùn)練硬件上進(jìn)行類似國際原子能機(jī)構(gòu)的國際協(xié)調(diào)，這需要一段時(shí)間，而且非常重要。人工智能倡導(dǎo)者需要開始倡導(dǎo)這一點(diǎn)。自國際原子能機(jī)構(gòu)以來，這種情況還沒有真正以有意義的方式出現(xiàn)過。
問：你認(rèn)為在美國可以做些什么？
答：我認(rèn)為我們肯定可以完成短期人工智能監(jiān)管。讓我們這樣識(shí)別所有生成的內(nèi)容。讓我們要求對(duì)這些系統(tǒng)的安全標(biāo)準(zhǔn)進(jìn)行獨(dú)立審計(jì)。我認(rèn)為這是可行的。我有點(diǎn)樂觀地認(rèn)為，長期合作也是可行的。
問：最近有報(bào)道稱，OpenAI的合作伙伴微軟和谷歌已經(jīng)在歐盟游說，希望一些規(guī)定不適用于通用人工智能。我們?nèi)绾未_保法規(guī)在發(fā)生時(shí)是全面和真實(shí)的？
答：我們有責(zé)任輔導(dǎo)政策制定者和公眾我們認(rèn)為正在發(fā)生的事情，我們認(rèn)為可能會(huì)發(fā)生的事情，并把技術(shù)推向世界，讓人們可以看到它。我們認(rèn)為部署ChatGPT這樣的東西對(duì)我們的使命非常重要，這樣人們可以獲得一些經(jīng)驗(yàn)，感受這些系統(tǒng)的能力和局限性。我們的機(jī)構(gòu)和社會(huì)的作用是找出我們的社會(huì)想要什么。
問：你支持普世基本收入，并表示擔(dān)心人工智能將加深世界上已經(jīng)嚴(yán)重的不平等。但你也對(duì)我說，你認(rèn)為在我們有(實(shí)現(xiàn)這一目標(biāo)的)政治意愿之前，還有很長的路要走。
答：我希望人工智能可以減少不平等，更重要的是，我希望它可以大幅提升人們的整體收入。如果沒有人陷入貧困，如果每個(gè)人的生活都在逐年改善，如果我們真的能夠大幅提高人們的生活水平，我對(duì)這個(gè)世界上有身價(jià)萬億的富豪沒有意見。我意識(shí)到不是每個(gè)人都同意這一點(diǎn)。但我認(rèn)為人工智能非常自然，我們?cè)谖覀兌冀?jīng)歷過的這場(chǎng)漫長的技術(shù)革命中一次又一次地看到了這一點(diǎn)，它將大幅提升人們的平均收入。
問：現(xiàn)在的你和ChatGPT發(fā)布前的你有什么不同嗎？
答：忙得不可開交，真不容易。我也有很多人的焦慮投射到我身上，這也很難，但我一直認(rèn)為你可以通過你能適應(yīng)的東西來給自己驚喜。人類的適應(yīng)能力令人難以置信。所以這感覺就像是新的常態(tài)。除了太多的電子郵件，我已經(jīng)習(xí)慣了其他的一切。
問：我們做錯(cuò)了什么？
答：我認(rèn)為人們?cè)诳蚣苤蟹傅囊粋€(gè)錯(cuò)誤是，這是一種工具還是一種生物？甚至那些知道它是一種工具的人，因?yàn)樗苋菀妆粩M人化，陷入了過度的創(chuàng)作中。我認(rèn)為這是個(gè)錯(cuò)誤。我認(rèn)為這會(huì)導(dǎo)致錯(cuò)誤的想法。這是一個(gè)工具。
問：然而，真正的政策到位需要數(shù)年時(shí)間。
答：確實(shí)是這樣。我過去每年都要為此去幾次華盛頓。那里的政客都非常友好。他們對(duì)你微笑，說：“哦，是的，這個(gè)人工智能的事情，可能很重要?！钡麄儾⒉辉诤?。我們相信這一策略的原因之一是，對(duì)于人們來說，認(rèn)真對(duì)待它，真正參與它，理解它，僅僅告訴他們是不夠的。你必須向人們展示，人們需要自己使用這項(xiàng)技術(shù)，了解它的局限性、好處和風(fēng)險(xiǎn)。對(duì)話真的需要現(xiàn)在就開始，因?yàn)榻鉀Q這個(gè)問題需要一段時(shí)間，但每個(gè)政府現(xiàn)在都在認(rèn)真關(guān)注。
問：你在幾年前的摩爾定律文章中寫道，這將極大地加速不平等，你談到了以某種形式重新分配收入的必要性。什么時(shí)候？公司已經(jīng)從人工智能中賺了大錢。知道這應(yīng)該何時(shí)發(fā)生的標(biāo)志是什么？
答：有趣的是，當(dāng)我寫那篇文章的時(shí)候，我就被批評(píng)了?！澳惘偭?，這種東西沒有任何意義。完全不可能?！爆F(xiàn)在這些人又說：“你做得還不夠。我們需要馬上做這件事。我們需要把這些東西放在適當(dāng)?shù)奈恢??！蔽业母杏X是，我們還需要很多年，我不知道需要多少年，但至少需要很多年，人工智能才能影響經(jīng)濟(jì)，我們需要并且在政治上有能力完成這樣的事情。但我不認(rèn)為我們還有幾十年的時(shí)間。
我仍然希望基本收入能夠出現(xiàn)。我認(rèn)為這只是一個(gè)好的政策，但現(xiàn)在看起來在政治上不可行。
問：在生成人工智能的早期，我們聽到每個(gè)人都在用社交媒體做類比。你覺得呢？
答：其實(shí)兩者完全不同。就我們必須如何思考它而言，這種類比更接近于核材料或合成生物學(xué)。社交媒體有很強(qiáng)的社會(huì)效應(yīng)。一個(gè)人在沒有人傾聽的情況下使用社交媒體，對(duì)世界的影響極其有限。但是一個(gè)擁有核材料的人或者一個(gè)制造病原體的人可能會(huì)對(duì)世界產(chǎn)生巨大的影響?，F(xiàn)在，一個(gè)人也可以做很多好事；一個(gè)人可以治愈癌癥或者一小部分人可以治愈癌癥。(但)這不是一種天生的社交體驗(yàn)。
問：六個(gè)月后，一年后會(huì)發(fā)生什么？
答：會(huì)有很多事情發(fā)生。我們會(huì)在某個(gè)時(shí)候把圖像、音頻和視頻放進(jìn)去，模型會(huì)變得更智能。但是我認(rèn)為人們真正值得高興的是現(xiàn)在，如果你嘗試一件事情1萬次，并從1萬個(gè)答案中選出最好的一個(gè)，這對(duì)大多數(shù)問題來說都很好，但不是所有其他的問題。GPT-4在大多數(shù)時(shí)候擁有知識(shí)，但你并不總是得到它的最佳答案。我們?cè)鯓硬拍茉谌魏螘r(shí)候都給你最好的答案呢？如果我們能搞清楚這一點(diǎn)，這就像一個(gè)開放的研究難題，這將是一件大事。
問：你曾談到經(jīng)濟(jì)可能會(huì)放緩。
答：這是百分之百的事情。
問：在微軟投資之后，OpenAI的估值已經(jīng)大幅飆升？開啟營收引擎模式給你帶來了什么樣的壓力？
答：不太多。我們是一家專注于自身使命的公司。
問：OpenAI是否會(huì)專注于營收？
答：我想會(huì)。但是我們的營收不會(huì)像其他人想的那么多。我們的營收增速會(huì)比本來的模樣慢得多。
問：當(dāng)前對(duì)人工智能領(lǐng)域和初創(chuàng)公司的投資爆炸式增長給你帶來了什么壓力？
答：你可能不會(huì)相信我的，但幾乎沒有。我至少多年來一直堅(jiān)持這么說。這和其他任何東西都不一樣。社會(huì)將會(huì)發(fā)生根本性的變化。這與誰獲得多一點(diǎn)或少一點(diǎn)的市場(chǎng)份額是完全不同的。我們必須想辦法解決這個(gè)問題，讓事情進(jìn)展順利。（無忌）
