原視頻發(fā)于油管：OpenAI CEO Sam Altman | AI for the Next Era ，本文是對(duì)訪談的整理與翻譯。
對(duì)話的雙方是主持人 Reid Hoffman (以下簡(jiǎn)稱 H) 和 Open AI 的 CEO Sam Altman (以下簡(jiǎn)稱 A)
一些術(shù)語：
AGI： Artificial general intelligence 泛人工智能
DALL.E： 一個(gè)可以利用語言生成畫作的AI模型
Copilot： 一個(gè)可以幫助生成計(jì)算機(jī)代碼的工具
Alignment Problem：讓AI和人類的利益對(duì)齊問題
H: 首先，我們先討論一些接地氣的話題。 你們推出了基于大模型的API，你是如何看待這項(xiàng)商業(yè)的前景，以及如何用它去創(chuàng)造不同的商業(yè)的？
A: 當(dāng)前，用戶的用他（大模型）們?nèi)?chuàng)造很好商業(yè)文案，服務(wù)教育行業(yè)。但是目前還沒有看到人們用它開啟一個(gè) 萬億美元級(jí)別的行業(yè)， 就像 Google當(dāng)年做的事情一樣。 我想這個(gè)事情在不遠(yuǎn)的將來就會(huì)發(fā)生，也許是我們的模型，也許是 Google 自己的模型。 我想，隨著大型語言模型的發(fā)展， 就在未來的幾年，它會(huì)給Google 最重要的搜索業(yè)務(wù)帶來第一次嚴(yán)重的挑戰(zhàn)。 人們將會(huì)要考慮一些根本的變化，那些變化非常的重要。 聊天機(jī)器人將首次達(dá)到媲美人類的水平。這些聊天機(jī)器人不像以前的出現(xiàn)的， 以娛樂為主的聊天機(jī)器人。 這一次的 AI 將可以提供有價(jià)值的服務(wù)， 一些公司將基于此發(fā)展出新的業(yè)務(wù)，比如醫(yī)療建議， 新的教育服務(wù)，他們中的一些將生長(zhǎng)成為大公司。
多模態(tài)模型還是一個(gè)新的東西， 人們用它們做了很多有趣的事情。 我想， 人們非常希望能夠和這些模型用自然語言溝通， 通過多輪人機(jī)對(duì)話， 來優(yōu)化他們用這些AI 生成的作品。 DALL.E ， Copilot 做了一些早期的實(shí)踐， 我認(rèn)為這回會(huì)是未來的一個(gè)趨勢(shì)。 嗯，我認(rèn)為這將是一個(gè)很大的商業(yè)。 隨著人機(jī)交互變得容易，這種大模型會(huì)變成一種新的技術(shù)平臺(tái)。 擁有一個(gè)好的模型的公司，會(huì)擁有一個(gè)爆炸性的增長(zhǎng)。
H：現(xiàn)在大型語言模型已經(jīng)開放了API 接口，在這種情況下， 如果一個(gè)AI公司想構(gòu)建一個(gè)長(zhǎng)久的業(yè)務(wù)， 什么事情是最重要的？
A： 現(xiàn)在只有少數(shù)公司掌握了大模型， 現(xiàn)在他們向公眾開放了接口， 人們可以在模型上構(gòu)建各種應(yīng)用。 我認(rèn)為， 將會(huì)產(chǎn)生一個(gè)中間層， 這個(gè)中間層將會(huì)非常重要。 現(xiàn)在很多初創(chuàng)公司都在搞自己的模型，我認(rèn)為者不可持續(xù)。 未來，初創(chuàng)公司會(huì)基于大型模型，對(duì)他們?nèi)プ稣{(diào)整（tune it）， 然后得到適用于他們業(yè)務(wù)的模型。 那些公司將獲得持久的價(jià)值， 因?yàn)樗麄兊玫搅藢俚哪Ｐ汀?他們可以自己用他們， 他們也可以分享出去。 我認(rèn)為這些中間層的公司會(huì)創(chuàng)造出非常大的價(jià)值。
H： 到目前為止，你覺得大型語言模型最讓你吃驚的地方在哪？
A： 我認(rèn)為當(dāng)前人們對(duì)于大型語言模型的系統(tǒng)性誤解在于，人們只會(huì)覺得AI只是重復(fù)人類做過的事情，無法為人類的知識(shí)創(chuàng)造出新的東西。 我覺得很快，新的模型就會(huì)讓領(lǐng)域內(nèi)的專家意識(shí)到， 這種想法是錯(cuò)的。
H：既然談到科學(xué)， 大語言模型在那些地方可以為科學(xué)加速呢？
A：我認(rèn)為當(dāng)前正在發(fā)生2件大事， 而第三件正在來的路上。 當(dāng)前AI 為科學(xué)帶來的2個(gè)加速：（1）在一些專業(yè)領(lǐng)域上，專業(yè)的大模型帶來了前所未有的能力， 比如 AlphaFold，它可以幫助生物科技公司在科學(xué)上去突破。 （2）另外一類是生產(chǎn)力提高工具， 比如 Copilot, 這些工具幫助了千千萬萬的科研人員和工程師提高了他們的生產(chǎn)效率。 第三件事情， 說起來有點(diǎn)嚇人，讓人想到 Alignment Problem， 就是 AI 模型會(huì)擁有自我提升的能力。 首先，作為 AI 工程師， 我們要看這個(gè)模型是否可以幫助我們解決問題，比如優(yōu)化代碼。 比較驚悚的一個(gè)版本是， AI 可以自我修改代碼，優(yōu)化程序。 沒那么驚悚的一個(gè)版本， AI 進(jìn)化就像我們?nèi)祟惪茖W(xué)發(fā)現(xiàn)，對(duì)事情給出一種解釋，然后去驗(yàn)證下它。 我們會(huì)教 AI 去做這種事情。 我認(rèn)為，驅(qū)動(dòng)人類社會(huì)和經(jīng)濟(jì)進(jìn)步的動(dòng)力，在于可以推動(dòng)科技發(fā)展的社會(huì)結(jié)構(gòu)，以及科技發(fā)展本身， 我們也會(huì)參與其中。
H：很多人可能都不知道什么是 Alignment Problem， 可以給大家說一下么？
A: Alignment problem 是說，我們可能會(huì)創(chuàng)造出一個(gè)非常強(qiáng)大的系統(tǒng)，但是這系統(tǒng)的行為可能和我們當(dāng)初的預(yù)想大相徑庭，甚至?xí)臀覀儺?dāng)初的愿望完全相反。 很多科幻作品都和這個(gè)題材有關(guān)。 對(duì)我們來說， 就是如何保證 AGI 最終符合人類的利益，不會(huì)對(duì)人造成損害， 不會(huì)被壞人利用。 我不認(rèn)為剛才提到的 AI self-improvment 會(huì)造成 alignment。 為了解決 alignment 問題，我們使用了一些辦法。其實(shí)， 當(dāng)我們的AI 非常厲害以后， 我們可以讓他們?nèi)?chuàng)造出一些解決 Alignment Problem 的辦法。 這樣，我們的工具箱里面就又會(huì)多出來一個(gè)新的工具。
H：就像你剛才說的，這種的模型不會(huì)有種族偏見？我們知道， 有些訓(xùn)練數(shù)據(jù)中會(huì)包含帶有種族偏見的內(nèi)容， 而你說的模型會(huì)自我清除(self clean)這些偏見？
A: 當(dāng)然。 如果模型足夠聰明，他們就會(huì)知道什么是種族偏見，而我們就可以告訴模型， 把種族偏見去除。
H：你認(rèn)為在未來幾年， 進(jìn)化(evolution) 的登月時(shí)刻 （Moon Shot）是什么？
A：你指的是 AI 進(jìn)化么 （AI evolution）?
H：是的。
A：我先說一些確定性的事情， 我認(rèn)為 大語言模型（LLM）將變得非常厲害， 超出人們預(yù)期。 人們都在說，算力到了極限， 數(shù)據(jù)到了極限， 這是真的。 但是我們還有很多新的算法。 另外一個(gè)確定性的事情是， 真的多模態(tài)模型將會(huì)到來，不同類型的數(shù)據(jù)，文本，圖像，將在模型中自由的流動(dòng)。 我認(rèn)為我們將擁有可以持續(xù)學(xué)習(xí)的模型。 現(xiàn)在的GPT 模型會(huì)出現(xiàn) stuck time， 繼續(xù)使用也不會(huì)讓它變的更好， 我認(rèn)為這將會(huì)被改變。 就這一點(diǎn)，就是一個(gè)很大的勝利，他將解鎖很多新的功能，人們會(huì)利用它創(chuàng)造很多新的應(yīng)用。 但是我們會(huì)持續(xù)研究性的范式， 到目前為止，我們到很多令人開心的結(jié)果。 這些問題的根本，都在于如何產(chǎn)生新的的知識(shí)推動(dòng)人類進(jìn)步。
H: 剛才這點(diǎn)很重要，因?yàn)槿藗儾恢滥愕倪@個(gè)預(yù)測(cè)是嚴(yán)肅的， 而不是簡(jiǎn)單說說。接下來， 談?wù)勀銓?duì) AI 和 核聚變（fusion） 的想法。
A：一個(gè)很不幸的事情是，AI現(xiàn)在成為了一個(gè)超級(jí)流行詞。 這種流行往往不是什么好事情。 我希望這不意味著 AI 會(huì)遭受一場(chǎng)災(zāi)難。 但在歷史上，這就不是件好市，你看到初創(chuàng)公司， 人們到處都在談?wù)?AI，談?wù)撍麄冏隽耸裁茨Ｐ?，做了什么融合?人們?cè)诟鱾€(gè)行業(yè)都在說 AI+ 將成為現(xiàn)實(shí)， 這意味著 AI 將成為一種平臺(tái)型的科技基礎(chǔ)設(shè)施。 我們目前在AI發(fā)展的第一線， 我愿意做一些基于我看到的事情的預(yù)言。我剛才已經(jīng)說了我們的一些研究，我會(huì)依據(jù)它們做一些預(yù)測(cè)，那也是我們?nèi)绾芜\(yùn)營(yíng) Open AI 這家公司的。 我們只有在對(duì)一件事情有信心的時(shí)候，我們才會(huì)去做。 我們拿出10%的公司資源去做一些探索性的工作，去探索那些可以讓公司獲得巨大成功的項(xiàng)目。很不幸，我覺得未來5年內(nèi)， 我們還會(huì)要用 Transformer，我們也想找到更好的模型，但是目前來看 Transformer 依然很棒。 但是我知道，找到下一個(gè)范式一直都很重要。 我想那是預(yù)測(cè)一些事情的方法，不要去想 AI+ （作為Open AI） ，而是去看看能不能把現(xiàn)在工作的方法做的更好。你不能預(yù)測(cè)那些重大的進(jìn)展，有時(shí)候他們就是發(fā)生了。
H：你對(duì)AI 應(yīng)用有什么想法，比如 AI用戶高頻量化交易，它會(huì)成為一種中性的軍備競(jìng)賽么？ 有點(diǎn)像 生命3.0 中提到的觀點(diǎn)（Omega Point of View)
A: 我相信，你會(huì)看到AI會(huì)滲透到各個(gè)地方。 我思考的點(diǎn)在是，智能（Intelligence）和能源的的邊際成本都在趨向于0， 而這兩項(xiàng)是很多東西的成本項(xiàng)。 這兩個(gè)趨勢(shì)會(huì)影響很多事情，這會(huì)導(dǎo)致社會(huì)的巨變。 就像歷史上發(fā)生了很多次的巨變一樣。 而對(duì)于這些巨大的改變，人們總是傾向于低估他們。當(dāng)然有些事情，我沒有那么大的信心，它不會(huì)把所有事情都變得特別便宜 。 有些人還會(huì)去花費(fèi)巨大的能源和智能去做一些事情， 他們可以得到這些資源。（H：兩條逆向的曲線交叉了，A：是的） 就像：未來能源的價(jià)格會(huì)是現(xiàn)在百分之一，智能的價(jià)格也是現(xiàn)在的百分之一， 但是有些人就像花費(fèi)1000倍的價(jià)錢去做一些事情（大事）。
H： 你是如何看 元宇宙 和 AI 的？
A: 我不是很清楚， 但是我覺得他們都很酷。
H：元宇宙是一個(gè)模擬器，可以用于娛樂和教育。
A: 我覺得元宇宙未來會(huì)和 Iphone 比較像，他們都是應(yīng)用軟件的一個(gè)容器，提供一個(gè)新的人機(jī)互動(dòng)的界面。AI 則是一場(chǎng)科技革命。 元宇宙和 AI 會(huì)互相適應(yīng)，相互配合，但是我不十分確定。
H: 那就走著看著把。
H：有觀眾提問么？
觀眾：你是如何看待像 GPT-3 這種AI 對(duì)生命科學(xué)研究的影響的？ 比如和縮短研發(fā)周期， 而在生命科學(xué)研究中，有些過程就是比較慢， 比如受制于自然法則。
A：我覺得目前的已有的模型還不能對(duì)生命科學(xué)領(lǐng)域產(chǎn)生很重大的影響。 不過已經(jīng)有人在嘗試做這些事情， 而且取得了一些小的成功，不過這些成功還還在初級(jí)階段。 不過這種情況很快就會(huì)發(fā)生變化了。這個(gè)領(lǐng)域?qū)⒄Q生千億美元甚至萬億美元級(jí)別的公司。 這種領(lǐng)域是很少見的。 如果你能比現(xiàn)有的生物科技公司效率提高100被， 那么你將真的很了不起。 正如你所說，這個(gè)行業(yè)有一些很難繞開的自然法則， 比如需要人體實(shí)驗(yàn)。 不過我想，如果能夠避免這些環(huán)節(jié)那么將把效率提高很多。 我知道一些合成生物學(xué)的公司正在試圖讓整個(gè)過程加快。 AI 給了他們的一些幫助。 在這個(gè)領(lǐng)域，提高研發(fā)效率，降低研發(fā)成本會(huì)讓你取得很大的競(jìng)爭(zhēng)優(yōu)勢(shì)。 當(dāng)然，如果是我， 我不會(huì)選擇心血管疾病作為開始（監(jiān)管壓力）；但是在利用生物進(jìn)行制造的領(lǐng)域，這是個(gè)好的試驗(yàn)場(chǎng)。 另外，模擬器（simulator）目前做的不是很好，如果我開一家生物科技公司，我會(huì)向這個(gè)方向努力。
H： 你覺得AI 的自我進(jìn)化如何幫助提升 simulator ？
A: 人們正在做這方面的努力，我不太清楚進(jìn)展。但是我知道他們都是很聰明，目前前景很樂觀。
H： 還有其他問題么？
觀眾：我很好奇，我們的生活中，有哪些不會(huì)被 AI改變？
A： 一些生物本能的東西， 比如和人互動(dòng)。我們大腦內(nèi)的獎(jiǎng)勵(lì)機(jī)制會(huì)依然驅(qū)使我們創(chuàng)新，和傻東西保持距離， 組成家庭。 未來100年， 人們會(huì)比過去100年更加重視在 5萬年前人們就重視的東西。
H： 你最喜歡的一個(gè)烏托邦科幻小說是什么？
A： 好問題。 星際迷航很好，我喜歡探索宇宙。我喜歡科幻， 我也花幾天時(shí)間寫過科幻小說，那很有趣。 我希望你能推薦一些科幻小說
H： 好的，我會(huì)給你推薦幾。
觀眾： 我最喜歡的一本小說是 “童年的終結(jié)（Childhood's End）Arthur C. Clarke 在 19世紀(jì)60年代寫的。 用一句話來說， 就是外星人來拯救地球，他們帶走了所有的孩子，然后留下了其他所有的東西。 bla, bla, bla, 你是如何看待家庭組件和 AGI 科技的？
H： 這個(gè)問題遠(yuǎn)遠(yuǎn)超越了 Open AI， 人們對(duì)于要小孩的事情， 持有很多不同的看法。 有些人說，因?yàn)橛辛?AGI， 我就不想要小孩了（還有這種思潮？ 難怪要問這位 CEO ）。 對(duì)我來說，我來自于大家庭，我會(huì)養(yǎng)小孩。 但是人們都有自己的主見。 如果我聽見有人說， 因?yàn)?AGI就不想要小孩了，我會(huì)覺得很郁悶。 我覺得有很多小孩是挺棒的事情。
觀眾：你認(rèn)為未來5年人們和基礎(chǔ)模型打交道的方式是如何的？ 你認(rèn)為在很多垂直領(lǐng)域內(nèi)會(huì)有很多公司去 fine tuen 基礎(chǔ)模型么？或者你覺得 prompt engineering 將成為很多公司的內(nèi)部功能 in-house function？(這句話不是特別明白)。
H：未來5年，我不認(rèn)為我們會(huì)繼續(xù)去做 prompt engineering。交互會(huì)集成在模型中， 人們通過帶有上下文的文字或者語音和計(jì)算機(jī)交流，比如去生成圖片。也許還有一些 prompt engineering，但是只是在比較特殊場(chǎng)合使用比如我去做一些研究。 但是我認(rèn)為，主要的人機(jī)交互界面將是自然語言。
A: 在進(jìn)入下一個(gè)問題之前， 我想深入一下這個(gè)問題。 對(duì)于一個(gè)很好的視覺思考著（Visual Thinker), 它可以從 DALL.E 獲得很好的結(jié)果，因?yàn)樗廊绾尾粩嗟囊龑?dǎo) AI。 你不覺得這是這種事情（要的人機(jī)交互界面將是自然語言）的一個(gè)普遍真理么？因?yàn)槿祟惖闹腔郏v通過自然語言來提升AI。
H：當(dāng)然。我只是不希望出現(xiàn) Prompt Hacking ，只是用一個(gè) magic word 來做一些改變。我認(rèn)為用高質(zhì)量的idea 來引導(dǎo) AI很重要，你要知道你真正想要的東西， 這樣藝術(shù)家可以獲得最好的生成的圖片；而不是只是通過 magic word 來投機(jī)取巧。
A: 顯然， 語言的引導(dǎo)要遠(yuǎn)遠(yuǎn)好于 prompt engineering。
觀眾： AGI 提出已經(jīng)有了一段時(shí)間了，人對(duì)與 AGI 的定義依然不一致，每個(gè)人都有自己的定義。 你是如何定義 AGI的，
H：我知道有很多定義， 但是對(duì)于我來說 AGI 意味著AI 的能力達(dá)到了普通人的水平。 就像你的一個(gè)遠(yuǎn)程工作的同事，它可以做一些讓你開心的事情，只不過是隔著屏幕。 它可以是一個(gè)好醫(yī)生，一個(gè)好的程序員，就像我們普通人可以做到的一樣。 而Supert Intelligence 則是非常聰明的，他的智慧將超過人類智慧的總和。
觀眾： 隨著AI 的進(jìn)展，未來20，30年， 你認(rèn)為什么社會(huì)問題會(huì)變得嚴(yán)重，我們應(yīng)該如何提前預(yù)防？
H：最重要的影響在于經(jīng)濟(jì)， 一部分人會(huì)利用 AI 變得很富有，社會(huì)的兩極分化會(huì)變得嚴(yán)重， 我認(rèn)為社會(huì)無法容忍這種情況。 到時(shí)候，新的社會(huì)契約是什么樣的？我覺得一個(gè)要解決的問題是，如何分配社會(huì)財(cái)富，如何訪問AGI 資源。我們需要共同具體，哪些事情可以做，哪些事情不能做。 我是個(gè)樂觀派，我認(rèn)為人類會(huì)很好的解決這個(gè)問題。 也許我們行為會(huì)不同， 但是我們會(huì)解決這個(gè)問題。 但是我認(rèn)為，財(cái)富，治理，對(duì)AGI的問題，會(huì)變得非常重要，我們需要解決這些問題。
[bla, bla, bla A 插入了一個(gè)問題，這段沒太明白]
觀眾：AI 可以提高人類的創(chuàng)造力。那么 AI 作為創(chuàng)造力提升工具 和 AI 本身的創(chuàng)造力的邊界在哪里？
H：當(dāng)前，AI 幫助人們創(chuàng)造，工作的很好。到目前為止，AI 還是一個(gè)創(chuàng)造力增強(qiáng)工具，它并沒有取代人類的創(chuàng)造力。 我認(rèn)為這個(gè)趨勢(shì)還將延續(xù)很久。 也許未來，也許 100年以后， AI 可以開始有完全的創(chuàng)造力。 在10年前， 這是一個(gè)有趣的問題， 人們不會(huì)想到這里。 那個(gè)時(shí)候，人們普遍覺得AI將首先取代藍(lán)領(lǐng)工作， 然后是低技能的白領(lǐng)工作， 再是高技術(shù)工作， 那些需要非常高智商才能完成的工作，比如程序員，最后，也許是永遠(yuǎn)不能取代的， 是那些有創(chuàng)造力的工作， 比如藝術(shù)家。 可實(shí)際卻于此相反， 我覺得這是一個(gè)很有意思的警示， 做預(yù)測(cè)是一件非常難的事情。 具體來說，我們可能很難去判斷，我們所作的工作的難易程度。 也許控制我們的身體，去做一些體力活，也是一件非常難的事情。
觀眾：你說創(chuàng)業(yè)公司自己訓(xùn)練模型不是個(gè)好主意，但是我覺得， 訓(xùn)練模型需要的就是數(shù)據(jù)和算力。 數(shù)據(jù)都是可以再互聯(lián)網(wǎng)上公開拿到的， 而未來大公司也會(huì)持續(xù)的售賣算力。 這類創(chuàng)業(yè)公司如何能夠做到差異化呢？
H： 我是說有一個(gè)中間層， 創(chuàng)業(yè)公司做不同領(lǐng)域的 fine tuen，去適應(yīng)不同的垂直細(xì)分領(lǐng)域，而不是從頭訓(xùn)練起?；A(chǔ)模型需要巨量的數(shù)據(jù)和算力。
