騰訊科技訊 4月28日消息，據國外媒體報道，今年1月，OpenAI聯合創始人、首席執行官山姆·奧特曼（Sam Altman）曾做客美國霍華德大學（Howard University），與該校校長本·文森三世（Ben Vinson III）、計算生物學和生物信息學中心主任威廉·薩瑟蘭（William Sutherland）圍繞人工智能及其對人類影響進行了一場爐邊談話，這場爐邊談話在近期放出了全程視頻。成立于1867年的霍華德大學是一所綜合類的私立大學，爲全美著名的黑人大學。

人工智能的迅速普及讓霍華德大學的許多學生、教職員工和社區成員對人類的未來産生了疑問。人工智能繼續在社會各個部門迅速滲透，導致人們擔心人類在此過程中可能的失去。針對這些，三名談話參與人深入溝通了人工智能的潛力與責任、倫理考量、偏見與多樣性、算法偏見、人工智能在教育中的應用、以及人工智能與文化多樣性等議題。奧特曼認爲，人工智能可能成爲有史以來最偉大的技術革命，但要實現這一目標，需要社會各界的合作與整合，確保以公平的方式部署該技術，讓所有人都能夠從中受益。

以下爲對話內容摘要：

文森三世：很高興你來到我們的校園。人工智能的發展如此之快。這絕對令人著迷。你一直站在這場變革的前沿。作爲一個致力于社會公正、道德與責任的機構，我想問的問題是，我們如何確保在這麽快發生這麽多事情的情況下，優先考慮道德因素？像你和你的一些同事這樣的行業領導者應該發揮什麽作用？領導者應該在確保采取負責任的做法方面發揮什麽作用？

奧特曼：人工智能可能是世界上最偉大的技術革命，最偉大的新工具，最偉大的經濟增長引擎。這項技術顯然是驚人的，但要得到很好的部署，它需要與整個社會的合作和整合，並確保以公平的方式實現這一點。我認爲這項技術實際上非常適合這一點，但我們無法獨自完成。這也是我們喜歡和硅谷以外的人交談，拜訪世界各國的大學，向不同背景、不同行業、不同目標的人詢問他們希望人工智能能夠做些什麽的原因。

ChatGPT目前是一個使用非常廣泛的産品。它必須爲許多人服務，而且必須以包容的方式、公平的方式來做到這一點，並以某種方式把該項技術的最好部分帶給每個人。當我們訓練第一代GPT時，曾遇到很多非常困難的問題，我們當時訓練第一代模型必須通過互聯網，但會得到一個非常有偏見的系統。爲解決這個問題，我們有了一些想法，其中一個叫做從人類反饋中強化學習，比我們想象的要好得多。

我不會說去偏見本身是個系統，因爲我相信沒有人會認爲任何一個系統都可以去偏見。如果你看看GPT4在任何偏見測試中的表現，與早期版本相比，我們顯然取得了很大進步。但現在我們面臨更難的問題，也就是誰來決定這些系統的行爲應該是什麽？這個過程是什麽樣的？如何確保難以被注意到的邊緣聲音被放大？爲此我們需要大量的合作。我們將推出一些關于民主輸入的新內容。我們感覺非常興奮的點是，技術現在允許這樣做。所以現在我們要面對的是更困難的社會問題，即確保這一切能發生。

薩瑟蘭：我和同事們討論過的一件事是，當你在開發人工智能或ChatGPT時，你覺得在開發階段進行邊緣化輸入會産生什麽影響。多樣性會在多大程度上有助于解決偏見問題？

奧特曼：關鍵在于提出工程想法的人。他們必須確保編寫系統行爲規範的人沒有問題，然後是回答問題的人在此基礎上提供的人類反饋，我認爲這在各個層面都很重要。所以有很多原因讓我很高興訪問貴校。我總是喜歡在大學裏演講，但其中一個原因是，請申請加入OpenAI，我們很想招募你們。

文森三世：我想就此問題再延展一下，因爲我看到很多學生都在微笑。這是對我們上一個問題的反應。在一所大學，在霍華德大學，我們有令人難以置信的人才隊伍。你對我們的學生有什麽建議？他們可能想進入這個行業，在OpenAI或是其他人工智能公司工作，他們可以做什麽？應該准備什麽？

奧特曼：在來貴校參加活動之前，我剛參加了一個播客節目的錄制。我會再重複在那個節目中說過的話，因爲我真的很滿意這個答案。我認爲這可能是最偉大的時刻，至少是自互聯網革命以來的最偉大時刻。對進入科技行業感興趣的年輕人來說，現在特別是目前，都非常幸運。因爲當一個新行業剛剛誕生，出現在一個巨大變化的時刻，年輕人擁有最大的優勢和最多的機會。年輕人要比年長的人更熟悉人工智能工具。他們帶來了一系列新的視角，不僅關于如何做現有的事情，而且關于如何創造未來。這些在此之前是不可能的。我認爲年輕人推動了很多技術革命，我之前曾在創業孵化期Y-combinator工作，這對我們來說是顯而易見。

這是一件非常重要的事情，也是一個非常特別的機會。除此之外，從這個角度來看，年輕人也將在發生令人難以置信的變化的事情進入自己的職業生涯。這是剛剛起步或更早的人的優勢所在。這太棒了，就像當地面震動時，當所有規則發生變化時，當現有的權力結構受到威脅或削弱時等等。年輕人將有機會開始一些全新的事情，可以是創辦一家新公司，可以是一種新的創造性工作，就像在現有公司做一份工作，比年輕人年長10或20歲的人不會有的那些創造性的火花。

作爲一名投資者，這是我第一次錯過機會。但我並沒有錯過太多，因爲開發人工智能更有趣。當前是創辦新公司的機會，新公司將在新技術革命的開端誕生。這是一個像互聯網革命開始的時期，就像是亞馬遜、谷歌和其他公司創辦之初的模樣；或者像移動革命開始時的模樣。新的大公司往往會在大規模技術變革的開始時出現。

文森三世：沒有太多背景的學生的機會是平等的嗎？你對此有什麽看法？

奧特曼：順便說一下，你們也可以加入OpenAI。我們對這一技術革命感到興奮的一件事是，代表人數不足的社區同樣接受了這一技術性的革命。我們正利用新工具引領潮流，利用新工具開發新産品和服務。我們對目前看到的情況非常樂觀，認爲這將是更具代表性的新舉措。

薩瑟蘭：我們學校剛啓動了一個大規模的數據科學項目。成立該項目的目的是確保爲學生和畢業生打下良好的技術基礎，讓他們知道需要使用哪些工具。我們希望爲他們的職業生涯做好准備，無論是創造性的思維，還是批判性的技能和思維。工具是不斷變化發展的。希望你能夠就此給出一些建議。

奧特曼：我非常贊同這一點，我認爲批判性思維是創造力，是發現他人需求的能力，是産生新想法的能力。從某種意義上說，這將是未來最有價值的技能。想象一下，未來人工智能助手在整個公司無處不在，它們爲我們完成任務，幫助我們表達我們的願景，並爲他人制作東西，屆時最重要的是創意的質量和創意的策劃。

世界上最重要的是創意的質量和創意的管理，因爲人工智能可以産生許多偉大的創意，但仍然需要有人來確定這是其他人想要的東西。我認爲人類真的很關心事物背後的人，所以當我讀一本書時，我做的第一件事就是去讀一讀作者的簡介。如果讓人工智能閱讀這本書，情況就會有點不同。如果我正在使用某家公司的産品，我想知道創造它的人的情況。所以我認爲從兩個方面來看，人類知道其他人想要什麽，人類也關心某些東西背後的人類，這將是一項超級重要的技能。我認爲學習這種創造的能力，以及從人工智能提供的衆多選項中挑選出合適的方案，這將非常有價值。

我同意你的觀點，工具將發生變化，但我也認爲熟悉當今的工具和使用計算機的新方式非常重要。這對每個人都很重要，不僅是工具制造者，而且每個人都喜歡過去的方式。如果你不能使用手機，對你來說是一個巨大的劣勢，但它們並不那麽難用，人們會學習，但在你的職業生涯中你越早熟悉它，你就越了解生活。在座的所有人都很熟悉手機，可能從你記事起就如此。但我記得我第一次看到老年人使用手機的情形，他們難以適應，就像我想象的那樣直觀。

我認爲人類的適應性是值得注意的，因此我很高興人們不再認爲與計算機交談是一件難事，因爲它就像與人交談一樣。計算機可以理解我們，與我們交談，並爲我們做事。但是兩年前，幾乎沒有人認爲這在不久的將來是可能的。兩年前，使用ChatGPT充其量只是科幻小說中才有的情節。如果你在當時告訴全世界，兩年後它將成爲人們日常生活的一部分，我想他們會不相信，因爲這是好萊塢電影才會有的橋段。

這是世界剛剛經曆的一個重大變化。我認爲這可能是肯定的。這是自手機觸摸屏以來我們使用電腦方式的最重大變化。我認爲它可能會比觸摸屏帶來的變革更大。你將能夠像告訴朋友或員工一樣告訴計算機，我需要這件事發生或者你對此有什麽看法？或者你能幫我解決這個問題嗎？亦或者你對這個問題有什麽看法？現在它可能會像寫一些代碼，爲你編輯一篇論文，幫助你分析問題，但有一天它會爲你編寫一個完整的程序，爲你做一個完整的研究項目，幫助你提出新的構想。這一天不會在遙遠的未來，所以我認爲這是一件非常重要的事情。

薩瑟蘭：我上周參加了一場關于移動計算的國際會議。在這次會議上，關于ChatGPT的討論占據了相當多的時間。有人當時問了一個與ChatGPT相關的問題：人類社會正處于一個變革時代。這不一定是因爲ChatGPT是技術天才開發的，而是因爲它是變革性的，無論是准備STEAM考試的學生、人文學科的學生、家庭主婦還是中學生，它對每個人來說都易于使用。與會的研究人員在當時的會議中認爲，我們正在經曆一個變革性的時刻，幾乎就像互聯網剛推出時一樣。你對此有何看法？

奧特曼：我將分兩部分回答這個問題。首先，我同意這種轉變的量級，因爲正在發生的事情是我們正在從一個智力有限且昂貴的世界走向一個豐富且廉價的世界。想一想，如果你有大量的認知勞動可以支配，你可以做多少事情來建立你希望看到發生的構想，對其他人有用，提供服務和建議。現在你可以雇人，你可以協調他們。這有點困難而且非常昂貴，世界上大多數人都負擔不起這麽多。我們把這個稱之爲認知服務，就像是沒有多少人能負擔起優秀的律師的費用。例如，這是一種非常專業、非常昂貴的認知服務。如果這樣做的成本降低了100倍或10000倍，而且不僅僅是法律咨詢，因爲我認爲沒有人需要更多的法律咨詢。但是對于所有我們想要的東西，偉大的娛樂，偉大的産品和服務，其他一切，偉大的教育，偉大的醫療保健。這對世界來說是一個深刻的轉變。我們對此感到非常興奮，我認爲每個人都可以感受到這種轉變的幅度。

你的第二點實際上是一個我被問了很多次的問題，我認爲這是一個很好的問題。我在Y-combinator學到的一件事是，就像一個研究技術曆史的孩子一樣，在使技術易于使用和獲取的問題上，你永遠不會走得太遠。你可以創造一種技術，讓也許兩倍的人使用它，或者讓他們使用它兩倍的時間。所以我們有了這項我們認爲非常酷的技術。我很清楚人們會有多喜歡它，但我們有一種感覺。我們首先在API中發布了它，就像一些技術人士玩得很開心一樣，但不是很多人。這是一種未知的世界。

我們把GPT-3放入API。大概是2020年6月或是7月，人們開始用打孔機給電腦編程。我不知道那些人是怎麽做到的。我覺得這聽起來很神奇。很瘋狂，但他們做到了。我們開始思考什麽是最好的、最簡單的、最自然的用戶界面？現在終于，我們變得越來越像我們與世界互動的方式。許多人開始使用它，我們知道如何指向事物，鼠標是一個合理的類比。鍵盤有點假，但也夠好了。這種想法是，我們有這些像窗口和圖形信息顯示給我們，就像我們看世界，我們看屏幕，有圖像都可以工作。

智能手機在當時是一場巨大的革命，讓我們用手完成操作，徹底擺脫了鼠標和鍵盤。所以我們在想接下來會發生什麽，科幻小說已經預測到了這一點，所以我們不應該像現在這樣花這麽長時間來搞清楚。但你真的只是想要一台能和你對話的電腦，就像你和人類對話一樣。我們非常善于使用語言以及語言的細微差別和複雜程度。雖然還不精確，還存在問題，但我們可以在很高的帶寬下用語言交流非常複雜的想法。聊天界面本身顯然很瑣碎，但問題是我們如何調整底層模型？

觀衆提問：大家好，我是卡米拉·阿馬斯（Camila Armas），來自北卡羅萊納州羅利。我是政治學專業的大一新生，也是人文和社會科學學者項目Analo Core的一員。我的問題是，隨著人工智能技術最近的蓬勃發展，許多隱私問題已經引起了人們的關注，這項技術的許多數據來自那些沒有同意在這些項目中使用的來源，並且當被使用時也沒有得到認可。在創建OpenAI和開發ChatGPT的過程中，你是否意識到了這些問題？目前是否采取了任何措施來解決這些隱私問題？

奧特曼：從知識産權的角度來看，從訓練的內容中學習，但不要記住內容，我們認爲這是非常重要的知識産權原則，我們不應該盡最大可能重複內容。這很難做到完美，因爲《華爾街日報》的文章在互聯網上被其他媒體轉載。盡管模型在努力學習，但在某些情況下它們可能會不經意地記住一些片段，所以我們想做的是建立技術，確保當這些模型爲用戶提供輸出時不會侵犯知識産權，並且我們會找到用新收入來源補償知識産權持有者的方法。我們已經開始與許多新聞機構或許多出版商達成許可協議。我認爲每個人都對這可能帶來的新收入來源感到興奮。

觀衆提問：作爲一名工程專業的學生，我知道我們希望看到更多的專業項目，尤其是機器學習。我只是想知道OpenAI是否真的接觸到更多邊緣化的大學機構，讓學生能夠參與人工智能的研究？

奧特曼：是的，我們有很多項目。我們會培訓學生擅長人工智能，我們希望一些學生畢業後能夠加入OpenAI。我們會培訓學生成爲人工智能研究員和人工智能工程師。

觀衆提問：我是一名霍華德大學商學院的創新教授。感謝你的到來，感謝你傾聽我們的聲音。我們正處于人工智能的發展初期，許多互聯網時代的先行者已經不再是領導者。我想知道你是如何看待OpenAI的不同之處？目前的市場競爭格局與上世紀90年代不同，所以我想問你是如何讓自己與衆不同的，並爲OpenAI描繪出一個將持續20年或30年的未來？

奧特曼：這是一個很好的問題，我一直在思考這個問題。很明顯，很難得到反饋。我們采用基本模型，並讓它以某種方式運行。我們還需要決定它應該如何運行，然後讓人們說這是一個好的響應，這不是一個好的響應；或者這符合規範，這不符合規範。在所有這些步驟中，非常重要的一點是，找出讓社會認同的行爲，確認它們應該是什麽樣的。我知道我已經提過這事兒幾次了，但這是一個巨大的挑戰，要做到這一點需要各種各樣的聲音。我認爲這對該領域的發展至關重要。

觀衆提問：我是這所大學的一名理科碩士。我的問題實際上傾向于通用人工智能（AGI），因爲人工智能未來會成爲通用人工智能，人工智能如何擁有情感或能夠自我學習。這是潛在風險的來源。人工智能實際上擁有情感。我一直很喜歡這種潛在風險。所以我想知道就OpenAI而言，在通用人工智能的問題上會如何平衡風險和收益？

奧特曼：這可能是我們想得最多的事情。我認爲通用人工智能目前就像一個模糊的術語，人們以許多不同方式使用它。你問的問題我認爲更接近于我所說的超級智能，不是可以做人類可以做的工作，而是可以做研究的東西。OpenAI的研究人員如何思考當我們達到那個水平時，世界會是什麽樣子，以及如何確保我們面對系統風險，這很難做到。我們有新團隊來幫助我們思考，爲未來世界做好准備；也有技術安全工作來思考如何確保人類保持對更先進模型的控制。這是一件大事，真的很重要，它將會以一種巨大的方式影響我們所有人，我們需要共同決定如何平衡這些風險和利益。

觀衆提問：我們會在什麽時候達到通用人工智能的水平？

奧特曼：這很難說，我不太願意給出答案。我總是很樂意預測未來會發生什麽，但特別是在研究方面，這非常困難。但我想說的是，在本世紀20年代，我們會有非常強大的系統。我想把它稱之爲通用人工智能，這是它的一個版本。在20年代將會出現早期版本。這是我的猜測，但可能會更長。

觀衆提問：我來自澳大利亞，主修榮譽管理專業，輔修非洲研究。我的問題是OpenAI計劃如何保護和支持工人的心理健康？這些工人從事著從OpenAI系統中標記和刪除有毒或暴力內容的工作，而且這項工作通常由有色人種完成。

奧特曼：我們正在盡可能地與自己的團隊成員合作，在我們能夠更好地控制所提供的支持時做更多的工作。我們能做的最好的事情是使用這些人工智能工具，來確保人類不必看到最糟糕的內容或 與最糟糕的內容和工具互動。這些工具可以幫助人類獲得更好、更輕松的體驗，同時産生相同或更大的影響。我認爲這是我們可以爲提供這種反饋的人做的一件新事情。

觀衆提問：你認爲OpenAI和人工智能將在加強協作式教育，以及人類未來如何通過人工智能學習的方面會發揮什麽作用？

奧特曼：這是我們最興奮的幾個領域之一。學生和教師是ChatGPT的第一批大規模采用者，他們在做的每一步都繼續給我們帶來驚喜，這已經對教育産生了非常大的影響。事實上，很少有學生付費使用GPT-4，他們中的大多數人仍只是使用免費版本。GPT商店已有許多的教育GPT，我認爲這是很好的教育體驗。我們可以看到一條通往每個學生都能獲得出色的人工智能個性化導師的道路，這將改變他們的學習方式。學生仍然需要人類教師來提供大量支持，但ChatGPT可能會放大教師的能力。18年後的每一個大學生都比在座的任何一位新生都要聰明，我認爲這將是一個巨大的勝利。（編譯/無忌）