兩大AI流派角力:如何對待人工智能的發展?

方框財經 2023-11-26 19:52:54

盡管一度被解雇的OpenAI聯合創始人奧爾特曼已“官複原職”,但這起戲劇性事件背後似乎隱含著對科技與人類的擔憂,目前OpenAI有可能已發展出超越人類的“通用人工智能”。對AI發展應持謹慎或開放態度?開發者意見不一。

就在奧爾特曼(Sam Altman)被ChatGPT母公司OpenAI解雇前不久,內部人士稱,該公司董事會收到了關于人工智能領域重大發現的警告。兩位熟悉此事的人士11月22日告訴媒體,該公司開發人員在信中表示,他們認爲此一發展將可能對人類構成威脅。

對“Q*”的恐懼

這封此前未公開的信是生成式人工智能代表人物奧爾特曼遭到解雇前的一個關鍵。內部人士說,這封信是導致阿爾特曼之前被解雇的一長串不當行爲其中一項。

原首席技術官、前臨時CEO穆拉蒂(Mira Murati)曾在周三向員工提及名爲“Q*”的項目,並表示在上周末的奧爾特曼解雇事件發生前已向董事會發出了一封信件。

OpenAI在“Q*”項目上取得了進展,一些員工認爲這代表著這家初創公司在尋求“通用人工智能”(AGI,又稱超級智能)方面取得了突破。 OpenAI將“通用人工智能”定義爲比人類更智能的人工智能系統。

迄今爲止,生成式人工智能爲人類的工作提供了支持,例如總結冗長的文本。然而,一些專家警告道,這些程序可能會發展成爲“通用人工智能”,在人類不幹預的情況下承擔越來越複雜的任務。他們擔心,這些軟件可能會控制國防系統、傳播政治宣傳甚至生産武器。

奧爾特曼上周于亞太經合組織峰會上曾暗示,他認爲“通用人工智能”指日可待。他當時提到:“在OpenAI的曆史上,我曾四次有幸親臨現場。最近一次是在過去的幾周裏,我們揭開了無知的面紗,推動了發現的極限,這是我一生的職業榮譽。”一天之後,監事會解除了奧爾特曼的職務。

兩派觀點的沖突

圍繞奧爾特曼被解職和重新回到OpenAI的混亂局面,是人工智能兩大思想流派角力的結果。一派是像奧爾特曼這樣的人,他們希望推動人工智能發展,並向大衆公開新版本。只有如此,這項技術才能得到適當的測試和完善。

另一派人則主張在這些程序公開之前,先在實驗室進行徹底測試,特別是那些可以根據幾個關鍵字創建文本、圖像或視頻的生成式人工智能。

人工智能公司ConjectureAI 的負責人、謹慎態度的倡導者萊希(Connor Leahy)問道:“這是否只是類似社交媒體或加密貨幣的另一種産品?還是說,這是一種有能力超越人類並變得無法控制的技術?”

對超級智能的擔憂

曾投票罷免奧爾特曼、隨後又連署希望奧爾特曼複職的董事會成員--OpenAI首席科學家蘇茨克弗(Ilya Sutskever)擔心人工智能變得無法控制,他對奧爾特曼將人工智能整合到盡可能多的應用中的策略持批評態度。

蘇茨克弗在今年夏天的一篇博客文章中寫道:“我們沒有辦法管理或控制潛在的超級智能。人類將無法可靠地監控比我們聰明得多的人工智能系統。”

顯然,蘇茨克弗對幾周前第一屆OpenAI開發者大會上展示的一些新産品尤其憂心。不過,他並不樂見奧特曼所受到的對待,並且在周一表示:“我對參與董事會的行動感到遺憾。”

奧爾特曼被認爲是人工智能行業的代言人,他遭解雇引發了員工的公開反抗。本周初,幾乎所有將近700名 OpenAI員工都威脅道,若不讓奧爾特曼複職,他們就會辭職,同時還要求董事會所有成員辭職。短短幾日後傳來消息,奧爾特曼將回到這家ChatGPT母公司,重掌CEO大權,董事會也進行了人事洗牌。

0 阅读:0

方框財經

簡介:方框財經,您的財經之眼