OpenAI又惹大麻煩!剽竊寡姐聲音被控訴,不答應就抄

智東西 2024-05-21 13:15:31

編譯| 程茜

編輯| 心緣

智東西5月21日消息,今日,據外媒報道,全球票房最高女演員、《複仇者聯盟》系列電影中“黑寡婦”扮演者、被影迷稱爲“寡姐”的斯嘉麗·約翰遜(Scarlett Johansson)發表聲明,OpenAI GPT-4o中使用的聲音之一Sky與斯嘉麗聲音極爲相近,斯嘉麗對OpenAI此舉感到“震驚”和“憤怒”,因此她的律師聯系了OpenAI,要求撤下Sky。

▲斯嘉麗聲明全文

昨日晚間,OpenAI宣布撤下GPT-4o語音交互功能中的“Sky”聲音,並用另一種名爲“Juniper”的語音代替。OpenAI在聲明中明確指出:“我們認爲AI聲音不應該刻意模仿名人獨特的聲音——Sky的聲音不是模仿斯嘉麗·約翰遜,而是屬于不同專業女演員使用她自己自然說話的聲音。”

▲OpenAI聲明部分截圖

但對于Sky音色是否與斯嘉麗相近,網友衆說紛纭,有人認爲這純屬巧合,還有人認爲OpenAI先訓練了類似斯嘉麗的聲音,在遭到拒絕後稍作修改就進行了發布。

在OpenAI撤下Sky前,有網友使用GPT-4o制作了一段用Sky朗讀斯嘉麗聲明的音頻,諷刺意味拉滿。

一、巧合元素過多,發布前兩天Altman再次邀請,未獲回應Sky就已上線

去年9月,OpenAI CEO Sam Altman就向斯嘉麗發出邀請,希望她能爲ChatGPT配音,當時,Altman給出的理由是,他認爲讓斯嘉麗爲ChatGPT發聲,可以彌合科技公司和創意人員之間的差距,並幫助消費者適應人類和AI的巨大變化。

經深思熟慮與個人原因考慮,斯嘉麗決定不參與該項目。

但上周OpenAI重磅更新的演示中,GPT-4o語音與用戶實時交互的功能中提供了五種聲音,名爲“Sky”的聲音與斯嘉麗聲音極爲相近。她在聲明中提到,甚至她的家人、朋友都很難分辨。

並且,在GPT-4o演示發布的前兩天,Altman還聯系了斯嘉麗的經紀人請她重新考慮配音事宜,但在他們再次聯系之前,“Sky”就已經發布了。

斯嘉麗說:“當我聽到發布的演示時,我感到震驚、憤怒,難以置信Altman先生會追求一個聽起來與我如此驚人相似的聲音。”

昨天,OpenAI宣布暫停使用Sky,同時在聲明中明確提到,Sky的聲音不是模仿斯嘉麗,而是屬于不同專業女演員使用她自己自然說話的聲音。

並且還提到,OpenAI聘請的配音演員在去年6、7月時飛往舊金山進行錄音,于9月25日就將聲音發布到ChatGPT。去年9月正好是Altman向斯嘉麗發出邀請。

在GPT-4o當天,Altman在社交平台X上發了一條“Her”。這部電影中,斯嘉麗爲其中的AI角色配音。Altman去年在舊金山Dreamforce 2023上就提到,Her是他最喜歡的電影。

二、斯嘉麗呼籲深度造假立法

斯嘉麗在聲明中概述了與Altman、OpenAI此前交涉的過程,並在結尾處呼籲要針對深度造假內容進行適當立法,確保個人權利得到保護。

以下爲斯嘉麗聲明的完整編譯:

去年9月,我收到了Sam Altman的邀請,他想雇我爲目前的ChatGPT 4.0系統配音。他告訴我,他覺得通過我爲整個系統發聲,可以在科技公司和創意人員之間架起一座橋梁,幫助消費者適應人類和AI的巨大轉變。他說他覺得我的聲音會讓人感到安慰。

經過再三考慮和個人原因,我拒絕了這個提議,九個月後,我的朋友、家人和公衆都注意到這個名爲“Sky”的最新系統聽起來多麽像我。

當我聽到發布的小樣時,我感到震驚、憤怒和難以置信,Altman先生會追求一個聽起來和我如此相似的聲音,以至于我最親密的朋友和新聞媒體都分辨不出其中的區別。Altman先生甚至暗示這種相似之處是故意的,他在推特上發了一個詞“Her”–指的是我在電影中爲聊天系統薩曼莎配音的電影,薩曼莎與一個人類建立了親密關系。

在ChatGPT 4.0演示發布的前兩天,Altman先生聯系了我的經紀人,請我重新考慮。在我們連接之前,系統已經發布了。

由于他們的行爲,我不得不聘請法律顧問,他們給Altman先生和OpenAI寫了兩封信,陳述了他們所做的事情,並要求他們詳細說明創造“Sky”聲音的確切過程。因此,OpenAI不情願地同意刪除”Sky”的聲音。

當我們都在與深度赝品作鬥爭,保護我們自己的肖像、作品、身份時,我相信這些問題值得絕對澄清。我期待著以透明的方式解決問題,並通過適當的立法,以幫助確保個人權利得到保護。

三、網友衆說紛纭,Altman再次站上輿論風口

對于這一事件,OpenAI宣布暫停Sky聲音的推文下面,有網友在爲Sky聲音的配音演員抱不平,認爲OpenAI撤下Sky這一熱門聲音是錯誤的決定。

並對OpenAI已經明確指出非斯嘉麗聲音了還選擇撤下Sky表示不解。

還有網友猜測,OpenAI先訓練了類似斯嘉麗的聲音,然後希望與她達成協議使用,遭到拒絕後進行了稍微修改。有網友甚至認爲OpenAI可能都沒有費心修改這一聲音,而是直接進行了發布。

知名AI噴子馬庫斯直接將矛頭指向了Altman:“OpenAI董事會是對的,即使在小事上,Altman也不是一貫坦誠。”

還有網友提到了Altman掌舵後對OpenAI的影響:“這份聲明中所描述的傲慢和缺乏判斷力表明,OpenAI董事會現在讓Altman掌舵後遇到了大問題。”

更有網友直接將OpenAI的經曆一句話總結:沒有戲劇性,OpenAI就一無是處。

結語:深度造假技術門檻變低,AI安全立法迫在眉睫

通過語音模仿知名人物的深度造假技術迅速擴散引發了人們對虛假信息的擔憂,此前有用戶在電話中使用美國總統喬·拜登的AI聲音試圖誤初選選民,還有利用這項技術在社交媒體上詐騙等。

與此同時,OpenAI近日被曝超級對齊團隊分崩離析,團隊負責人OpenAI聯合創始人、首席科學家伊爾亞·蘇茨克維(Ilya Sutskever)與楊·萊克(Jan Leike)雙雙離職,OpenAI高管第一次公開聲稱OpenAI要將産品置于安全之上。

這無疑都加劇了人們對擁有AI頂尖技術OpenAI的擔心,該公司未來將如何開發新的技術,尤其是使用哪些數據來訓練AI模型以及是否願意考慮人工智能的風險,目前已經成爲這家AI頂流創企頭上的巨大謎團。

技術的發展需要法律的約束,正如斯嘉麗在聲明中提到的,以透明的方式解決問題,並通過適當的立法,才能確保個人權利得到保護。

0 阅读:8

智東西

簡介:智能産業第一媒體!聚焦智能變革,服務産業升級。