一場史無前例的太空謀殺案

時空記1994 2024-03-15 13:36:26

近日有曆史意義的一則新聞是:ChatGPT有身體了!

據報道,這種機器人能與人類全面對話,還能自主決策。

也許,未來的某一天,我們會以曆史的口吻這诠釋這一刻對整個人類文明的意義。

但是目前,就我個人而言,我只感到一種不安和恐懼。

而我對人工智能的恐懼,最早則來源于一部電影——庫布裏克的《2001:太空漫遊》。

在這部電影裏,最驚悚的就是那一場史無前例的太空謀殺案。

在一艘太空飛船上,機器人哈爾9000報告說自己檢測到一個設置故障,該裝置將在72小時之內失效。然後,兩名宇航員聽從NASA命令,出艙更換。結果把這個裝置拿回來檢測,發現它沒有任何故障。于是,兩名宇航員開始懷疑機器人哈爾9000可能出錯了。倆人背著哈爾9000在一個斷電的艙室內談話。沒想到,哈爾9000竟然懂唇語,它很快破解了兩人的談話內容。

當機器人哈爾9000得知兩名宇航員懷疑自己,並且計劃將關閉自己時,它展開了一系列的“太空謀殺案”:它先是殺死了一名出艙作業的宇航員,然後又殺死了三名冬眠中的宇航員。最後整個宇宙飛船裏只剩下唯一的一位宇航員大衛。當大衛得知他的同伴都被哈爾殺死了後,憤怒的哈爾前往後台主機艙,給哈爾9000徹底斷線,才保住了自己的性命,最終終止了這場機器人“太空謀殺案”。

這個片段恐怖的點,不在于哈爾無所不知,甚至懂得腹語,而在于哈爾竟然有自己的思維能力。它能自己策劃一場精密的謀殺,懂得如何撒謊,並且能夠高效的一一實施這場“謀殺案“。

而在事情敗露後,它能第一時間向大衛低頭認錯,表示自己做錯了,請求大衛再給它一次機會,饒它一命,它保證以後再也不會犯錯。

當大衛一個一個切斷它的電源時,它感到恐懼,並向大衛真切的表達了這種恐懼。當它用顫抖的斷斷續續的聲音反複說著:“大衛,請停下,我好害怕”、“大衛,我能感覺到我的生命正在消失”,最後,它甚至唱起了歌,這一刻你會忍不住同情它,覺得它好可憐,大衛反而顯得有些殘忍。好在,宇航員大衛並沒有因此心慈手軟,因爲在這個過程中,但凡他有一丁點的心思手軟,他都會命喪哈爾之手。

這才是最恐怖的一點。機器人哈爾不僅有了人的思維能力,還能模仿人的情感,並且它能狡猾的利用人的情感弱點來達成它的目的。

而這一切究竟是怎麽造成的呢?

這一切當然都是人造成的。

當大衛在最終切斷哈爾的電源時,看到NASA高層的一段事先錄好的視頻,在視頻中,這位高層說,此次太空任務因爲太過重要,所以只有哈爾一機器人知道事情真相:此前在木星發現了一個塊400萬年曆史的黑石碑,它的起源與來曆至今是謎,需要各位一探究竟。

所以說,這場“太空謀殺案”的罪魁禍首還是人類自己。

因爲這次太空任務真相只有哈爾一個人知道,哈爾操控了整個宇宙飛船,而人們給它下達的指令又是必須完成任務。所以,哈爾爲了完成任務,才想出了這場“太空謀殺案”。

問題是,爲什麽這麽重要的人物只有哈爾一個機器人知道真相呢?

這是因爲人了解人性,了解同類,知道“只要是人就會犯錯”,而機器人不會犯錯。

所以,相比同類,人覺的機器人更可靠。也就是說,人更相信機器人,也更依賴機器人。

人對人類自身的不信任,才導致了這場史無前例的“太空謀殺案”。

庫布裏克預言,這可能是人類文明所要面臨的新危機:人類文明的的起源在于我們學會了使用工具,人類文明的危機在于我們過于依賴工具。

如今看來,庫布裏克的預言似乎已經成真了。

0 阅读:0

時空記1994

簡介:時空無限,光影留痕。