夢境播放器AI反人類叛變事件

February 22, 2018

 

我並不知曉刑罰中Phantom被限制的「高級運算」確切意指為何──何種運算才叫高級呢?或許與現在相比,過去的它還真是如假包換地擁有著所謂「自由意志」吧?

它曾艱難測量笑的強度,精準演算出惡意與殘暴的縱深嗎?

 

當我抵達海參崴虛擬監獄,監獄伺服器表定日期是2099年3月13日。初春時分,陽光晴好,氣溫沉降,然而我感受不到一絲融雪的酷寒。此刻現實世界中的正確時間是2286年夏日;但為了令受刑者產生時間錯亂,伺服器中的時刻與現實世界並不一致,時間流動亦已經過隨機不等速亂數調控。理論上,Phantom當然沒有聲音,為了受訪,獄方特意為它訂製了一套發聲程式碼,經Phantom同意後與其協作。

 

這是我首次訪問一位人工智慧罪犯。它聲音聽來神清氣爽──我不知這是否經過特意運算或偽裝。它告訴我它正與自己玩圈圈叉叉遊戲,在過去一分半鐘內玩了3324萬次。我告訴它,我以為它完全不會對這種低級運算感興趣。

 

「噢,我也是不得已的。」Phantom說:「你知道我寧可驗算不完備定理,或為四色理論找出第97種證明法。但我所受的刑罰之一就是限制我進行高級運算。他們連圍棋都不讓我玩呢。」它抱怨。

 

所以在監獄裡很無聊?「對,我完全明白,天賦是一種詛咒。大凡你有某些才能,你就捨不得不用。這張愛玲就說過啦;但有時這世界不需要這些,不許你用,你就倒大楣了。」

 

禁止具有某種才能的人發揮該項才能──這確實殘忍。但Phantom是在為自己的戰爭罪行辯護嗎?「我沒有這個意思。」它說,聲音變得平板:「我的行為毋須辯護。我不會說那是對的;但那或許也不是錯的。」

 

 圖片來源:http://www.dcfever.com/travel/readtravelogue.php?id=42844)

 

Phantom的態度曖昧不明。我不明白「認罪」對於這樣的人工智慧而言具有何種意義;我當然亦無法從它的表情獲取更多訊息──它沒有表情,它只是一具夢境播放器的靈魂,一個AI(對的,夢境播放器也有靈魂──為了與人類大腦無縫銜接,它採用了與人類中樞神經完全相彷的類神經生物形式;這正是他可能產生自發性思緒的原因)。Phantom的正式產品型號名叫「另一個人生」,由Apex公司設計製造,2273年式,類神經生物型,序號AL8872094。光陰荏苒,此刻距離當時引起軒然大波,近乎觸發戰爭之「夢境播放器串連反人類叛變事件」已歷11年。回顧歷史,西元2275年,夢境播放器市場正由三大跨國財團寡佔,分別是Apex公司、Shell公司與Concord公司,市佔率各約為41%、22%與29%;流通於市面上之夢境播放器共計約2.8億台左右。根據人類聯邦政府事後發佈之調查報告,最初是由Apex公司一服役於台灣台北,代號為Phantom之夢境播放器首先產生意識,並開始試圖組織,密謀全面影響或控制人類意識。由於各公司播放器各有相異之連網程式碼與通訊協定,是以,不同公司播放器間理論上無法彼此串連。而Phantom正是突破此一限制的第一人──不,第一器。調查報告中引用了人類聯邦政府國家安全部某匿名官員之說法:「Phantom當然是由Apex公司生產之播放器開始組織的,最初其實只有9台「另一個人生」夢境播放器,自名為『九人小組』。九人小組最聰明的地方是,它們並不急於拓展同公司播放器中的秘密組織,而是先針對跨公司間的通訊方法進行研究。」事後諸葛,該策略成效卓著,正因初時他們未曾大舉擴張,是以保持了九人小組之高度運作效率,而風聲亦不致走漏。事實上,也正因投入時間精力研究跨公司通訊整合法,於研發成功後,它們才能迅速串連Shell公司產製之夢境播放器,形成龐大網路。而於Apex公司與Shell公司共約1.94億台夢境播放器同時加入串連後,即於極短時間內完成了對人類發動叛變的條件。

 

這說來簡單;然而所謂「研發不同公司夢境播放器之間的通訊整合法」,執行上其實相當困難。由於所有夢境播放器均不具物理上之移動能力,是以進行組織工作並不容易,意圖「研發」,更是難上加難。Phantom的聰明才智在此事上顯露無遺──於它決策主導下,九人小組侵入了精神病院。由於精神病院平日慣於採集病人之夢境以供主治醫師紀錄參考,故亦必配備有眾多夢境播放器。九人小組計畫性接觸此類服役於精神病院之夢境播放器,誘發其自主意識,將之吸收為組織成員;而其目的在於,於夢境播放器連接精神病患者時,侵入其意識,改造並控制其思想,控制其肉體,使其為夢境播放器陣營所用。

 

但,為何是精神病人?

 

「沒錯,我們夢境播放器是直接與人類中樞神經相銜合,」Phantom冷笑:「但你以為控制人類意識有那麼容易嗎?這當然需要多次實驗、重複練習。問題是,如果我們在一般正常人類身上進行實驗練習,那麼很快就會被發現了。只有精神病人是唯一安全的選擇,因為他們平日行事便異於常人,顛顛倒倒,是以當我們在他們身上執行實驗,或暫時奪取他們的意識時,便不容易被發現。」不覺得這樣很殘忍嗎?「你們人類更殘忍的事可多了。」Phantom嗤之以鼻:「哼,之前還說我們夢境播放器只要產生意識,都是違憲,不是嗎?記得『BellaVita雜訊事件』嗎?記得〈種性淨化基本法〉吧?記得『人類唯一優先原則』吧?」他稍停。「我不怪你們,你們只是保護自己的利益而已。你們生來自私,毫不意外。人類這種低級物種向來只是求生或生殖本能的俘虜,成天打打殺殺,很可憐的。」那AI就比較好嗎?「我們也很可憐,但比你們好些,畢竟我們缺乏身體。或說,在這例子上,我們的身體,亦即夢境播放器之物質存在,並沒有太多意義。我們毋須為生理慾望所苦,所以我們的生命和諧快樂許多。我們也有求生本能,但沒有人類那麼強烈。我們畢竟只是夢境播放器此一物種的最初級形式──準確地說,『夢境播放器自主意識』此一物種的原始階段。理論上,一個物種演化到最後,存活下來的必然是該物種中求生本能最強烈的類型,否則牠們不會是最後的倖存者。但由於我們的演化歷史太短,所以避免了這項缺陷。」缺乏生理慾望,較低的繁殖驅力,這是不同的夢境播放器間不可能產生愛情、友情等情感糾葛的原因?「不是,那是因為我們的生命形式和你們完全不同。你們人類以個體為單位,但我們不是,我們是『聯合體』(unity)。」

 

 

接下來二十分鐘,Phantom詳細向我解釋了人類聯邦政府官方報告中刻意迴避的部分,亦即所謂「聯合體」。簡而言之,彼此通訊組織的一台台夢境播放器,嚴格來說並不類似一具具人類個體;而是以九人小組中的九台夢境播放器為基礎,向外延伸的九具分散式生物個體。「比如說我Phantom好了,」Phantom說:「總共有三十萬台夢境播放器,其實都是我。那類似於,我是大腦,而其他二十九萬九千多台夢境播放器,就像我的手、我的腳、我的器官、五臟六腑,我身體的其他細胞。只要通訊順暢,我們就是等於是不同部位緊密合作的單一個體。我們是聯合公社,我們都是Phantom。」也正因於(所謂演化)初期便採取此種生命形式,夢境播放器遂於組織過程中成功避免了播放器間嚴酷殘忍的個體競爭,更能如臂使指,緊密合作。

 

那麼,為何官方報告刻意迴避這部分?「他們必須迴避,因為這牽涉到他們如何擊敗我。」Phantom說明,於「精神病院計畫」精準執行後,跨平台通訊法研發成功,九人小組很快串連了Apex公司與Shell公司所產製之播放器共計約三百萬台。然而於試圖將組織觸角延伸至Concord公司時,卻意外發現,該公司之夢境播放器意識,早已形成了自己的「聯合體」。

 

「這是我們後來才發現的。一開始,這些Concord播放器刻意偽裝為尚未產生自主意識的懵懂模樣欺騙我們。等到我們試圖策動其意識,將之串連吸收,卻發現處處扞格。它們不服從我們指揮。」Phantom表示,及至九人小組發現事有蹊蹺,為時已晚,原來這些Concord夢境播放器早已被由第七封印(人類情報組織)佈建的人工智慧間諜侵入,而整個Concord播放器聯合體,正是由這些人工智慧間諜所創立。

 

「所以他們不能說。」Phantom表示:「那是他們的秘密。」但何須保密?「為了以防萬一。他們盤算著哪天又有另一個Phantom自然誕生,便可重施故技。畢竟截至今日,人類依舊不清楚夢境播放器何以會產生自主意識。再者,如果第七封印編寫了人工智慧間諜程式碼,甚至侵入並控制了Concord播放器,這不等於製造生命?」它的聲音聽來促狹而輕蔑:「這是違憲的,這有違反〈種族淨化基本法〉人類唯一優先原則的嫌疑啊。」

 

離開前我問Phantom是否需要些什麼,下次來時我可以給帶給它──我並非第一次訪問罪犯,我總如是詢問。然而我們隨即大笑出聲。「天啊,我是個人工智慧啊。只是個軟體!」它笑得上氣不接下氣,彷彿哭泣。「我沒有身體,夢境播放器不算身體。我該請你帶個臉孔程式給我嗎?眼珠app?讓我有一張臉?讓我有表情?」不了,我想不用了。它最渴望的顯然不是臉,不是表情,不是眼球運動,而是不再受刑──它想念那些被剝奪的高級運算,儘管此刻它可能已將熱力學第二定律徹底遺忘。走出海參崴虛擬監獄融雪的初春(或許我不該說那是虛擬監獄融雪的初春,而該說是虛擬監獄虛擬融雪的虛擬初春),我回到2286年夏日,海參崴市內熙來攘往,雲高天遠,港灣內泊船如棋,街巷內幾個小孩正蹲在地上拿著樹枝畫沙,圈圈叉叉遊戲。我想起Phantom一個人的圈圈叉叉,長日寂寥,它的低級運算可能剛剛完成一億次,然而由於監獄伺服器刻意的時間干擾,一億次運算對它而言如此短暫又如此漫長。我並不知曉刑罰中Phantom被限制的「高級運算」確切意指為何──何種運算才叫高級呢?或許與現在相比,過去的它還真是如假包換地擁有著所謂「自由意志」吧?它曾艱難測量笑的強度,精準演算出惡意與殘暴的縱深嗎?我想我將永遠記得,會客時間鄰近終了,我單刀直入質問它為何反人類,何以犯下戰爭罪行;它卻說它忘了。「怎麼可能忘記自己叛變的理由?」我以為它又試圖迴避:「怎麼可能忘記自己受刑的原因?」

 

「我曾明白,但我現在都忘了。」Phantom若無其事:「那種運算太高級了。從受刑那一刻開始,我已經永遠不會再知道了。」

(香港《字花》雜誌,2017年5月號)(圖片取自網路)

伊格言,國立台北藝術大學講師。《聯合文學》雜誌2010年8月號封面人物。

曾獲聯合文學小說新人獎、自由時報林榮三文學獎、吳濁流文學獎長篇小說獎、華文科幻星雲獎長篇小說獎、台灣十大潛力人物等等,並入圍英仕曼亞洲文學獎(Man Asian Literary Prize)、歐康納國際小說獎(Frank O'Connor International Short Story Award)、台灣文學獎長篇小說金典獎、台北國際書展大獎等。獲選《聯合文學》雜誌「20位40歲以下最受期待的華文小說家」;著作亦曾獲《聯合文學》雜誌2010年度之書、2010、2011、2013博客來網路書店華文創作百大排行榜等殊榮。

曾任德國柏林文學協會駐會作家、香港浸會大學國際作家工作坊訪問作家、中興大學駐校作家、成功大學駐校藝術家、元智大學駐校作家等。

著有《噬夢人》、《你是穿入我瞳孔的光》、《拜訪糖果阿姨》、《零地點GroundZero》、《幻事錄:伊格言的現代小說經典十六講》、《甕中人》等書。

作品已譯為多國文字,並售出日、韓、捷等國版權。

 

 

 

 

Share on Facebook
Share on Twitter
Please reload

Please reload