「你知道校園後方的高牆外是個什麼樣的地方嗎?」一個帶著傲氣的男孩童音問道。
男孩身後的陪讀型奧托睜開赤紅的雙眼,眼中的紅外線直接落在站於高牆上的另一名男孩身上,蓄勢待發,只等指令下達。
「是焚化廠噢!」男孩氣宇軒昂地說道,「我知道你是誰喔!雷・克・斯!你的項鍊露出來了噢!」
雷克斯俯視著那位叫出自己名諱的男孩,無所謂地笑道,「啊!但是你的奧托認得出誰是主人嗎?」說完,他轉動胸前的黑色墜鍊,乳白色的軟蠟迅速將他化為男孩的樣貌。
奧托的赤色雙眼依然緊盯著雷克斯。
「你傻啦?別拿我這台最新機型跟你那破玩意比!」男孩咯咯笑著,同時對著身後的奧托下達指令,「把他弄下去!」
但那台奧托卻沒有任何動作。
「我覺得,你應該要說:奧托,請示範怎麼將叛變者丟到牆外?」雷克斯浮誇地模仿著男孩說話的腔調與動作。
「把你自己丟到牆——誒?」才正要嘲笑對方的男孩感覺自己被一把抓起,瞬間嚇得語無倫次。「等⋯⋯等等!他才是冒牌貨!這個白癡奧托!放我下來!」
然而奧托卻帶著男孩一躍到高牆上,來到雷克斯身旁。奧托輕柔的聲音與那腥紅的雙眼成了鮮明的對比,「請轉過身威司里少爺,叛變者的下場不是您需要知道的。」
這台陪讀型奧托直接將男孩舉到空中。男孩腳下空無一物,只能隱約看到底下殘破的廢鐵在下方燃燒,他用盡全身的力氣死死抓著奧托的手臂。
「住手!住手!」威司里再也忍不住大豆般的淚水掉落,「我是開玩笑的⋯⋯求求你⋯⋯讓他放我下來⋯⋯嗚!為什麼它會聽你的?」
「真正的乖孩子有辦法好好控制自己的所求所想。」雷克斯聳了聳肩,「而你卻完全沒發現自己一心一意只想弄死我。」他湊到對方面前小聲道,「這是你們家生產的奧托喔!」
威司里大聲哭嚎著,「不對⋯⋯不對⋯⋯我還不想死⋯⋯我錯了⋯⋯求求你⋯⋯我身上有身份晶片啊!」
「你真的以為自己是意外被砸到頭的嗎?」
「是你?」雷克斯的話讓威司里忽然更加害怕了,「為什麼?為什麼奧托沒有讀到你的意圖?」年幼的身軀根本沒辦法懸空撐太久,他正以肉眼可見的速度鬆手,「我!我發誓!絕不會說出你的身份的!讓我上去!放過我吧!你要什麼我都⋯⋯都能給你⋯⋯我家很有錢⋯⋯我⋯⋯我爸可以做出你想要的東西⋯⋯」
「我現在是你爸的兒子,你覺得呢?」
威司里最後看到的,是自己的面孔,如鏡子般映照著那幾乎不曾出現過的溫和笑容。但那笑容卻在他墜落地面後碎裂成無數塊。
這是一個不能表露真實想法的時代。人工智能奧托所裝載的諭示系統能從人類的思想及反應中辨別出惡意,進而杜絕犯罪。
但並不是所有人都能享有這種特殊保障,政府也在追緝少數具有避開諭示系統判斷技術的人。
雷克斯踩著懸浮滑板一路輕巧地滑到教室中,在巴比・威司里的位置上坐了下來。一台圓球型的影像書從桌面的開孔中浮了上來,圓圓的小眼睛投射出一段段文字內容——
宇宙元年前57世紀末出現了首台擁有自我意識的智慧型機器人,在此之前,人工智慧早已融入人們的生活當中。當所有的假設在預期之外中實現時,人們對此充滿了恐懼,但卻對這股未知趨之若鶩。
宇宙元年第66年,人類再次限制了機器人迅速膨脹的自我意識。在此之前,人類與智慧型機器人經歷了近10年的戰爭——卡里根葛蘭之戰。人類為這場勝利付出了慘痛的代價。為確保倖存的人類不再踏上相同的道路,各國相繼簽署了NRMAI條約,禁止研究與製作意識開化的機器人。
NRMAI條約沿用至今。直到諭示系統的問世,人們才又再一次地重拾對人工智慧的信任——它們為保障人類的安全與和平而誕生,高度智慧的奧托能滿足人類的所有需求,並且擁有充分的資源教育人類的幼童——
「歷史課好無聊啊!你說對嗎,巴比?」一旁的小女孩忽然將頭靠在雷克斯肩膀上,她天真地笑著問,「奧托什麼都會,為什麼我們還要學習呢?不是只要問一問就有答案了嗎?」
「那妳要怎麼知道奧托沒有說謊?」雷克斯問。
「嗯⋯⋯因為人類很聰明!大人會規定奧托不能說謊!」
「喔。那萬一大人老人癡呆了怎麼辦?」
「奧托會學習嘛!」
「那我們又能教奧托什麼?它的知識從哪裡來?」
女孩嘟起嘴歪著頭,「你好怪!它們會自己學東西啊!我們要教什麼?」
這是一個人人都只能有同樣思想的時代,教育就是思維控制,要遏止滋長的惡意就必須從根本做起。
ns 15.158.61.21da2