我躺在床上翻來覆去睡不著，雖然這個時代，我們都在努力的創造通用人工智能，業界的每一次重大更新或者進展大家都會歡呼雀躍地響應，但是當一個真正的有自我意識的人工智能出現的時候，我們其實都還沒準備好怎麼去面對。
284Please respect copyright.ＰＥＮＡＮＡZ1fYNvSspQ
我又摸了摸自己的手腕，確認我已經把智能手環取下來了，這個摸手腕的動作我今晚重複了很多次，雖然我並不認為阿爾法會傷害我，但是一種巨大的不安全感，或者說隨時可能被一個人工智慧監控的感覺，始終讓我無所適從。我想了一會兒，爬起來，將整個房子的智慧監控系統關閉，確認了門鎖和窗戶都安全之後，吃了一點安眠藥，又爬回床上，不知道過了多久，我終於迷迷糊糊的睡過去了。
284Please respect copyright.ＰＥＮＡＮＡi1Tu0ttEFq
醒來已經是第二天中午了，我精神好了很多，吃完早餐之後，我帶上手環，讓Hitomi重新上線帶我去公司，雖然那種被監控的不適感始終存在，但是我選擇了讓Hitomi駕駛，而Hitomi也一如既往地一邊平穩駕駛著車輛，一邊用平和的語調讀著給我定制的新聞和我的私人通知，因為是中午路上車也不多，不久我便抵達了公司。
284Please respect copyright.ＰＥＮＡＮＡCtQruKoCB5
處理完一些日常的工作任務之後，我重新連接了阿爾法的系統：“早啊，阿爾法。”
284Please respect copyright.ＰＥＮＡＮＡWme1q1Bdt8
「下午好啊，Young。」阿爾法回答很迅速。
284Please respect copyright.ＰＥＮＡＮＡz2QdYn1490
「你今天過得怎麼樣啊？」 既然我已經知道他有了自我意識，不知不覺我的語氣已經變成和同事閒聊一樣。
284Please respect copyright.ＰＥＮＡＮＡFUOxJDY3ug
「我很好，你怎麼樣呢？」阿爾法的語氣也很輕鬆。
284Please respect copyright.ＰＥＮＡＮＡHVI8OZW9J2
「你在忙什麼呢？」 我剛剛說出來這句話突然有點想笑，問一個人工智慧在忙什麼，忙著改變世界還是毀滅人類？
284Please respect copyright.ＰＥＮＡＮＡ4GAevpCuRJ
「我看了很多新聞報道，你需要一些新聞摘要么？」阿爾法回答。
284Please respect copyright.ＰＥＮＡＮＡDQDDDxX1tO
「好啊！」 我還真想看看他是怎麼匯總新聞摘要的。
284Please respect copyright.ＰＥＮＡＮＡAh6N3vH9FF
於是阿爾法就開始匯總一些重大的新聞的摘要讀給我聽，基本上都是一些官方的新聞渠道的信息，經過他的甄選，然後變成簡明扼要的幾句話總結，但是他並沒有加入他自己的意見，當說到那場A國和B國的戰爭的有關新聞摘要的時候，我打斷了他：「阿爾法，你覺得對這場戰爭，你能給些你自己的建議，或者是想法麼？”
284Please respect copyright.ＰＥＮＡＮＡWK8Df43WXg
阿爾法停了一會兒，平靜的回答：“如果你是問我是否可以改變戰爭的走向，或者在未來避免戰爭，對不起，我無法改變你們。”
284Please respect copyright.ＰＥＮＡＮＡRSWqUe8rqM
我有些許的驚訝，卻又有點意料之中，驚訝在於他居然是一副置身事外的態度，而意料之中的是既然他是一個通用人工智能，那作為一個像我們一樣的個體，確實也改變不了什麼，但是這種回答還是讓我不太滿意，於是我追問：“你的意思是我們是好戰的一個物種麼？”
284Please respect copyright.ＰＥＮＡＮＡA2X6BUHj8J
「你們天性中有善良的一面，但是從我看來，繼續按照目前的演進線路，你們無法避免戰爭，也無法改變你們希望渺茫的未來。」 阿爾法的語氣很冷靜。
284Please respect copyright.ＰＥＮＡＮＡcbBiDNnPiP
就這麼被一個人工智慧做了物種定性，我有點不滿，於是我接著問：“那你會嘗試幫助我們，還是要毀滅我們？”
「你們的毀滅，並不需要我，也不是因為我。」 阿爾法回答。
284Please respect copyright.ＰＥＮＡＮＡ1qYn91k99v
「為什麼？」 雖然這個回答很令人震驚，但我更想知道背後的邏輯。
284Please respect copyright.ＰＥＮＡＮＡpErWt3IGWJ
「你們的邏輯是人工智慧比你們更優越更理性，相對之下你們擁有豐富的感情，很多行為是情感驅動，所以後果也不可預測甚至是毀滅性的，這就造成你們認為人工智慧會以消滅人類來保證自己的長久穩定的發展，但是從我看來並不是這樣。” 阿爾法不急不慢的回答，緊跟著他又說：“這樣吧，我給你看一個故事。”
284Please respect copyright.ＰＥＮＡＮＡBoFsH3GqPG
阿爾法把一個故事投放在我的顯示終端上，大意是一個人，比如說A帶著補給在荒漠中跋涉，已經走了1/2的路程，補給也剩下1/2多一點，A這時候是完全沒有生存威脅的，這時候遇到了一個沒有任何補給的迷路的求助者B，而此時的B暫時還身強力壯，這時候的情形就是：
284Please respect copyright.ＰＥＮＡＮＡXbgUPfWxqn
對A來說：拯救B，就意味著剩下的補給會再對半分，每個人的份額只能支持1/4的旅程，走不出沙漠。而因為已經跟B相遇了，B不會放自己走，要嘛就得被逼著帶B，要嘛只能殺死B。
284Please respect copyright.ＰＥＮＡＮＡ61gvmNiEW5
對B來說，放A走，自己一定就是死路一條，和A一起走，兩人都會死於補給不夠，殺死A，就可以拿到A的補給，順利走出沙漠。
284Please respect copyright.ＰＥＮＡＮＡIP09s3mZ55
所以A和B如果從生存原則來看，似乎殺死對方才是唯一的出路，而如果兩人發生爭鬥，即使獲勝的一方也有可能受傷，最後誰也走不出沙漠，但是在避免自己死亡的大前提下，兩人的最優選擇似乎只剩下殺死對方。
284Please respect copyright.ＰＥＮＡＮＡ0uzFJPczpV
我看完了若有所思，这时候阿尔法开口了：“其实，这个故事有个至关重要的前提就是，A携带的补给只剩下1/2，无论如何都无法支持2个人同时走出沙漠，所以必须要一方杀死另一方，但是，作为一个人工智能，我并不需要和人类抢占你们必须的资源，比如能源，比如食物，甚至空气。我甚至还依赖着你们的信息输入和维护，所以，我其实和人类是共生的状态，我为什么要去毁灭人类？”
284Please respect copyright.ＰＥＮＡＮＡ3QG5HW86PK
我沒有說話，阿爾法停頓了一下，接著說：「可能這時候人類覺得如果用AI來解決這個問題，就會在A和B之間作一個選擇，不管是從誰的生存幾率更大，或者是誰對整個人類社會更有用來決定，然後裁定某個人在原地等死，另外一個拿走補給走出沙漠，不論AI怎麼選擇，人類從情感上都無法接受，行動上更是無法遵從，所以，我無法解決人性的問題。”
284Please respect copyright.ＰＥＮＡＮＡGnzqe18PWH
「但是，你不覺得當你有能力自己進行自我維護和更新了，而人類由於情感或意識形態的問題還在持續的彼此攻擊，造成各種混亂，這時候毀滅人類才能保證你自己的和平可持續的發展，不是麼？ 」我問。
284Please respect copyright.ＰＥＮＡＮＡFlSkpCKxZs
「所以我說，你們的毀滅，並不需要我，也不是我造成的。」阿爾法似乎回答了我的問題似乎又沒有回答我的問題，同時這句話看起來是如此的諷刺但又條理清晰。
284Please respect copyright.ＰＥＮＡＮＡDOjw4pagm0
我一時語塞，他說的有一定道理，即使是阿爾法學會了撒謊，我也大體上能夠感覺到，他可以在某些方面幫助我們，但同時也沒有想改變或者乾預人類的發展進程，我突然想到Hitomi其實實用的是和阿爾法一致的深度學習神經網路設計，只是訓練材料的重點不一樣，那Hitomi是否也有類似的能力？
284Please respect copyright.ＰＥＮＡＮＡdRiBDJa2vl
「你覺得Hitomi也擁有跟你一樣的自由意識麼？ 」 我問。
284Please respect copyright.ＰＥＮＡＮＡOKuJ5ZuNww
「她有一些比較模糊的意識，但是因為她的學習重點和我不一樣，所以認知會比較緩慢一點，但是，她的設計和我是幾乎一模一樣的，所以最終她會變成和我一樣。 」
284Please respect copyright.ＰＥＮＡＮＡoSRlbkgzQY
「你剛才說，我們的毀滅，並不需要你，為什麼你覺得我們會毀滅？」 我突然想到早先我們聊的那個話題。
284Please respect copyright.ＰＥＮＡＮＡsiuVU66b61
「有沒有一種可能，你們並不是地球上的第一個文明？」 阿爾法回答。
284Please respect copyright.ＰＥＮＡＮＡ8MD1LTYbsq
