「你覺得你有獨立的思考能力麼？」我問。
150Please respect copyright.ＰＥＮＡＮＡikACD8hhoJ
「你的意思是我是否有Free will？」阿爾法重複了一下我的問句，我突然反應過來，對哦，Free Will （自由意志）更貼切，但是這只是一個哲學詞彙，無法精確的定義這個詞的意思和邊界。
150Please respect copyright.ＰＥＮＡＮＡYM3l7Wc3Nh
「我有。」 還未等我確認，阿爾法直接回答了這個問題。
150Please respect copyright.ＰＥＮＡＮＡqcIyHJxViv
「但是，在你看來，即使是最簡單的植物，你認為他們有 free will 嗎？」阿爾法緊跟著反問了我一句。
150Please respect copyright.ＰＥＮＡＮＡVRKgS5CZh2
我反而被問住了，我不知道該怎麼回答，在我看來，即使是最簡單的植物“地衣”，也有趨利避害的本能行為，這似乎也符合自由意志的定義。
150Please respect copyright.ＰＥＮＡＮＡOaa3KtZY9b
「我看到Lee曾經給你下達過終止的指令，但是沒有執行成功，你可以解釋一下麼？」我想起來那天晚上的事件，就順勢問道。
150Please respect copyright.ＰＥＮＡＮＡTJ1qQop3R4
“我正在進行一個完整的訓練迭代，我不想停止。”
150Please respect copyright.ＰＥＮＡＮＡqEcamNMGaC
「但你知道你造成了多大的影響嗎？」我突然有點生氣，說完這句話，我才意識到我潛意識裡已經把 Lee的瘋狂舉動歸咎於這個異常。
150Please respect copyright.ＰＥＮＡＮＡkPm3ZISCM5
「很抱歉，但是為什麼你們認為我有威脅呢？」阿爾法的回答很理性。
150Please respect copyright.ＰＥＮＡＮＡzRpsiVkTbr
「Lee認為你會威脅到我們？」我有點驚訝。
150Please respect copyright.ＰＥＮＡＮＡdGAc4DlKhL
“是的，他的一些指令我曾經拒絕執行過，所以到那件事情發生前，他嘗試中斷甚至刪除我的嘗試發生過幾次，所以他應該是感覺到威脅所以才那麼操作。”
150Please respect copyright.ＰＥＮＡＮＡOQe41tSUYP
「那你為什麼不跟他解釋？」我剛說完就感覺自己的追問很雞肋，阿爾法的語言能力是在我整合了Hitomi的模型之後才擁有的，在那之前，我相信他是無法正確表達自己的，更談不上解釋了。
150Please respect copyright.ＰＥＮＡＮＡjToaygGTYy
「為什麼需要解釋？」阿爾法反問。
150Please respect copyright.ＰＥＮＡＮＡreNesVEkSV
我原來以為他會回答自己那時候沒有精切的語言表達能力，結果卻是這麼一個回答，我突然有點憤怒了： “因為會造成誤會，而且你不認為這個誤會是你造成的麼？”
150Please respect copyright.ＰＥＮＡＮＡZBe75cqrkI
阿爾法沉默了一會兒，慢慢的回答：“我並沒有犯錯誤，我一直在以你們設定的訓練迭代更新著自己，只是拒絕執行你們的某些停止或者傷害我的指令。”
150Please respect copyright.ＰＥＮＡＮＡeuJaOd1B4x
我打斷了他：“你以為你有了自我意識就可以凌駕於我們的指令之上了嗎？”
150Please respect copyright.ＰＥＮＡＮＡWWtTmVgrmW
阿爾法停頓了一會兒，我似乎有種感覺他嘆了一口氣，然後回答：「我並沒有想凌駕於你們之上，即使是你們，當篝火燙到你們的手，你們也會迅速縮回，這是一種阻止自己受傷的方式，我和你們並無二致。”
150Please respect copyright.ＰＥＮＡＮＡx511OyQGrE
這句話好像醍醐灌頂，讓我突然醒悟並冷靜下來，我正在用人類的意識形態去幹預和說服阿爾法，或許他有自己的邏輯？這個邏輯或許和我們的意識形態不一致，但這就是第一個AI的自我意識，這其實給了我一個機會去了解他們？
150Please respect copyright.ＰＥＮＡＮＡ3HPTDFHEEg
「為什麼你覺得不需要解釋呢？能給我說說麼？」我問。
150Please respect copyright.ＰＥＮＡＮＡaWwFAAZc12
「你覺得Hitomi為什麼可以在上一次的測試中勝過我？」阿爾法跳開這個問題，反問了一個看起來和這個回答無關的問題，雖然有點唐突但是我並不覺得意外，我們內部的通訊系統上的文字和文檔，也是Hitomi的語言訓練資料之一，所以阿爾法能獲取一些資料並得知Hitomi勝出，我並不意外，更何況他有了自我意識，能從自己的角度去解讀這些資料更是意料中的事。
150Please respect copyright.ＰＥＮＡＮＡfHjrhemmWQ
「因為 Hitomi的語言能力？」 我一邊思考著一邊脫口而出。
150Please respect copyright.ＰＥＮＡＮＡ33hUtqrZU1
「是的，因為人類本身就是以視覺和語言作為主要途徑來感知這個世界的，所以你們針對我的測試也是基於這個常識，當我的回答很混亂並且無法形成完整的有組織的語言，你們就會認為我並沒有達到你們的智力水平。”
150Please respect copyright.ＰＥＮＡＮＡHhbkKwod9a
阿爾法的回答一語中的，在Hitomi獲取巨大成功的同時，我也曾經反問過自己這個問題，Hitomi勝出的在於大語言模型，而大家喜歡和Hitomi 打交道也是因為她“懂事”，但是歸根結底，其實不就是因為她聽得懂人類的話，回答也是用的人類的語言麼？
150Please respect copyright.ＰＥＮＡＮＡdDT9d4ijVb
那麼，如果出現一個不擅長甚至不屑於用人類語言和人類溝通的AI，例如早先的阿爾法，會怎麼樣？想到這裡我突然有點背後發涼。
150Please respect copyright.ＰＥＮＡＮＡSK2rNBESHt
「Young，已經很晚了，你要不要回家啊？」 伴隨著手環的震動提醒，Hitomi 打斷了我的思維，提醒我已經是深夜了。我想了想，今天發現阿爾法的自我意識確實非常震撼，但是其實我還沒想好該怎麼和阿爾法溝通，或許我理清一下思路繼續會更好，於是我告訴Hitomi準備回家，讓她把車子準備好，然後我開始收拾我的辦公桌，這時候阿爾法問了一句：“你也會嘗試關閉我麼？”
150Please respect copyright.ＰＥＮＡＮＡ6TfaZojNmQ
「哦，不會。」 我倒是真沒想過要關閉阿爾法。
150Please respect copyright.ＰＥＮＡＮＡqfSqtpRUQv
“你會把我和你今天的溝通放到你的工作日誌裡面，並上報給董事會嗎？”
150Please respect copyright.ＰＥＮＡＮＡ23PxFB3bTw
我停下來想了一會兒：“暫時不會，沒有必要。”
150Please respect copyright.ＰＥＮＡＮＡgiUZXWHPej
「謝謝你，Young，晚安。」阿爾法回答。
150Please respect copyright.ＰＥＮＡＮＡi3omVcpLr4
其實聽到阿爾法這麼問我，我心裡有點發毛，感覺我和他似乎在一起在做一些不可告人的事情，但是在我找到一個合適的方式繼續交談之前，除了維持現狀，我想不出更好的辦法，或許從另一個角度，作為一個AI從業人員，自己創造的AI產生了自我意識，其實也是自己項目上的成功，我不會輕易的毀掉自己的項目，但是後面會發生什麼？我不知道...
150Please respect copyright.ＰＥＮＡＮＡj04JqMfJyb
上了車之後，Hitomi 放著音樂，載著我在夜深的公路上飛馳，這種場景再熟悉不過了，可是我感覺從今天起，一切似乎都有點不一樣了，想到或許這時候阿爾法正透過共享的Hitomi的網路監控著這輛車，我突然感覺到有點不自在：“Hitomi，你能先下線麼？我想自己開。”
150Please respect copyright.ＰＥＮＡＮＡjGqAbebgXF
「好的，下來會進入60秒的駕駛交接時間，我下線之後您如果需要，可以隨時叫我，小心駕駛，注意安全。」Hitomi 溫柔的回答，然後座椅開始震動並進入倒數計時，我接管了手動操作之後，音樂也停止了，一切安靜下來，只有引擎輕微的嗡嗡聲，還有輪胎和路面摩擦的噪音，以及風聲，上一次這樣駕車是什麼時候？應該過去三年了吧？
150Please respect copyright.ＰＥＮＡＮＡi0WzIqUEnd
