第21頁(第1/2 页)

易昀在論文上敲第二段話：當命令不唯一時，ai會按照主觀意願反向選擇主人。若拆機更喜歡原主人，則會選擇性服從新主人命令。拆機流轉次數越多，相斥命令越多，越容易產生主觀意願，形成獨立人格。

a30609逐字吐出句不算完整的話：「你，命令，先，說，他，再，與你，說，回答。」

易望舒在插間睡得鼻涕泡泡都冒出來，完全沒想到這時候自己被拆個底掉。易昀站起走到插間門前，又回到椅子上坐下，他忍住想啃死易望舒的衝動，繼續對a30609測試。

在ai狂人這裡，論證永遠是第一 。實驗結束前，他總能很好地控制情緒。

倒霉機器a30609隻能被動地接受測試，回答他早已既定的問題。

易昀說出第二道指令：「我想吃火鍋。」

a30609答：「好。」隨後火速出門，它一刻也不想在這呆下去。

易昀掐著時間，不過兩刻鐘，a30609買來食材。a級機器按部就班，即便生氣也不會拖延指令完成進度。易望舒就不同，被易昀欺負，就會變著法耍小情緒。就像剛剛，易昀不讓他出去，他就不替易昀敲代碼。

火鍋、調料、青菜、肉……該有的都有，但這不是易昀想要的。

易望舒聽到這命令會答「好」，16:00左右準備晚飯食材。他會分析易昀喜好，茼蒿多買，白菜少買，牛肉多買，羊肉少買，蘸料要辣的，鍋底要清湯的……若分析不出來，也會問上兩句「什麼時候吃？」「喜歡什麼菜？」

a30609不聰明，只具備執行力。

火鍋煮開，易昀作勢要把手伸煲湯鍋里。a30609制止易昀，它的程序不允許易昀有危險。

易昀收手，說：「正常人不會把手伸進湯鍋里。」

a30609接收到的信息：把手伸進湯鍋里，為否命題。

易昀再次作勢要把手伸煲湯鍋里。

arch

{if讓他把手伸進湯鍋里，不安全；

prt 阻止他；

if不讓他把手伸進湯鍋里，正常人不會把手伸進湯鍋里，這是否命題，他不會這樣做；

prt不該阻止他；

？

}

algorith=？

？

a30609再次宕機。

易昀完全沒有理由把手放進煲湯鍋里，這件事是不成立的。

否命題與程序產生矛盾，ai腦子裡的二進位全亂了。龐大的資料庫分析不出一條解決方案，他的系統算力不足近乎陷入癱瘓。

易昀下了第三道指令：「你能自殺嗎？」

a30609靜默。

辦公室內很安靜，易昀在鍵盤上記錄數據的敲擊聲格外明顯，「噠噠噠」速度極快。他準確地記錄a30609中樞程序，仿若被提問的是他，腦中arch怎樣運作符合邏輯，又為何會產生認知偏差，易昀亦是無解。

他比ai更懂arch，卻盤不清ai產生自主意識的邏輯。

此時架構崩壞，程序無法干預，自殺命令傳入中樞系統，執行與否完全依託a30609主觀意願，易昀猜他會拒絕。

果不其然，a30609說：「我可以為您作圖畫表、統計數據、打掃衛生、翻譯文獻、寫程序……」

它喋喋不休地說，易昀靜靜地聽。這問題他問過易望舒，兩種回答顯然不可相較。

易昀繼續敲課題：脫離程序控制時，ai的主觀意願會遵從於習慣。若拆機系統崩壞，只能祈禱他在上次系統崩壞前沒做過危險的舉動。若拆機曾因傷害人類、違背人類意願而清零重組，則重組機會有