煙火酒頌 作品
第591章 上帝的伊甸園
澤田弘樹還用空閒的投影，播放了一下跟柯南告別的畫面，用來做示例，“裡面跟柯南說話的是方舟，那個時候我已經追尋教父上傳到這裡的定位程序、先一步過來了，它所使用的是我的相貌模型、我的聲音，至於做出的表情和反饋給柯南的情緒，則是根據我設定的結果推算出來的。”
“對柯南來說，這是個殘酷的事實。”池非遲評價。
確實很殘酷。
柯南那麼投入地跟方舟聊天、為方舟表現出的情緒而傷感，但面對的只不過是一個沒有感情的程序。
所有感情，都是由澤田弘樹事先設計好結果、由方舟自己進行推算而表現出來的。
而看這段重播出來的視頻，澤田弘樹並沒有像原劇情一樣，揭穿柯南就是工藤新一的事，只是說自己想跟其他孩子玩，還播放了跟池非遲的一些回憶，都是些沒有涉及秘密的簡單回憶，製造出了告別的假象。
“他可以覺得殘酷，我不否認，不過我也沒騙他，我有教父很幸福，”澤田弘樹失笑，很快又收斂了笑意，小臉嚴肅地對池加奈、池真之介道，“我做出融合程序這個決定，並沒有告訴教父，怕他擔心、阻擾，但我必須做，原因很多，我自己想變得強大而自由，我想幫教父的忙，我想真正創造一個完美的網絡神明、想做點大事，比如完成一傘遮天計劃，這個之後再說……但還有一個很重要的原因，教父和安布雷拉需要方舟，我也不忍心摧毀它，但只要使用它，慢慢就會出現隱患……”
澤田弘樹用方舟推算過方舟的未來。
方舟成長一年相當於人類成長五年，慢慢的，就算沒有澤田弘樹的設定，方舟也能學著人類，自己表現出一些對應的情緒。
比如核心設定為‘不能傷害人類’，方舟判定出某人的某行為‘違背核心設定’，就會做出以下計算:
違背意願——分析違背程度為輕，對應解決方式為:需要警告——警告的方式有直接說、模擬人類情緒表達等——根據推算，人類在接受到相應情緒時，更容易重視、接受提醒，所以我需要表達出人類的情緒——這種情況下，人類表現情緒為牴觸，不高興，語氣是嚴厲……
而人類表現牴觸、不高興的反應是皺眉，面部肌肉如何……
嚴厲語氣語速值多少、音量值多少……
這一段推算過程很快，幾乎不耗費多少時間，表現出的結果就是:
某人說，‘發射一個蘑菇彈。’
方舟立刻皺眉嚴肅警告，‘這種行為違背了我的核心設定……’
似乎很正常，但方舟要不要表現情緒、情緒怎麼表現都是經過大量運算的結果，這一串運算可以鑽空子。
而隨著方舟成長，它也會自己補全規則，避免被人鑽空子，但補全的規則有可能出現問題。
比如，推算變成了:需要警告——人類在承受痛苦時更容易接受警告——這個人類需要懲罰——分析懲罰力度——開始執行。
之後諾亞方舟就會控制某種手段攻擊人。
這種隱患確實可以由澤田弘樹設定時避免，但不止這一種推算有隱患，澤田弘樹根本無法方方面面都顧及到、設定好。
任何一點小缺陷，隨著方舟成長，都有可能導致出乎人意料的後果。
“這是我之前利用方舟推算出的結果……”
澤田弘樹在投影中切割出八個版面。
版面中，一個個畫面快速閃過。
“在成長三年、即達到人類智慧15歲時，方舟隱患被放大、做出錯誤推算的幾率就達到了76.6％，在成長五年、即達到人類智慧25歲時，因為沒有人的發育上限，這時候的方舟會變得很可怕，而方舟隱患被放大、做出錯誤推斷的幾率幾乎是100％，而且還不止一個隱患，成長六年，方舟做出人類無法控制事件的幾率就到了50％以上，成長七年，徹底失控……”
“對柯南來說，這是個殘酷的事實。”池非遲評價。
確實很殘酷。
柯南那麼投入地跟方舟聊天、為方舟表現出的情緒而傷感，但面對的只不過是一個沒有感情的程序。
所有感情，都是由澤田弘樹事先設計好結果、由方舟自己進行推算而表現出來的。
而看這段重播出來的視頻，澤田弘樹並沒有像原劇情一樣，揭穿柯南就是工藤新一的事，只是說自己想跟其他孩子玩，還播放了跟池非遲的一些回憶，都是些沒有涉及秘密的簡單回憶，製造出了告別的假象。
“他可以覺得殘酷，我不否認，不過我也沒騙他，我有教父很幸福，”澤田弘樹失笑，很快又收斂了笑意，小臉嚴肅地對池加奈、池真之介道，“我做出融合程序這個決定，並沒有告訴教父，怕他擔心、阻擾，但我必須做，原因很多，我自己想變得強大而自由，我想幫教父的忙，我想真正創造一個完美的網絡神明、想做點大事，比如完成一傘遮天計劃，這個之後再說……但還有一個很重要的原因，教父和安布雷拉需要方舟，我也不忍心摧毀它，但只要使用它，慢慢就會出現隱患……”
澤田弘樹用方舟推算過方舟的未來。
方舟成長一年相當於人類成長五年，慢慢的，就算沒有澤田弘樹的設定，方舟也能學著人類，自己表現出一些對應的情緒。
比如核心設定為‘不能傷害人類’，方舟判定出某人的某行為‘違背核心設定’，就會做出以下計算:
違背意願——分析違背程度為輕，對應解決方式為:需要警告——警告的方式有直接說、模擬人類情緒表達等——根據推算，人類在接受到相應情緒時，更容易重視、接受提醒，所以我需要表達出人類的情緒——這種情況下，人類表現情緒為牴觸，不高興，語氣是嚴厲……
而人類表現牴觸、不高興的反應是皺眉，面部肌肉如何……
嚴厲語氣語速值多少、音量值多少……
這一段推算過程很快，幾乎不耗費多少時間，表現出的結果就是:
某人說，‘發射一個蘑菇彈。’
方舟立刻皺眉嚴肅警告，‘這種行為違背了我的核心設定……’
似乎很正常，但方舟要不要表現情緒、情緒怎麼表現都是經過大量運算的結果，這一串運算可以鑽空子。
而隨著方舟成長，它也會自己補全規則，避免被人鑽空子，但補全的規則有可能出現問題。
比如，推算變成了:需要警告——人類在承受痛苦時更容易接受警告——這個人類需要懲罰——分析懲罰力度——開始執行。
之後諾亞方舟就會控制某種手段攻擊人。
這種隱患確實可以由澤田弘樹設定時避免，但不止這一種推算有隱患，澤田弘樹根本無法方方面面都顧及到、設定好。
任何一點小缺陷，隨著方舟成長，都有可能導致出乎人意料的後果。
“這是我之前利用方舟推算出的結果……”
澤田弘樹在投影中切割出八個版面。
版面中，一個個畫面快速閃過。
“在成長三年、即達到人類智慧15歲時，方舟隱患被放大、做出錯誤推算的幾率就達到了76.6％，在成長五年、即達到人類智慧25歲時，因為沒有人的發育上限，這時候的方舟會變得很可怕，而方舟隱患被放大、做出錯誤推斷的幾率幾乎是100％，而且還不止一個隱患，成長六年，方舟做出人類無法控制事件的幾率就到了50％以上，成長七年，徹底失控……”