第九十二章 意義

    這是一個非常底層的設計。

    義體控制中樞最初的設計者認為，再高明的工程師，也不可能應對所有突發狀況準備預案。二十一世紀的時候，他是這麼解釋的。

    “我們為什麼不完全用機器去維修機器？為什麼不用人工智能去debug？因為我們可以告訴機器，什麼是‘正確’的。但我們沒法將所有的有可能的故障狀態做成一個集合，裝進機器的數據庫中。機器只能判斷‘這不是正常狀態’，卻沒有辦法處理層出不窮的問題。倒不如說,一個工程師若是能夠預知所有的故障，那他理應能夠對所有故障做出預防。。”

    “故障，往往就是設計者預料之外的事態。”

    舉一個最極端的例子吧。一個人在災難中被困住，需要自斷手腳來逃生。這個時候，他的義體卻因為安全協議而拒絕執行“自殘肢體”的提議，而導致一個人被困死，那麼這家義體的生產企業或許難辭其咎。

    當然,這裡面也存在另一個問題。如果一個人“殺人”的決心足夠堅定,並且他的高級皮層也做出了明確的指令，那義體同樣可以成為兇器。

    如果仔細考量的話，後者出現的場合，或許會比前面的“極端狀況”要常見許多。

    所以權衡“生物腦的意志”與“安全協議”的優先度，是當初超人類公司所作出的最艱難的決定。

    而某位決策者最終認為，一個人如果真的如此想殺另一個人，那他是可以找各種兇器的。可從沒有見廚具廠商、汽車廠商、運動器材廠商或者其他什麼廠商因為產品淪為兇器而被人唾棄。但是“義體因為安全協議而卡死人類自救可能”，卻無疑會導致公司的聲譽受損。

    那些幫助了海豚們的人類，尚不知曉如何修改這種底層設計。

    而海豚們則覺得，這種設計糟透了。

    人類可以一定程度上依靠新皮層的神經活動，去調節邊緣系統之類區域的活動——甚至

    人類也不能時時刻刻保證自己不會被低級功能區所控制。