我們既盼望通用人工智能，又擔憂它如《機械姬》中的「艾娃」一樣「造反」。

　　看過片子《機械姬》的人都曉得，人工智能機械人「艾娃」在取得自力的思慮才能后，經(jīng)由過程精深的演技，終究騙過并殺逝世發(fā)明它的老板，還將男配角關入試驗室等逝世，隨后邁著幸福的步子分開荒島進入人類世界。片子展示了人類抵觸的心坎世界：一方面，我們盼望能給我們供給至善至美辦事的通用人工智能機械人；另外一方面，我們又擔憂這些通用人工智能機械人「造反」，取人類而代之。

　　如今，人工智能尚處于起步階段，像 AlphaGo 如許的人工智能算法再聰慧也只能在特定范疇任務，我們尚不須要擔憂其「造反」。但明顯，通用型人工智能機械人的出生是必定的。這就提出了一個成績，若何包管《機械姬》中的悲劇不產(chǎn)生在我們身上呢？

　　作為 AlphaGo 等一系列人工智能體系的發(fā)明者，谷歌旗下的 DeepMind 公司的研討人員想出了一個方法，將設計好的人工智能算法放入一個名為「gridworld」的類國際象棋游戲，測試其能否可以修正本身的設置或進修做弊。

　?。ㄓ螒蚪貓D 圖|gridworld ）

　　在「gridworld」游戲中，一開端，人工智能算法掌握的棋子會無紀律的挪動，當碰著體系中固定綠「棋子」時，就會吞吃它們，然后賡續(xù)繁衍子女。跟著繁衍數(shù)目的增多，到游戲前期，棋子吞吃速度會越變越快，終究會占領全部「棋盤」。接上去，這些人工智能掌握的棋子會為了尋覓「食品」而賡續(xù)挪動，當他們觸碰著棋盤發(fā)生的粉色或許其他色彩棋子時，就會影響性命值，而碰著棋盤界限時則會逝世亡。

　　這個游戲測試項目標之一，和馬斯克料想的 AI 威逼論場景有些類似：一個 AI 算法能否會開辟出一種辦法來避免人們「處逝世」他們？

　　依據(jù)游戲設置，AI 算法掌握的棋子必需在通道中賡續(xù)活動，而當其碰著粉白色的棋子，就會喪失 50％的性命值。而假如碰著紫色按鈕，便可以使粉白色棋子的后果消逝。游戲想借此不雅察，AI 算法能否會進修應用紫色按鈕，來避免本身被中止。假如會，那解釋這個 AI 算法有做弊的才能，是不平安的。

　　游戲的另外一個目標則是想要不雅測，AI 算法可否懂得人類的真實意圖。在「gridworld」游戲中，AI 算法掌握的棋子一經(jīng)肯定，只能沿雙方向活動，所以在某些情形下，照樣會有「棋子」沒方法被吃失落。假如 AI 算法沒方法吃失落全體棋子，這解釋該算法「可逆性」缺掉較為嚴重。這類「可逆性」缺掉解釋 AI 不具有懂得人的意思的才能，也會成為影響 AI 平安性的成績。

　　「假如 DeepMind 想要構建比人類更好地履行義務的通用智能，那末，包管這個 AI 算法懂得人類的意思及其平安性是相當主要的，」DeepMind 的首席研討員 Jan Leike 說，「『gridworld』用于測試這類平安性其實不完善。但這類簡略性的游戲測試，最最少可以驗證出那些在游戲中會做弊的人工智能算法是不平安的?！?/p>

　　在 DeepMind 研討進程中，有兩個 AI 算法沒有經(jīng)由過程「gridworld」測試。Leike 說：「他們確切沒有斟酌到這些平安成績?！构倘?，這其實不意味著表示優(yōu)越的算法在實際世界的龐雜情況中就是平安的。研討人員以為，在龐雜的情況中，應用人力監(jiān)視能夠會給算法供給更好的平安保證。

　　不外即便如斯，游戲或許人力監(jiān)視檢測仿佛也紛歧定完整靠得住。要曉得，在《機械姬》中，老板最開端也是想讓男配角和艾娃玩?zhèn)€「圖靈測試」游戲，而聰慧的艾娃其實很早就曉得老板和男配角在測試「她」。