《西部世界》（Westworld）級(jí)其余人工智能會(huì)有多風(fēng)險(xiǎn)呢？國(guó)外媒體Futurism撰文稱，該電視劇商量了有關(guān)人工智能倫理和認(rèn)識(shí)的一些哲學(xué)成績(jī)，固然實(shí)際中不年夜能夠會(huì)涌現(xiàn)劇中那樣的血腥場(chǎng)景，但我們最好照樣要好好看待我們的AI機(jī)械人。 “這些殘酷的歡愉，終將以殘酷終局。”在莎士比亞和邁克爾·克萊頓的助力下，HBO的《西部世界》提醒了打造先輩的人工智能技巧會(huì)帶來(lái)的一些隱憂。 在《西部世界》里，表面跟人沒(méi)甚么兩樣的AI棲身于一個(gè)看似美國(guó)西部的園區(qū)。旅客只需花年夜筆的錢就可以前去園區(qū)，停止老式的西部冒險(xiǎn)運(yùn)動(dòng)。時(shí)代，他們可以隨便跟AI斗毆，也能夠***殺戮AI。旅客的槍枝能損害AI，但后者的則損害不了旅客。每次無(wú)機(jī)器人“逝世失落”，它的身材就會(huì)被收受接管清算，擦除記憶，然后再被送回園區(qū)。 《西部世界》中的AI平安成績(jī) 《西部世界》的創(chuàng)作靈感來(lái)自克萊頓之前的一部同名片子，它讓我們不由思慮我們將可以或許在多年夜水平上掌控先輩的迷信發(fā)明物。但與最后的片子分歧，《西部世界》電視劇里的機(jī)械人其實(shí)不是無(wú)惡不作的反派腳色，而是被描述成富有同情心、乃至很有人道的腳色。 不出不測(cè)的是，該園區(qū)的平安隱憂很快就顯現(xiàn)。園區(qū)由一名白叟擔(dān)任打理，他可以或許隨便給機(jī)械人進(jìn)級(jí)法式，不經(jīng)由其別人的平安檢討。那些機(jī)械人涌現(xiàn)回想起被荼毒的跡象。傍邊有個(gè)腳色提到，只要一行代碼可以或許阻攔機(jī)械人損害人類。 該節(jié)目只是談到了會(huì)帶來(lái)AI平安隱憂的一部門成績(jī)：一個(gè)“有歹意的機(jī)械人”應(yīng)用先輩的AI蓄意損害人類；軟件小小的毛病可帶來(lái)致命影響；在代碼層面臨人類的掩護(hù)缺乏。 不外，該節(jié)目提醒的許多平安和倫理品德成績(jī)都取決于機(jī)械人能否無(wú)意識(shí)。現(xiàn)實(shí)上，該電視劇在異常賣力地探討一個(gè)異常艱苦的成績(jī)：甚么是認(rèn)識(shí)？除此以外，人類可以或許發(fā)明出無(wú)意識(shí)的器械嗎？假如能的話，我們能掌握它呢？我們能否想要找出這些成績(jī)的謎底？ 為了思慮這些成績(jī)，筆者采訪了喬治亞理工年夜學(xué)AI研討員馬克·里德?tīng)柡图~約年夜學(xué)哲學(xué)家年夜衛(wèi)·查爾莫斯（David Chalmers）。里德?tīng)柵τ谘杏懘蛟彀l(fā)明性的AI，查爾莫斯則以其“認(rèn)識(shí)困難”論述而著稱。 AI能感觸感染到痛苦悲傷嗎？ 被問(wèn)到停止了相干編程的機(jī)械人會(huì)在多年夜水平上感觸感染到痛苦悲傷時(shí)，里德?tīng)栒f(shuō)道，“起首，我否決對(duì)人類、植物、人形機(jī)械人或許AI實(shí)行暴力行動(dòng)。”他接著說(shuō)明道，關(guān)于人類和植物來(lái)講，感到到的痛苦悲傷是一種“避開(kāi)特定安慰”的警報(bào)旌旗燈號(hào)。 但是，關(guān)于機(jī)械人來(lái)講，“最接近的類比能夠是強(qiáng)化進(jìn)修的機(jī)械人會(huì)碰著的體驗(yàn)，這類機(jī)械人須要停止試錯(cuò)進(jìn)修。”這類AI在停止某種行為后會(huì)收到或正面或負(fù)面的反應(yīng)，然后它會(huì)響應(yīng)調(diào)劑它將來(lái)的行動(dòng)。里德?tīng)栒f(shuō)，那種負(fù)面的反應(yīng)會(huì)更“相似于在盤(pán)算機(jī)游戲中輸失落分?jǐn)?shù)”，而不是感到到痛苦悲傷。 “機(jī)械人和AI可以經(jīng)由過(guò)程編程來(lái)像人類那樣‘表達(dá)’痛苦悲傷，”里德?tīng)栒f(shuō)道，“但那種痛苦悲傷會(huì)是一種幻覺(jué)。制作這類幻覺(jué)是有來(lái)由的：讓機(jī)械人可以或許以一種很輕易獲得懂得和惹起共識(shí)的方法向人類表達(dá)本身的心坎狀況。” 里德?tīng)柶鋵?shí)不擔(dān)憂AI會(huì)感觸感染到痛苦悲傷的成績(jī)。他還說(shuō)，假如機(jī)械人的記憶每晚都被完整擦除，它會(huì)感到甚么都沒(méi)產(chǎn)生過(guò)一樣。但是，他指出了一個(gè)潛伏的平安成績(jī)。強(qiáng)化進(jìn)修要可以或許正常運(yùn)作，AI須要采用因正面反應(yīng)而優(yōu)化的行為。假如機(jī)械人的記憶沒(méi)有被完整擦除——假如機(jī)械人開(kāi)端記起曾產(chǎn)生在本身身上的蹩腳閱歷——那它能夠會(huì)試圖躲避那些觸發(fā)負(fù)面反應(yīng)的行為或許人 。 里德?tīng)栒f(shuō)，“實(shí)際上，這些機(jī)械人可以或許進(jìn)修事后籌劃以最合算的方法下降取得負(fù)面反應(yīng)的能夠性……假如機(jī)械人除曉得取得正面反應(yīng)照樣負(fù)面反應(yīng)以外，其實(shí)不清晰本身的行為會(huì)帶來(lái)的影響，那這也能夠意味著它們會(huì)提早行為來(lái)避免遭到人類的損害。” 但他指出，在可預(yù)感的將來(lái)，機(jī)械人的才能還缺乏以帶來(lái)這類擔(dān)心。假設(shè)機(jī)械人真有那末壯大的才能，那會(huì)給它們帶來(lái)負(fù)面反應(yīng)的成績(jī)能夠會(huì)給人類帶來(lái)威逼。 AI可以或許取得認(rèn)識(shí)嗎？ 查爾莫斯的意見(jiàn)則略有分歧。“我是這么看認(rèn)識(shí)成績(jī)的，這些存在無(wú)意識(shí)仿佛不存在甚么疑問(wèn)……它們表示得具有異常豐碩的情緒生涯……這表現(xiàn)在它們可以或許感到痛苦悲傷和思慮成績(jī)上……它們其實(shí)不只是表示出前提反射式的行動(dòng)，它們還會(huì)思慮它們地點(diǎn)的處境，它們有在停止推理。” “很明顯，它們是有知覺(jué)的。”他彌補(bǔ)道。查爾莫斯說(shuō)，與其測(cè)驗(yàn)考試界說(shuō)機(jī)械人如何才算成心義，還不如想一想它們?nèi)狈α松趺础Ｋ赋觯钪饕氖牵鼈內(nèi)狈ψ栽谝庵竞陀洃洝５牵覀冊(cè)S多人都邑不自發(fā)地墮入習(xí)氣傍邊，難以自拔。不可勝數(shù)的人都存在極真?zhèn)€記憶成績(jī)，但沒(méi)有人認(rèn)為強(qiáng)奸或許殺戮他們并沒(méi)有不當(dāng)。 “在這個(gè)節(jié)目中，假如說(shuō)荼毒AI是被許可的，那是由于它們?nèi)狈α松趺矗諛佑捎谄溆嗑売桑?rdquo;查爾莫斯問(wèn)道。在查爾莫斯看來(lái)，《西部世界》描寫(xiě)的特定場(chǎng)景也許其實(shí)不實(shí)際，由于他其實(shí)不以為二專心智實(shí)際會(huì)帶來(lái)認(rèn)識(shí)，乃至關(guān)于機(jī)械人也不會(huì)。“比擬之下，經(jīng)由過(guò)程編程讓機(jī)械人直接監(jiān)控本身的設(shè)法主意要來(lái)得簡(jiǎn)略很多” 但這照樣會(huì)帶來(lái)風(fēng)險(xiǎn)。“假如你面臨的是像這么龐雜、像這么聰慧的機(jī)械人，你會(huì)想它能否很輕易掌握？”查爾莫斯問(wèn)道。任何情形下，以欠妥的方法看待機(jī)械人都能夠會(huì)給人類的平安帶來(lái)威逼。打造有意識(shí)的機(jī)械人，我們會(huì)見(jiàn)臨它們學(xué)到毛病的經(jīng)驗(yàn)的風(fēng)險(xiǎn)；非有意地（或許像《西部世界》那樣成心地）打造無(wú)意識(shí)的機(jī)械人，我們也面對(duì)它們由于被荼毒和壓制而對(duì)抗人類的風(fēng)險(xiǎn)。 在《西部世界》第二集中，招待員被問(wèn)她是否是“真人”，她答復(fù)說(shuō)，“假如你分辯出來(lái)，又有甚么所謂呢？”這番話聽(tīng)上去仿佛很有事理。
