謹(jǐn)慎一點(diǎn)是必須的 我們對(duì)人工智能能夠信任到什么程度？

• 2017年9月13日 ZhouXun來(lái)源：網(wǎng)易智能 516 28
• 繁體

人工智能是典型的軟件主導(dǎo)，而軟件是容易出現(xiàn)漏洞的?？紤]到這一點(diǎn)，我們?nèi)绾沃廊斯ぶ悄鼙旧硎亲銐蚩煽咳ネ瓿晒ぷ鞯?或者更確切地說(shuō)，我們對(duì)于人工智能的成果能夠信任到什么程度?

這些問(wèn)題表明，在各種與人工智能相關(guān)的算法和技術(shù)之間存在必要的設(shè)計(jì)權(quán)衡。這么多人工智能可替代方法的存在表明，大多數(shù)人工智能架構(gòu)都遠(yuǎn)非那么一致或有凝聚力。更糟糕的是，對(duì)于推理和學(xué)習(xí)系統(tǒng)來(lái)說(shuō)哦，它們都需要高度的基于上下文的個(gè)性化。當(dāng)然，這也是在說(shuō)人工智能測(cè)試，因?yàn)槊恳环N算法和它的個(gè)性化實(shí)現(xiàn)都會(huì)帶來(lái)獨(dú)特的深度測(cè)試的挑戰(zhàn)，即使是在單元級(jí)別。

一個(gè)高級(jí)人工智能測(cè)試評(píng)估了正確識(shí)別和分類圖像的能力。在某些情況下，這項(xiàng)測(cè)試已經(jīng)超越了人類做出此類評(píng)估的能力。例如，在人面數(shù)據(jù)庫(kù)(LFW)中的數(shù)據(jù)集用13000張圖片支持人臉識(shí)別技術(shù)的訓(xùn)練，并使用用神經(jīng)網(wǎng)絡(luò)或深度學(xué)習(xí)來(lái)校準(zhǔn)面部識(shí)別機(jī)器學(xué)習(xí)工具。新的自動(dòng)化人工智能圖像識(shí)別工具可以使用這個(gè)數(shù)據(jù)表在統(tǒng)計(jì)學(xué)上超越人類的面部識(shí)別能力。然而，眼前的任務(wù)本質(zhì)上是感性的。這些任務(wù)通過(guò)數(shù)學(xué)上相關(guān)的幾何圖形來(lái)區(qū)分，但沒(méi)有任何形式的高階認(rèn)知推理。此外，盡管它將選擇性識(shí)別的準(zhǔn)確率與人類能力進(jìn)行了比較，但在這個(gè)測(cè)試中，底層代碼基礎(chǔ)的其他關(guān)鍵任務(wù)方面仍未得到檢測(cè)。

代碼之外

機(jī)器學(xué)習(xí)的測(cè)試變得更加復(fù)雜，因?yàn)樵趯W(xué)習(xí)環(huán)境中需要大量的數(shù)據(jù)集來(lái)“訓(xùn)練”人工智能。不僅人工智能應(yīng)該被證明是無(wú)懈可擊的，在訓(xùn)練中使用的數(shù)據(jù)理論上也應(yīng)該具有最高的質(zhì)量。然而，在現(xiàn)實(shí)世界中，數(shù)據(jù)集往往是不平衡的、稀少的、不連貫的，而且往往是不準(zhǔn)確的。下面的圖片表明，信息經(jīng)常是由解決歧義得到的。即使在受控條件下，使用單個(gè)或多個(gè)經(jīng)過(guò)驗(yàn)證的數(shù)據(jù)集來(lái)訓(xùn)練和測(cè)試分類器也會(huì)產(chǎn)生顯著的差異。因此，即使是對(duì)分類器的受控測(cè)試也會(huì)變得非常復(fù)雜，必須仔細(xì)研究。

其他與信任相關(guān)的因素遠(yuǎn)遠(yuǎn)超出了代碼的范圍。因?yàn)榫幊碳仁且环N創(chuàng)造性行為，又是一種句法科學(xué)，因此它需要一定程度的翻譯解釋。程序員可以將有意的或無(wú)意的文化或個(gè)人偏見(jiàn)注入到產(chǎn)生的人工智能代碼中。考慮一下程序員的情況，他們創(chuàng)造了一種非常精確的面部識(shí)別程序，但忽略了皮膚色素沉著是識(shí)別標(biāo)準(zhǔn)中的一個(gè)決定性因素。這一動(dòng)作會(huì)使結(jié)果偏離原本由皮膚顏色強(qiáng)化的功能。相反，罪犯的再犯率扭曲了一些以美國(guó)為基地的監(jiān)獄釋放決定。這意味著，一些在押人員比其他人更有機(jī)會(huì)得到提前釋放的數(shù)據(jù)——而無(wú)視了普遍的情況。語(yǔ)義上的不一致性可能會(huì)進(jìn)一步危害人工智能代碼的中立性，尤其是在涉及自然語(yǔ)言處理或慣用語(yǔ)音識(shí)別的情況下。

一些人認(rèn)為，所有的IT從業(yè)者都是網(wǎng)絡(luò)安全從業(yè)者。這也對(duì)人工智能的發(fā)展和實(shí)施產(chǎn)生了巨大的影響。從網(wǎng)絡(luò)安全的角度來(lái)看，“誰(shuí)知道機(jī)器知道什么、機(jī)器是什么時(shí)候知道的?”的問(wèn)題就變得尤為重要。機(jī)器學(xué)習(xí)的東西往往不是很容易被觀察到的，而是被深度編碼的。這不僅會(huì)影響新入網(wǎng)的數(shù)據(jù)，而且——在物聯(lián)網(wǎng)中——這些數(shù)據(jù)會(huì)讓執(zhí)行器觸發(fā)激活器，從而將“學(xué)習(xí)”轉(zhuǎn)化為某種行為。由于缺乏具體的刺激身份和出身，整個(gè)人工智能引發(fā)的物聯(lián)網(wǎng)刺激反應(yīng)機(jī)制也變得同樣不確定。在任務(wù)關(guān)鍵型系統(tǒng)中產(chǎn)生的行為需要嚴(yán)格的驗(yàn)證。

第三次浪潮

Launchbury預(yù)言了一個(gè)尚未完善的人工智能第三次浪潮，他將其命名為“語(yǔ)境適應(yīng)”。這項(xiàng)技術(shù)需要更多的工作，將感知、學(xué)習(xí)和推理的優(yōu)勢(shì)集中在一起，并支持跨領(lǐng)域抽象的更高水平。

2017年5月，年度本體峰會(huì)被命名為“人工智能、學(xué)習(xí)、推理和本體”。印證了Launchbury的觀察，峰會(huì)公報(bào)草案得出結(jié)論說(shuō)，到目前為止，大多數(shù)人工智能方法，包括機(jī)器學(xué)習(xí)工具和使用的計(jì)算技術(shù)都是在運(yùn)用計(jì)算技術(shù)的亞符號(hào)水平上運(yùn)行，是不接近人類思維的。盡管在許多形式的人工智能中已經(jīng)取得了巨大的進(jìn)步，但在象征層面上對(duì)知識(shí)表現(xiàn)的全面處理還有待于成熟。相應(yīng)地，本體作為正式的語(yǔ)義組織工具的實(shí)用性，對(duì)人工智能及其最終測(cè)試環(huán)境的優(yōu)勢(shì)有限。

語(yǔ)義網(wǎng)絡(luò)涉及到以節(jié)點(diǎn)和弧的圖形形式來(lái)表現(xiàn)知識(shí)。它提供了一種理解和視覺(jué)化符號(hào)之間關(guān)系的方式，通常用積極的詞語(yǔ)來(lái)表示。在不同的上下文語(yǔ)境中，這些詞表達(dá)不同的意思。人工智能在很大程度上是象征性的，它需要以一種更加正式的方式來(lái)處理應(yīng)用語(yǔ)義，以實(shí)現(xiàn)第三浪潮的狀態(tài)。在這種情況下，人工智能就變成了非線性的，因果關(guān)系通過(guò)多個(gè)執(zhí)行線程逐漸解耦。這就導(dǎo)致了復(fù)雜的自適應(yīng)系統(tǒng)(CAS)的建立，這種系統(tǒng)往往會(huì)受到非線性網(wǎng)絡(luò)行為的影響。

在CAS中，隨著時(shí)間的推移，新的行為會(huì)基于環(huán)境的情況出現(xiàn)。在這里，可以有多個(gè)自組織的路徑通向成功或失敗，所有這些路徑都是由高度多樣化的節(jié)點(diǎn)和弧線所觸發(fā)的，這些節(jié)點(diǎn)和弧線可以隨著時(shí)間的推移而變化、增長(zhǎng)、收縮和消失。這種網(wǎng)絡(luò)在使用嵌入式軟件時(shí)，違背了傳統(tǒng)的遞歸單元測(cè)試，而這與數(shù)據(jù)是相關(guān)聯(lián)的。這是因?yàn)?，在CAS中，整體往往不僅僅是各部分的總和。相反，從應(yīng)用網(wǎng)絡(luò)科學(xué)出現(xiàn)的新方法，提供了一種更好的方法來(lái)評(píng)估隨時(shí)間推移而出現(xiàn)的動(dòng)態(tài)人工智能行為。與圖論相關(guān)的時(shí)間指標(biāo)逐漸被更好地理解為一種描述動(dòng)態(tài)行為的方法，這些動(dòng)態(tài)行為是一些未能遵循線性路徑來(lái)達(dá)到預(yù)期效果的行為。

除非采用可靠的方法來(lái)評(píng)估人工智能的信任程度，不然喊口號(hào)就必須謹(jǐn)慎。對(duì)于尚不那么可靠的技術(shù)，如果盲目信任則有可能會(huì)造成誤導(dǎo)，有時(shí)甚至?xí)?dǎo)致危險(xiǎn)的結(jié)果。

延伸閱讀

推薦閱讀

猜您喜歡