人機(jī)協(xié)同的混合增強(qiáng)智能學(xué)術(shù)沙龍文集序
鄭南寧 中國(guó)工程院院士
人工智能是一種引領(lǐng)許多領(lǐng)域產(chǎn)生顛覆性變革的使能技術(shù)，合理并有效地利用人工智能技術(shù)，意味著價(jià)值創(chuàng)造和競(jìng)爭(zhēng)優(yōu)勢(shì)。為搶抓人工智能發(fā)展的重大戰(zhàn)略機(jī)遇，依托我國(guó)應(yīng)用需求和市場(chǎng)的巨大優(yōu)勢(shì)，加快建設(shè)創(chuàng)新型國(guó)家和世界科技強(qiáng)國(guó)，在黨中央、國(guó)務(wù)院統(tǒng)一部署和要求下，《新一代人工智能發(fā)展規(guī)劃》（以下簡(jiǎn)稱規(guī)劃）對(duì)我國(guó)人工智能發(fā)展戰(zhàn)略做了全面部署，明確了我國(guó)人工智能發(fā)展的總體要求及三步走的戰(zhàn)略目標(biāo)，并將人機(jī)協(xié)同的混合增強(qiáng)智能作為規(guī)劃部署的五個(gè)重要方向之一。
智能機(jī)器與各類(lèi)智能終端已經(jīng)成為人類(lèi)的伴隨者，人與智能機(jī)器的交互、混合是未來(lái)社會(huì)的發(fā)展形態(tài)。人機(jī)協(xié)同的混合增強(qiáng)智能是新一代人工智能的典型特征。
當(dāng)前的人工智能系統(tǒng)在不同層次都依賴大量的樣本訓(xùn)練完成有監(jiān)督的學(xué)習(xí)。真正的通用智能會(huì)在經(jīng)驗(yàn)和知識(shí)積累的基礎(chǔ)上靈巧地?zé)o監(jiān)督學(xué)習(xí)。如果僅僅是利用各種人工智能計(jì)算模型或算法的簡(jiǎn)單組合，不可能得到一個(gè)通用的人工智能。特定領(lǐng)域的人工智能系統(tǒng)如谷歌的Alpha Go、IBM的深藍(lán)和沃森等依賴強(qiáng)大的計(jì)算能力在挑戰(zhàn)人類(lèi)智力方面取得了巨大進(jìn)步，但這些系統(tǒng)還無(wú)法通過(guò)自身思考得到更高層次的智能，它們與具有高度自主學(xué)習(xí)能力的通用人工智能依然存在著差距。但是，人工智能在這些特定領(lǐng)域應(yīng)用的巨大成功為我們研究與發(fā)展新一代人工智能提供了重要的借鑒和新的方法。
人類(lèi)面臨的許多問(wèn)題具有不確定性、脆弱性和開(kāi)放性，也是智能機(jī)器的服務(wù)對(duì)象和最終“價(jià)值判斷”的仲裁者，因此，人類(lèi)智能與機(jī)器智能的協(xié)同是貫穿始終的。任何智能程度的機(jī)器都無(wú)法完全取代人類(lèi)，這就需要將人的作用或認(rèn)知模型引入到人工智能系統(tǒng)中，形成混合-增強(qiáng)智能形態(tài)，這種形態(tài)是人工智能或機(jī)器智能的可行的、重要的成長(zhǎng)模式。
一、人在回路的混合增強(qiáng)智能
將人的作用引入到智能系統(tǒng)中，形成人在回路的混合智能范式。在這種范式中人始終是這類(lèi)智能系統(tǒng)的一部分，當(dāng)系統(tǒng)中計(jì)算機(jī)的輸出置信度低時(shí)，人主動(dòng)介入調(diào)整參數(shù)給出合理正確的問(wèn)題求解，構(gòu)成提升智能水平的反饋回路。
把人的作用引入到智能系統(tǒng)的計(jì)算回路中，可以把人對(duì)模糊、不確定問(wèn)題分析與響應(yīng)的高級(jí)認(rèn)知機(jī)制與機(jī)器智能系統(tǒng)緊密耦合，使得兩者相互適應(yīng)，協(xié)同工作，形成雙向的信息交流與控制，使人的感知、認(rèn)知能力和計(jì)算機(jī)強(qiáng)大的運(yùn)算和存儲(chǔ)能力相結(jié)合，構(gòu)成“1+1>2”的智能增強(qiáng)智能形態(tài)。
在當(dāng)前大數(shù)據(jù)、深度學(xué)習(xí)在不同領(lǐng)域不斷取得突破性成果之際，更需要清楚認(rèn)識(shí)到，即使為人工智能系統(tǒng)提供充足、甚至無(wú)限的數(shù)據(jù)資源，也無(wú)法排除人類(lèi)對(duì)它的干預(yù)。例如，面對(duì)人機(jī)交互系統(tǒng)中對(duì)人類(lèi)語(yǔ)言或行為的細(xì)微差別和模糊性的理解，特別是將人工智能技術(shù)應(yīng)用于一些重大領(lǐng)域（如產(chǎn)業(yè)風(fēng)險(xiǎn)管理、醫(yī)療診斷、刑事司法、自主駕駛、社會(huì)輿情分析、智能機(jī)器人等）時(shí)，如何避免由于人工智能技術(shù)的局限性而帶來(lái)的風(fēng)險(xiǎn)、失控甚至危害？這就需要引入人類(lèi)的監(jiān)督與互動(dòng)，允許人參與驗(yàn)證，提高智能系統(tǒng)的置信度，以最佳的方式利用人的知識(shí)，最優(yōu)地平衡人的智力和計(jì)算機(jī)的計(jì)算能力，從而實(shí)現(xiàn)大規(guī)模的非完整、非結(jié)構(gòu)化知識(shí)信息的處理，有效避免由于當(dāng)前人工智能技術(shù)的局限性而引發(fā)的決策風(fēng)險(xiǎn)和系統(tǒng)失控等問(wèn)題。
二、基于認(rèn)知計(jì)算的混合增強(qiáng)智能
在人工智能系統(tǒng)中引入受生物啟發(fā)的智能計(jì)算模型，構(gòu)建基于認(rèn)知計(jì)算的的混合增強(qiáng)智能。這類(lèi)混合智能是通過(guò)模仿生物大腦功能提升計(jì)算機(jī)的感知、推理和決策能力的智能軟件或硬件，以更準(zhǔn)確地建立像人腦一樣感知、推理和響應(yīng)激勵(lì)的智能計(jì)算模型，尤其是如何建立因果模型、直覺(jué)推理和聯(lián)想記憶的新計(jì)算框架。
對(duì)當(dāng)前人工智能而言，解決某些對(duì)人類(lèi)來(lái)說(shuō)屬于智力挑戰(zhàn)的問(wèn)題可能是相對(duì)簡(jiǎn)單的，但是解決對(duì)人類(lèi)來(lái)說(shuō)習(xí)以為常的問(wèn)題卻非常困難。例如，很少有三歲的孩童能下圍棋（除非受過(guò)專(zhuān)門(mén)的訓(xùn)練），但所有的三歲孩童都能認(rèn)出自己的父母，且不需要大量經(jīng)過(guò)標(biāo)注的人臉數(shù)據(jù)集的訓(xùn)練。人工智能研究的重要方向之一是借鑒認(rèn)知科學(xué)、計(jì)算神經(jīng)科學(xué)的研究成果，使計(jì)算機(jī)通過(guò)直覺(jué)推理，經(jīng)驗(yàn)學(xué)習(xí)將自身引導(dǎo)到更高層次的。
另外，在現(xiàn)實(shí)世界中，人們無(wú)法為所有問(wèn)題建模，這里存在條件問(wèn)題（Qualification Problem）和分支問(wèn)題（Ramification Problem），即不可能枚舉出一個(gè)行為的所有先決條件，也不可能枚舉出一個(gè)行為的所有分支。而人腦對(duì)真實(shí)世界環(huán)境的理解、非完整信息的處理、復(fù)雜時(shí)空關(guān)聯(lián)的任務(wù)處理能力是當(dāng)前機(jī)器學(xué)習(xí)無(wú)法比擬的，還有人的大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的可塑性，以及人腦在非認(rèn)知因素和認(rèn)知功能之間的相互作用，它們是形式化方法難以、甚至不能描述的。人腦對(duì)于非認(rèn)知因素的理解更多的來(lái)自于直覺(jué)，并受到經(jīng)驗(yàn)和長(zhǎng)期知識(shí)積累的影響。人腦所具有的自然生物智能形式，為提高機(jī)器對(duì)復(fù)雜動(dòng)態(tài)環(huán)境或情景的適應(yīng)性，以及非完整、非結(jié)構(gòu)化信息處理和自主學(xué)習(xí)能力，為構(gòu)建基于認(rèn)知計(jì)算的混合-增強(qiáng)智能提供了重要啟示。
認(rèn)知計(jì)算架構(gòu)可以將復(fù)雜的規(guī)劃、問(wèn)題求解與感知和動(dòng)作模塊相結(jié)合，有可能解釋或?qū)崿F(xiàn)某些人類(lèi)或動(dòng)物行為以及他們?cè)谛碌沫h(huán)境中學(xué)習(xí)和行動(dòng)的方式，可以建立比現(xiàn)有程序計(jì)算量少得多的人工智能系統(tǒng)。在認(rèn)知計(jì)算的框架下，可以構(gòu)建更加完善的大規(guī)模數(shù)據(jù)處理和更多樣化的計(jì)算平臺(tái)，也可為多代理系統(tǒng)解決規(guī)劃和學(xué)習(xí)模型的問(wèn)題，以及為新的任務(wù)環(huán)境中的機(jī)器協(xié)同提供新的模式。
人工智能追求的長(zhǎng)期目標(biāo)是使機(jī)器能像人一樣感知世界和解決問(wèn)題。當(dāng)前的人工智能已不是一個(gè)獨(dú)立、封閉和自我循環(huán)發(fā)展的智能科學(xué)體系，而是通過(guò)與其他科學(xué)領(lǐng)域的交叉結(jié)合融入到人類(lèi)社會(huì)進(jìn)化的過(guò)程中，并將深刻改變?nèi)祟?lèi)社會(huì)生活，改變世界。
是為序。
鄭南寧
2017年7月31日
中國(guó) 西安
CAA混合智能專(zhuān)委會(huì)
聯(lián)系客服
