ChatGPT是啥?
2022年12月,人工智能聊天機(jī)器人ChatGPT刷爆網(wǎng)絡(luò),網(wǎng)友們爭(zhēng)先恐后去領(lǐng)略它的超高情商和巨大威力。參加高考、修改代碼、構(gòu)思小說(shuō)......它在廣大網(wǎng)友的“鞭策”下不斷突破自我,甚至可以用一整段程序,為你拼接出一只小狗。那么,ChatGPT是如何煉成的?是否意味著AI已具有人類(lèi)智能呢?
ChatGPT是啥?
一個(gè)超神級(jí)別的自然語(yǔ)言生成式AI。
ChatGPT是人工智能公司OpenAI的GPT自然語(yǔ)言生成式模型的最新衍生品,可以進(jìn)行“你來(lái)我往”的多輪聊天。
ChatGPT被業(yè)內(nèi)認(rèn)為是繼2020年NLP(自然語(yǔ)言處理)預(yù)訓(xùn)練模型——GPT-3之后的“GPT-3.5”。盡管不是傳聞中下一代自然語(yǔ)言生成模型GPT-4,但同樣對(duì)NLP以及人工智能領(lǐng)域有重要意義。
一款A(yù)I,能有多神呢?
ChatGPT是GPT(或生成式預(yù)訓(xùn)練轉(zhuǎn)換器)文本生成AI系列的最新發(fā)展,根據(jù)從互聯(lián)網(wǎng)上獲取的大量文本樣本來(lái)進(jìn)行訓(xùn)練。
一經(jīng)發(fā)布,ChatGPT便在網(wǎng)友的瘋狂“檢測(cè)”和“調(diào)戲”中表現(xiàn)出各種驚人的能力。OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)表示,自11月30日至12月5日,ChatGPT的用戶(hù)數(shù)量已突破100萬(wàn),需求大于預(yù)期。
在廣大網(wǎng)友的不懈努力下,ChatGPT短短幾天之內(nèi)——
參加了美國(guó)高校的入學(xué)資格考試(SAT),成績(jī)?yōu)橹械葘W(xué)生水平;
用《坎特伯雷故事集》風(fēng)格改寫(xiě)了90年代熱門(mén)歌曲《Baby Got Back》;
用《老友記》主角口吻創(chuàng)作了劇本對(duì)白;
構(gòu)思了簡(jiǎn)短的偵探小說(shuō);
簡(jiǎn)要闡釋了經(jīng)濟(jì)學(xué)理論;
給出了消除經(jīng)濟(jì)不平等的六點(diǎn)計(jì)劃;
與人類(lèi)進(jìn)行“心理戰(zhàn)”,猜想人類(lèi)實(shí)際上想讓計(jì)算機(jī)做什么;
規(guī)劃了如何毀滅世界;
生成關(guān)鍵詞指導(dǎo)AI作畫(huà);
扮演OpenAI,在系統(tǒng)內(nèi)構(gòu)建了ChatGPT套娃,相當(dāng)于“我”生了一個(gè)“我”......
ChatGPT是怎么煉成的?
要想了解ChatGPT,我們首先了解一下GPT。
Generative Pre-trained Transformer是一種基于互聯(lián)網(wǎng)可用數(shù)據(jù)訓(xùn)練的文本生成深度學(xué)習(xí)模型。它用于問(wèn)答、文本摘要生成、機(jī)器翻譯、分類(lèi)、代碼生成和對(duì)話AI。
2018年GPT-1誕生,這一年也是 NLP的預(yù)訓(xùn)練模型元年。
它可以:
·自然語(yǔ)言推理:判斷兩個(gè)句子的關(guān)系;
·問(wèn)答與常識(shí)推理:輸入文章及若干答案,輸出答案的準(zhǔn)確率;
·語(yǔ)義相似度識(shí)別:判斷兩個(gè)句子語(yǔ)義是否相關(guān);
·分類(lèi):判斷輸入文本是指定的哪個(gè)類(lèi)別。
發(fā)展到GPT-3,系統(tǒng)的聊天能力已經(jīng)無(wú)限接近于人類(lèi),甚至有超越之勢(shì)。
而相對(duì)于GPT3通過(guò)海量學(xué)習(xí)數(shù)據(jù)進(jìn)行訓(xùn)練,ChatGPT又有進(jìn)步。
它被加入道德原則。
按照預(yù)先設(shè)計(jì)的道德準(zhǔn)則,ChatGPT會(huì)對(duì)不合理或無(wú)法回答的提問(wèn)和請(qǐng)求“說(shuō)不”。敢于質(zhì)疑、主動(dòng)承認(rèn)錯(cuò)誤,這樣的“性格”可以不斷提升AI本身對(duì)用戶(hù)意圖的理解以及結(jié)果的準(zhǔn)確性。當(dāng)然,盡管OpenAI非常小心,這種準(zhǔn)則也可能被聰明的提問(wèn)方式繞開(kāi)。
它學(xué)會(huì)了從“人類(lèi)反饋中強(qiáng)化學(xué)習(xí)”,即Reinforcement Learning from Human Feedback(RLHF)。
ChatGPT 使用“預(yù)訓(xùn)練-微調(diào)”的工作范式訓(xùn)練了一個(gè)初始模型:人類(lèi)AI訓(xùn)練員提供對(duì)話,他們?cè)趯?duì)話中扮演雙方——用戶(hù)和AI助手,AI訓(xùn)練員可以訪問(wèn)模型編寫(xiě)的對(duì)話回復(fù),并幫助AI調(diào)整回復(fù)內(nèi)容。
被“調(diào)教”后的ChatGPT能夠識(shí)別惡意信息,識(shí)別后拒絕給出有效回答,或記住用戶(hù)之前所向它提問(wèn)的內(nèi)容,以各種方式組合語(yǔ)境想法,變成一個(gè)靈感生成器。
對(duì)于AI發(fā)展來(lái)說(shuō),創(chuàng)建一個(gè)迭代反饋的閉環(huán)至關(guān)重要。
除了RLHF,還使用了近端策略?xún)?yōu)化算法(PPO)微調(diào)模型,對(duì)整個(gè)學(xué)習(xí)過(guò)程進(jìn)行了數(shù)次迭代。上線后,ChatGPT將大量客戶(hù)的反饋互動(dòng)用于AI 的學(xué)習(xí),將其變成推動(dòng)AI進(jìn)步的關(guān)鍵一環(huán)。
AI是否已具有人類(lèi)智能?
討論AI是否已具有真正的“智能”是人類(lèi)的游戲。
圖靈測(cè)試(The Turing test)如今已然成為人工智能領(lǐng)域研究的核心目標(biāo)之一。它由艾倫·麥席森·圖靈提出,被公認(rèn)為是人工智能學(xué)科興起的標(biāo)志。圖靈測(cè)試將“思想能力”人為定義在功能和實(shí)用的范疇,為“智能”設(shè)定了條件。
圖靈測(cè)試究竟是什么意思?簡(jiǎn)單來(lái)說(shuō),就是把機(jī)器關(guān)到小黑屋中,讓它和人類(lèi)聊天對(duì)話,然后分辨小黑屋里回答問(wèn)題的究竟是機(jī)器還是人類(lèi)。如果無(wú)法辨別,就說(shuō)明了機(jī)器具有和人一樣等級(jí)的智能,通過(guò)測(cè)試。
而迄今為止,還沒(méi)有AI模型能真正通過(guò)圖靈測(cè)試。
提及GPT-4會(huì)有怎樣的優(yōu)化,ChatGPT給出了以下答案:
ChatGPT:
GPT-4是一個(gè)大型語(yǔ)言模型,是目前人工智能領(lǐng)域最先進(jìn)的技術(shù)之一。它能夠在大量訓(xùn)練數(shù)據(jù)的基礎(chǔ)上,模擬人類(lèi)的語(yǔ)言表達(dá)能力,并以相似的語(yǔ)言來(lái)回答問(wèn)題。目前,GPT-4還在不斷優(yōu)化,可能會(huì)有以下一些方面的改進(jìn):
GPT-4可能會(huì)增加更多的訓(xùn)練數(shù)據(jù),以提高它的知識(shí)面和準(zhǔn)確度。
GPT-4可能會(huì)增加更復(fù)雜的算法,以提高它的性能和處理能力。
GPT-4可能會(huì)增加更多的功能,例如語(yǔ)音合成、圖像識(shí)別等,以提高它的應(yīng)用能力。
GPT-4可能會(huì)增加更多的輸入輸出接口,例如聊天機(jī)器人、問(wèn)答系統(tǒng)等,以提高它的使用方便性。
江湖傳言:GPT-4已通過(guò)了圖靈測(cè)試。
未來(lái),AI是否可以真正具有人類(lèi)智能?眾說(shuō)紛紜。也許奇點(diǎn)已然臨近,也許依舊僅為空中樓閣。但不可否認(rèn)的是,ChatGPT必將引領(lǐng)一場(chǎng)人工智能領(lǐng)域的先鋒革命。
聯(lián)系客服