訓(xùn)練人工智能系統(tǒng)與養(yǎng)育孩童竟有異曲同工之妙。部分AI研究者開始借鑒兒童通過探索、好奇、漸進(jìn)學(xué)習(xí)和正向激勵獲取知識的方式，來開發(fā)新一代人工智能。"當(dāng)前AI算法的許多缺陷，可以通過借鑒神經(jīng)科學(xué)和兒童發(fā)展理論來解決，"羅切斯特大學(xué)計算機(jī)科學(xué)系副教授Christopher Kanan表示。這位專精人工智能、持續(xù)學(xué)習(xí)與腦啟發(fā)算法的專家指出，要讓AI具備類人推理能力——且更快更強(qiáng)——就必須將安全防護(hù)機(jī)制內(nèi)置于開發(fā)全程，"若等到最后才考慮安全，我們可能釋放出怪物"。
通用人工智能的定義與分野
人工智能旨在創(chuàng)建能執(zhí)行感知、推理、決策等人類特有智能任務(wù)的計算機(jī)系統(tǒng)。傳統(tǒng)AI研究多聚焦于專用人工智能(ANI)，如圖像識別系統(tǒng)、語音助手或策略游戲程序，這些系統(tǒng)在特定任務(wù)上往往表現(xiàn)超群。
而通用人工智能(AGI)則致力于構(gòu)建像人類一樣跨領(lǐng)域理解、推理和學(xué)習(xí)的系統(tǒng)。實現(xiàn)AGI仍是AI研究的終極目標(biāo)，目前尚未突破。更遙遠(yuǎn)的超級人工智能——在幾乎所有領(lǐng)域遠(yuǎn)超人類智能的存在——目前仍屬于科幻范疇。
"我們實驗室正通過借鑒神經(jīng)科學(xué)和兒童發(fā)展理論，推動AI系統(tǒng)像人類兒童般持續(xù)學(xué)習(xí)適應(yīng)，向AGI邁進(jìn)。"
AI的學(xué)習(xí)方式解析
ANI的成功得益于2014年興起的深度學(xué)習(xí)技術(shù)。通過人類標(biāo)注的海量數(shù)據(jù)訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)，深度學(xué)習(xí)已支撐起從計算機(jī)視覺、自然語言處理到生物醫(yī)學(xué)研究的現(xiàn)代AI應(yīng)用。這類系統(tǒng)在圖像識別、語言翻譯、棋類游戲及內(nèi)容生成方面表現(xiàn)卓越。
以GPT-4為代表的大語言模型(LLM)采用自監(jiān)督學(xué)習(xí)：通過預(yù)測文本序列而非人工標(biāo)注來訓(xùn)練，其訓(xùn)練數(shù)據(jù)量相當(dāng)于人類數(shù)十萬年閱讀量。基礎(chǔ)訓(xùn)練后還需經(jīng)過監(jiān)督微調(diào)與基于人類反饋的強(qiáng)化學(xué)習(xí)(RLHF)，以規(guī)范輸出邊界。
AI的卓越能力清單
語言處理：在翻譯、寫作、文本潤色等方面表現(xiàn)優(yōu)異
應(yīng)試能力：GPT-4在美國律師考試(90百分位)、LSAT(88百分位)等高端測試中遠(yuǎn)超人類平均水平
科研輔助：可生成假設(shè)、起草研究方案、整合復(fù)雜文獻(xiàn)
情感智能：研究顯示其情商評分甚至高于人類
生成式AI的現(xiàn)存局限
幻覺問題：會自信地生成似是而非的錯誤信息
認(rèn)知凍結(jié)：訓(xùn)練后知識停止更新，無法持續(xù)學(xué)習(xí)
元認(rèn)知缺失：缺乏自我覺察能力，鮮少主動澄清模糊指令
漸進(jìn)學(xué)習(xí)障礙：無法像人類那樣層層遞進(jìn)掌握復(fù)雜技能
"人類嬰兒需先掌握基礎(chǔ)動作控制才能學(xué)習(xí)行走，而當(dāng)前LLM完全不具備這種累積式學(xué)習(xí)能力——這正是我們重點研究的課題。"
AI帶來的挑戰(zhàn)與風(fēng)險
職場變革：
對需要專業(yè)知識的白領(lǐng)崗位沖擊顯著
AI助手能使新手快速達(dá)到專家水平，可能導(dǎo)致大規(guī)模崗位精簡
需要創(chuàng)造力、領(lǐng)導(dǎo)力或?qū)嶓w操作的工作短期內(nèi)難以被取代
安全隱憂：
比起尼克·博斯特羅姆提出的"回形針危機(jī)"假說，更需警惕人類惡意使用AI的風(fēng)險
需加強(qiáng)國際合作、負(fù)責(zé)任開發(fā)與學(xué)術(shù)安全研究
監(jiān)管應(yīng)平衡安全與創(chuàng)新，避免開源生態(tài)受挫導(dǎo)致技術(shù)壟斷
實現(xiàn)AGI的可能性探討
AI領(lǐng)域三位"教父"——圖靈獎得主Yoshua Bengio、Geoffrey Hinton和Yann LeCun——均認(rèn)同AGI可實現(xiàn)性。Bengio與Hinton近期多次警示AGI可能帶來生存危機(jī)。但值得注意的是："現(xiàn)有LLM架構(gòu)本身不足以實現(xiàn)真正的AGI。"Kanan指出關(guān)鍵差異："人類思維不依賴語言媒介，而LLM的推理完全建構(gòu)于語言之上，這從根本上限制了其抽象思維與可視化能力。"
精選文章：
人工智能時代的創(chuàng)意構(gòu)思：工業(yè)設(shè)計師Vojtek Morsztyn如何突破創(chuàng)作空白
Genies 推出用戶生成內(nèi)容工具，讓任何人都可以創(chuàng)建自定義 AI 頭像