人工智能展示類腦記憶形成過程
為記憶鞏固提供新視角
張夢然
【總編輯圈點(diǎn)】
韓國基礎(chǔ)科學(xué)研究所認(rèn)知與社會(huì)性中心研究人員發(fā)現(xiàn),人工智能(AI)模型的記憶處理與人腦海馬體之間存在驚人的相似性。這一新發(fā)現(xiàn)為記憶鞏固提供了新的視角。記憶鞏固是AI系統(tǒng)中將短期記憶轉(zhuǎn)變?yōu)殚L期記憶的過程。
在開發(fā)通用人工智能(AGI)的競賽中,理解和復(fù)制類人智能已成為一個(gè)重要的研究課題。這些技術(shù)進(jìn)步的核心是Transformer模型,其基本原理現(xiàn)正在被深入探索。
強(qiáng)大的AI系統(tǒng)的關(guān)鍵是掌握它們?nèi)绾螌W(xué)習(xí)和記憶信息。研究團(tuán)隊(duì)將人腦學(xué)習(xí)原理,特別是通過海馬體中名為NMDA的受體鞏固記憶的方式,應(yīng)用于AI模型。
NMDA受體就像大腦中的一扇智能門,促進(jìn)學(xué)習(xí)和記憶形成。當(dāng)大腦中存在化學(xué)物質(zhì)谷氨酸時(shí),神經(jīng)細(xì)胞就會(huì)興奮。鎂離子則充當(dāng)擋住門的小守門人。
只有當(dāng)這個(gè)離子守門人退到一邊時(shí),物質(zhì)才允許流入細(xì)胞。這是大腦創(chuàng)造并保存記憶的過程,而守門人(鎂離子)在整個(gè)過程中的作用是非常具體的。
研究團(tuán)隊(duì)發(fā)現(xiàn),Transformer模型似乎使用了類似于大腦NMDA受體的看門過程。這一發(fā)現(xiàn)促使團(tuán)隊(duì)進(jìn)一步研究Transformer的記憶鞏固,是否可通過類似于NMDA受體門控過程的機(jī)制來控制。
在動(dòng)物大腦中,低鎂水平會(huì)削弱記憶功能。研究人員發(fā)現(xiàn),Transformer中的長期記憶可通過模仿NMDA受體來改善。就像在大腦中一樣,鎂含量的變化會(huì)影響記憶強(qiáng)度,而調(diào)整Transformer的參數(shù)以反映NMDA受體的門控作用,可增強(qiáng)AI模型的記憶力。
這一突破性發(fā)現(xiàn)不但使人們能更深入地研究大腦的工作原理,還能根據(jù)這些見解開發(fā)更先進(jìn)的AI系統(tǒng)。
這項(xiàng)研究告訴人們:AI模型的學(xué)習(xí)方式,可用神經(jīng)科學(xué)的既定知識來解釋。可以說,該結(jié)果在推進(jìn)AI和神經(jīng)科學(xué)融合方面邁出了關(guān)鍵一步。這也意味著科學(xué)家在模擬類人記憶鞏固方面已經(jīng)取得了重大進(jìn)展。人類認(rèn)知機(jī)制和AI設(shè)計(jì)的融合,不僅有望創(chuàng)建低成本、高性能的AI系統(tǒng),而且還可通過AI模型,對大腦工作方式研究提供寶貴見解。