新聞1+1丨中關(guān)村論壇，人工智能將如何進(jìn)化？

本周，從中國發(fā)展高層論壇，到博鰲亞洲論壇，再到中關(guān)村論壇，這些論壇重點(diǎn)都在關(guān)注經(jīng)濟(jì)與科技，這其中在科技層面，人工智能、人形機(jī)器人等方面的發(fā)展和討論，尤為受到關(guān)注。

3月27日，2025中關(guān)村論壇年會正式開幕，這個(gè)聚焦科技的論壇，也設(shè)置了更多與人工智能有關(guān)的內(nèi)容。現(xiàn)在，人工智能的發(fā)展究竟到了一個(gè)怎樣的階段?在現(xiàn)有的基礎(chǔ)上，如何讓人工智能繼續(xù)往前走?發(fā)展的同時(shí)，又如何解決安全的問題?《新聞1+1》連線清華大學(xué)人工智能研究院教授黃民烈、中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒，帶來分析解讀。

人工智能的關(guān)注點(diǎn)在發(fā)生哪些變化?

清華大學(xué)人工智能研究院教授 黃民烈：我認(rèn)為今年的變化有兩個(gè)熱點(diǎn)：

具身智能，今年的具身智能確實(shí)是除了生成式大模型之外，最主要的一個(gè)研究熱點(diǎn)和產(chǎn)業(yè)布局方向，這個(gè)方向的投融資非常活躍，因?yàn)榫呱碇悄苁峭ㄟ^一個(gè)比較具身的大模型和機(jī)器人結(jié)合，能夠去實(shí)現(xiàn)比如類似我們今天看到的人形機(jī)器人、自動駕駛等等這樣一些可見度非常高的應(yīng)用場景。

另外很重要的一個(gè)變化就是AI for Sciences(形成人工智能驅(qū)動的科學(xué)研究)，為什么AI for Sciences在當(dāng)下變得很重要?是因?yàn)檫^去的大模型，可能只能陪人聊天，幫人寫公文，去做一些文檔的操作，但是能不能用AI幫去做創(chuàng)新呢?去做解決一些重大的科學(xué)發(fā)現(xiàn)，比如去探索怎樣發(fā)現(xiàn)新材料，去解決一些很重要的基礎(chǔ)科學(xué)問題，比如說醫(yī)學(xué)的研究，甚至是生命科學(xué)的研究。這個(gè)方向其實(shí)也是未來，怎樣能真正用AI來創(chuàng)造新的東西，發(fā)現(xiàn)新的知識，然后探索一些過去人類沒有探索的一些重要的科學(xué)發(fā)現(xiàn)，這是我們很重要的一個(gè)關(guān)注點(diǎn)。

今年在中關(guān)村論壇上，這兩個(gè)點(diǎn)也是非常好地體現(xiàn)出來了。

要在工業(yè)場景中發(fā)展人工智能應(yīng)用，關(guān)鍵是什么?

清華大學(xué)人工智能研究院教授 黃民烈：我認(rèn)為未來人工智能對于工業(yè)場景的應(yīng)用，是一個(gè)非常重要的方向，也是實(shí)現(xiàn)新質(zhì)生產(chǎn)力的最主要的突破方向。因?yàn)楣I(yè)場景的人工智能應(yīng)用是需要高可靠性的，所以我們要解決三方面很重要的問題：

我們的智能化能不能提高到一個(gè)更高的水平上，雖然現(xiàn)在的大模型在很多方面已經(jīng)非常智能了，但是我們在工業(yè)場景的數(shù)據(jù)，跟實(shí)際的工作流程要深度結(jié)合，這種結(jié)合我們的智能化能不能做到更高的水平。

它的可靠性的問題，在工業(yè)場景容錯空間是相對比較小的，一旦出現(xiàn)錯誤，可能會造成破壞性的效果也是比較顯著的，所以需要有一個(gè)比較高的可靠性。在可靠性上，也是當(dāng)下人工智能研究的一個(gè)很重要的方向。

安全性的問題，安全性就是說我們應(yīng)用了很多新一代的人工智能技術(shù)，其實(shí)對我們整個(gè)人和AI的關(guān)系，以及AI對于整個(gè)社會發(fā)展會造成什么深刻的影響，其實(shí)這是一個(gè)治理層面的問題。安全性和治理也是未來一個(gè)很重要的需要去關(guān)注的點(diǎn)。

如何應(yīng)對人工智能發(fā)展中，存在的風(fēng)險(xiǎn)和安全問題?

中國政法大學(xué)數(shù)據(jù)法治研究院教授 張凌寒：實(shí)際上我們在監(jiān)管法律法規(guī)的制定當(dāng)中，已經(jīng)充分考慮到了AI的風(fēng)險(xiǎn)問題。在去年9月，我國頒布了《人工智能安全治理框架》，其中就把人工智能的風(fēng)險(xiǎn)劃分為兩類——內(nèi)生風(fēng)險(xiǎn)和應(yīng)用風(fēng)險(xiǎn)，實(shí)際上就是AI的技術(shù)風(fēng)險(xiǎn)和濫用風(fēng)險(xiǎn)。對于內(nèi)生風(fēng)險(xiǎn)的治理，我們提出的原則是“以技治技”，用技術(shù)來治理技術(shù)。人工智能的技術(shù)，在進(jìn)行研發(fā)和部署的階段，就要去充分進(jìn)行測評，進(jìn)行價(jià)值的對齊，并且去進(jìn)行持續(xù)的運(yùn)行監(jiān)控。對于應(yīng)用的風(fēng)險(xiǎn)，其實(shí)我們不光要關(guān)注對于AI的法律治理和監(jiān)管，與AI相關(guān)的一些產(chǎn)業(yè)的法律也要充分去制定和考量，比如說像自動駕駛、智慧醫(yī)療、AI陪伴等等，充分地去做一個(gè)全面的規(guī)劃。

》》》視頻請點(diǎn)擊