央廣網(wǎng)上海7月29日消息（記者郭振丹）當大模型技術(shù)在智能體、多模態(tài)等方面不斷邁進，哪些是全球大模型創(chuàng)新的共同方向與趨勢？當大模型產(chǎn)業(yè)應(yīng)用進入深水區(qū)，又將如何重塑全球產(chǎn)業(yè)格局與生態(tài)？

7月28日，2025世界人工智能大會期間，大模型智塑全球產(chǎn)業(yè)新秩序論壇于上海市徐匯區(qū)舉行。論壇發(fā)布了業(yè)內(nèi)首份系統(tǒng)性探討終端智能體安全研究報告，啟動了國內(nèi)首個地方性人工智能大模型產(chǎn)融合作平臺試運行，并向全球發(fā)出“大模型開源安全倡議”。同時，現(xiàn)場50余位全球AI專家學者聚焦大模型前沿產(chǎn)業(yè)突破與垂直領(lǐng)域應(yīng)用實踐建言獻策，全景展現(xiàn)大模型技術(shù)演進的新趨勢與驅(qū)動產(chǎn)業(yè)變革的新藍圖。

《終端智能體安全（2025）》發(fā)布（央廣網(wǎng)發(fā) 受訪者供圖）

論壇現(xiàn)場，業(yè)內(nèi)首份系統(tǒng)性探討終端智能體安全的研究報告——《終端智能體安全（2025）》（以下簡稱“報告”）正式發(fā)布。在終端智能體應(yīng)用落地加速發(fā)展的關(guān)鍵發(fā)展時期，報告從技術(shù)、產(chǎn)業(yè)、生態(tài)展開前瞻研究，率先提出全方位、多層次的終端智能體安全防護體系，旨在推動智能體應(yīng)用持續(xù)創(chuàng)新與安全發(fā)展。

報告指出，當前智能體正在向更多終端延伸，輕量型終端智能體可在手機、穿戴設(shè)備等日常終端直接運行，具備自主推理、快速交互能力，增強了貼近性與個性化服務(wù)。當輕量型終端智能體由原本功能簡單的智能模塊演化為具備感知、決策與執(zhí)行能力的本地 “自主實體”，其安全邊界不再只是“數(shù)據(jù)泄露”這么簡單，而是向模型行為、身份偽造、環(huán)境感知誤導(dǎo)，甚至算法倫理等深層問題蔓延。

針對這些挑戰(zhàn)，報告認為，終端智能體發(fā)展亟待構(gòu)建“數(shù)據(jù)共享、能力協(xié)同、 標準互認”的安全生態(tài)共建體系，通過多方參與、資源整合與技術(shù)協(xié)同為終端智能體安全可持續(xù)發(fā)展筑牢根基，并通過數(shù)據(jù)、技術(shù)、應(yīng)用的三方聯(lián)動構(gòu)建終端智能體的安全共同體。

因此，報告首次提出終端智能體安全體系，在技術(shù)生態(tài)體系的支撐下，單智能體安全技術(shù)包括安全護欄、數(shù)據(jù)去毒、基座對齊和柔性管理；多智能體可信互連技術(shù)包括可信數(shù)據(jù)流轉(zhuǎn)、可信服務(wù)流轉(zhuǎn)、可信身份認證和可信記憶共享；AI終端安全技術(shù)包括可信隱私沙箱、跨設(shè)備可信連接等，共同支撐AI/AR眼鏡、智能手機助手、智能座駕等行業(yè)應(yīng)用。

論壇現(xiàn)場，國內(nèi)首個地方性人工智能大模型產(chǎn)融合作平臺正式啟動試運行。該平臺打造構(gòu)建“匯數(shù)據(jù)、匯資源、匯政策”的一體化服務(wù)體系，集成智能推薦、風險評估、產(chǎn)業(yè)鏈跟蹤等工具，為人工智能產(chǎn)業(yè)創(chuàng)新、蓬勃發(fā)展筑牢基礎(chǔ)服務(wù)平臺。

此外，面對開源大模型大規(guī)模應(yīng)用帶來的更多安全風險，論壇面向全球重磅發(fā)布“大模型開源安全倡議”：一、堅持規(guī)范有序，構(gòu)建安全標準體系；二、堅持開放協(xié)同，保障開源要素安全；三、堅持智能向善，共建開源安全生態(tài)；四、堅持多元包容，凝聚開源安全國際共識。