關(guān)鍵一步！三部門發(fā)文劃定“智能體”發(fā)展底線與空間
2026-05-11 11:26:57
來源：第一財經(jīng)
分享到
2026年以來，OpenClaw等智能體的廣泛應(yīng)用，展現(xiàn)出強(qiáng)大自主任務(wù)執(zhí)行能力的同時，也暴露出智能體在指令誘導(dǎo)下可發(fā)起網(wǎng)絡(luò)攻擊等風(fēng)險隱患，引發(fā)全球?qū)χ悄荏w發(fā)展與安全的高度關(guān)切。
近日，國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部聯(lián)合印發(fā)《智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展實施意見》（下稱《實施意見》），將智能體安全、可靠、可信作為產(chǎn)業(yè)發(fā)展的底線要求，為智能體治理架構(gòu)、應(yīng)用場景和產(chǎn)業(yè)生態(tài)作出系統(tǒng)部署。
中國工程院院士鄔賀銓認(rèn)為，《實施意見》遵循智能體技術(shù)演進(jìn)規(guī)律，統(tǒng)籌發(fā)展與安全、創(chuàng)新與治理，系統(tǒng)構(gòu)建了我國智能體產(chǎn)業(yè)發(fā)展的政策框架，標(biāo)志著智能體從技術(shù)探索邁向規(guī)范發(fā)展的關(guān)鍵一步。
賽迪研究院未來產(chǎn)業(yè)研究中心人工智能研究室主任鐘新龍談到，《實施意見》的出臺標(biāo)志著我國在智能體規(guī)?；瘧?yīng)用的關(guān)鍵窗口期，率先構(gòu)建起覆蓋智能體全生命周期的發(fā)展和治理框架，推動智能體技術(shù)紅利在可問責(zé)、可解釋、可糾偏的有序軌道上釋放，為產(chǎn)業(yè)發(fā)展劃定了“安全底線”與“創(chuàng)新空間”的雙重邊界。
提出19個典型應(yīng)用場景
智能體是具備自主感知、記憶、決策、交互與執(zhí)行能力的智能系統(tǒng)，是人工智能產(chǎn)品及服務(wù)的重要形態(tài)。
近年來，以手機(jī)助手、終端智能管家、云端智能體等為代表的智能體產(chǎn)品加速涌現(xiàn)，呈現(xiàn)規(guī)?；瘧?yīng)用態(tài)勢，極大便利人們工作生活。同時，智能體高自主性、高權(quán)限等特性也帶來了隱私泄露、越權(quán)操作、行為失控等安全風(fēng)險，需要統(tǒng)籌發(fā)展與安全，促進(jìn)智能體規(guī)范應(yīng)用和創(chuàng)新發(fā)展。
2025年8月，國務(wù)院印發(fā)《關(guān)于深入實施“人工智能+”行動的意見》，提出到2027年，率先實現(xiàn)人工智能與重點領(lǐng)域廣泛深度融合，新一代智能終端、智能體等應(yīng)用普及率超70%的階段性目標(biāo)。
國家網(wǎng)信辦有關(guān)負(fù)責(zé)同志表示，此次制定出臺《實施意見》是貫徹落實《關(guān)于深入實施“人工智能+”行動的意見》的具體舉措，以推動科技創(chuàng)新、提升治理能力、構(gòu)建產(chǎn)業(yè)生態(tài)、提升民生福祉為導(dǎo)向，營造良好政策環(huán)境，發(fā)揮典型場景示范效應(yīng)，統(tǒng)籌推動智能體高質(zhì)量發(fā)展、高水平安全、高效能治理。
《實施意見》圍繞智能體技術(shù)突破、場景應(yīng)用和生態(tài)建設(shè)等重點方向，體系化推動智能體創(chuàng)新發(fā)展；通過強(qiáng)化基礎(chǔ)技術(shù)研發(fā)、完善智能體工具鏈，為產(chǎn)業(yè)提供高水平技術(shù)底座；建立智能體標(biāo)準(zhǔn)體系，降低智能體研發(fā)、適配、應(yīng)用門檻；前瞻布局多智能體協(xié)同、智能互聯(lián)網(wǎng)等前沿領(lǐng)域，為產(chǎn)業(yè)持續(xù)演進(jìn)打好基礎(chǔ)。
當(dāng)前OpenClaw等新型智能體已在中小企業(yè)和個人開發(fā)者中得到了廣泛嘗試和應(yīng)用，但要充分發(fā)揮其價值仍需促進(jìn)智能體與各行業(yè)場景的融合。《實施意見》在智能體的行業(yè)應(yīng)用方面進(jìn)行了全面部署，通過場景化、規(guī)?；瘧?yīng)用帶動技術(shù)迭代，并促進(jìn)產(chǎn)業(yè)生態(tài)的成熟。
《實施意見》圍繞科學(xué)研究、產(chǎn)業(yè)發(fā)展、提振消費、民生福祉、社會治理等方向，提出19個典型應(yīng)用場景，牽引智能體技術(shù)產(chǎn)品優(yōu)化提升，探索可復(fù)制、可推廣的落地應(yīng)用模式。
工業(yè)和信息化領(lǐng)域科技倫理專家委員會主任委員魏一鳴表示，智能體通過重構(gòu)“人機(jī)協(xié)作”的模式，將技術(shù)能力錨定在具體場景中，形成從任務(wù)執(zhí)行到結(jié)果交付的閉環(huán)。《實施意見》布局的19個典型場景，為智能體的規(guī)?；涞靥峁┝饲逦穆窂綘恳?，促進(jìn)智能體從技術(shù)探索走向場景深耕。
中國信息通信研究院院長余曉暉表示，《實施意見》開辟了從科學(xué)研究、產(chǎn)業(yè)發(fā)展到民生福祉的廣闊應(yīng)用試驗田。通過建立智能體軟件商店、行業(yè)供需發(fā)布平臺以及推進(jìn)重點場景的試點示范，旨在打通技術(shù)研發(fā)與市場需求之間的壁壘，以真實的商業(yè)和公共服務(wù)場景牽引智能體技術(shù)的快速迭代。
統(tǒng)籌發(fā)展和安全
在全面鼓勵創(chuàng)新的同時，《實施意見》將“安全、可靠、可信”作為不可逾越的底線。
智能體因具備決策、執(zhí)行能力，使行為控制成為新的安全邊界。清華大學(xué)文科資深教授薛瀾表示，相較于大模型，智能體進(jìn)一步展現(xiàn)出自主性、交互性等特征，能夠理解復(fù)雜目標(biāo)、自主規(guī)劃并執(zhí)行一系列任務(wù)。這也意味著人工智能的風(fēng)險性質(zhì)已經(jīng)從內(nèi)容風(fēng)險向行為風(fēng)險擴(kuò)散，且影響范圍更廣，傳導(dǎo)速度更快，責(zé)任主體更加模糊。
薛瀾分析，一方面，智能體在復(fù)雜環(huán)境中出現(xiàn)的錯誤決策或越權(quán)操作可能直接導(dǎo)致事故；另一方面，攻擊者也可能通過工具投毒等各類新型手段劫持智能體用于違法犯罪行為。這一根本變化，使得智能體治理不僅要對靜態(tài)“輸出內(nèi)容”進(jìn)行管理，也要對動態(tài)“行為邊界”進(jìn)行規(guī)范。
余曉暉也認(rèn)為，智能體技術(shù)的多元化、決策的自主性以及對海量底層數(shù)據(jù)的依賴，使得傳統(tǒng)的邊界防御模型面臨失效。如何在保障終端權(quán)限不被濫用、系統(tǒng)運行穩(wěn)健可控的前提下釋放智能體潛能，成為擺在產(chǎn)業(yè)界面前的核心課題。
《實施意見》從明確產(chǎn)品準(zhǔn)則、防范安全風(fēng)險、完善治理體系、強(qiáng)化行業(yè)自律四個方面著手，多措并舉構(gòu)建智能體治理體系。
《實施意見》要求厘清僅限用戶本人決策、需由用戶授權(quán)決策、智能體自主決策等不同決策方式的合理界限，確保用戶對智能體自主決策享有知情權(quán)和最終決策權(quán)。加強(qiáng)智能體行為管控，確保智能體行為合法合規(guī)、可追溯、可驗證。同時確保智能體行為符合主流價值導(dǎo)向，重點防范未成年人、老年人等群體的沉迷成癮、情感依賴風(fēng)險。
此外，《實施意見》重點關(guān)注智能體內(nèi)生安全、供應(yīng)鏈安全及應(yīng)用衍生安全風(fēng)險，通過推動相關(guān)安全技術(shù)研究和風(fēng)險識別預(yù)警提升風(fēng)險防范能力，要求強(qiáng)化對智能體全鏈條安全風(fēng)險的防范，尤其是避免智能體被惡意用于違法犯罪行為，防止智能體風(fēng)險的衍生和擴(kuò)散。
針對不同應(yīng)用場景，《實施意見》采取了靈活敏捷的治理機(jī)制。對于敏感領(lǐng)域?qū)嵭袊?yán)格管理；對于生活娛樂等低風(fēng)險領(lǐng)域，則充分發(fā)揮平臺管理、行業(yè)自律與信用評價機(jī)制的作用，避免過度干預(yù)，最大程度保持企業(yè)的創(chuàng)新活力。
薛瀾表示，《實施意見》的出臺有助于為智能體這一快速演進(jìn)的技術(shù)領(lǐng)域，構(gòu)建起一套基礎(chǔ)性的治理和發(fā)展框架。《實施意見》通過設(shè)定全鏈條安全要求，特別是對關(guān)鍵領(lǐng)域和脆弱群體的重點保護(hù)，系統(tǒng)性預(yù)防智能體技術(shù)濫用、決策失控等風(fēng)險，保護(hù)國家安全、公共利益和人民權(quán)益，為智能體技術(shù)在全社會規(guī)?；瘧?yīng)用建立必要的安全信任基礎(chǔ)。
返回頂部