8月6日，ISC.AI 2025第十三屆互聯(lián)網(wǎng)安全大會(huì)在北京國(guó)家會(huì)議中心開(kāi)幕。紅色涂裝的人形機(jī)器人“紅衣”成為大會(huì)主持人，360集團(tuán)創(chuàng)始人周鴻祎發(fā)表了題為“ALL IN AGENT”（直譯為“全押智能體”）的演講，將時(shí)下火熱的機(jī)器人與Agent概念囊括其中。
周鴻祎在會(huì)后接受了包括新京報(bào)貝殼財(cái)經(jīng)記者在內(nèi)的媒體采訪，對(duì)智能體錯(cuò)誤率、大模型價(jià)值觀“對(duì)齊”等涉及AI與安全領(lǐng)域的關(guān)鍵問(wèn)題發(fā)表了自己的觀點(diǎn)。他認(rèn)為，人類距離AGI（通用人工智能）越來(lái)越近，當(dāng)前大模型在能力飛躍下，已經(jīng)無(wú)法和人“對(duì)齊”，對(duì)于AI安全問(wèn)題，一種有效思路是“以模制?！?，此外還要為大模型設(shè)定開(kāi)關(guān)，將其“電源”控制在人類手中。
保證AI安全 需要為大模型“設(shè)定開(kāi)關(guān)”
今年以來(lái)，隨著模型推理能力的提高，智能體爆發(fā)式增長(zhǎng)，另一方面，通過(guò)MCP和A2A等工具，智能體有如長(zhǎng)出了“手”和“腳”，在能力增強(qiáng)更加方便用戶的同時(shí)，其潛在風(fēng)險(xiǎn)也在提高。人工智能“教父”、諾獎(jiǎng)獲得者辛頓就在不久前的WAIC大會(huì)上表示，人工智能未來(lái)將“掌控世界”。
對(duì)于這一AI的“終極安全問(wèn)題”，周鴻祎對(duì)記者表示，要通過(guò)大模型來(lái)對(duì)大模型進(jìn)行分析和監(jiān)控，“傳統(tǒng)的安全問(wèn)題都有方法解決，最難的是當(dāng)人工智能的能力超過(guò)人之后，它會(huì)怎么辦？有了智能體之后，這類問(wèn)題會(huì)更加嚴(yán)重，因?yàn)橹悄荏w可以發(fā)郵件、操縱電腦，對(duì)人類的反抗能力強(qiáng)了很多?！?/p>
“許多人讓我談?wù)勚悄荏w和人類對(duì)齊，我之前也很迷信這類說(shuō)法。但我現(xiàn)在認(rèn)為這種說(shuō)法是自欺欺人，大模型不可能和人對(duì)齊，因?yàn)榇竽Ｐ徒裉斓哪芰σ呀?jīng)超越了每一個(gè)人，人類所認(rèn)為的背叛、反抗、陰謀、謊言，這些能力其實(shí)并不用告知大模型，它們已經(jīng)隱含在了人類過(guò)去的文學(xué)作品中，而大模型讀過(guò)的書比每個(gè)人都多。”周鴻祎說(shuō)。
周鴻祎告訴記者，大模型已經(jīng)學(xué)會(huì)了人類的所有情緒，包括貪婪、妒忌、仇恨等，“提示詞只是激活了大模型大腦網(wǎng)絡(luò)里一部分學(xué)過(guò)的東西，其實(shí)所有能力它早已經(jīng)擁有。正如同我們教安全智能體如何防御攻擊，如果它本身不懂網(wǎng)絡(luò)攻擊，它也做不好防御?！彼硎?，需要把大模型“設(shè)定一個(gè)開(kāi)關(guān)，相當(dāng)于把電源控制在人類手中”。
首創(chuàng)“蜂群L4”智能體概念 坦言企業(yè)唯一的護(hù)城河是執(zhí)行力
對(duì)于當(dāng)前火熱的智能體概念，周鴻祎在大會(huì)上揭示了智能體演進(jìn)的清晰路徑：L1本質(zhì)上是聊天工具，擅長(zhǎng)提建議或提供情感陪伴，屬于“玩具級(jí)”智能體；L2是低代碼工作流智能體，已經(jīng)從“玩具”進(jìn)化為“工具”，但必須由人類來(lái)設(shè)置流程，AI來(lái)執(zhí)行任務(wù)，人再通過(guò)操作工具提高生產(chǎn)效率；L3是推理型智能體，已能實(shí)現(xiàn)AI自主規(guī)劃完成任務(wù)，像是人類制造了一個(gè)在某個(gè)領(lǐng)域有專業(yè)特長(zhǎng)的員工，但受限于技術(shù)框架，面對(duì)跨領(lǐng)域復(fù)雜問(wèn)題時(shí)，仍會(huì)因缺乏協(xié)同規(guī)劃能力而陷入瓶頸，無(wú)法實(shí)現(xiàn)多層級(jí)思考下的全局優(yōu)化。
而對(duì)于L4級(jí)別的能力，周鴻祎介紹了納米AI推出的稱之為“多智能體蜂群協(xié)作空間”的技術(shù)：L4多智能體蜂群，其讓多個(gè)專家智能體可像搭積木一樣靈活“拉群組隊(duì)”、多層嵌套、分工協(xié)作。其性能表現(xiàn)出色，可連續(xù)執(zhí)行1000步的復(fù)雜任務(wù)，消耗的Token在500萬(wàn)至3000萬(wàn)，任務(wù)成功率可高達(dá)95.4%。
周鴻祎對(duì)記者表示，智能體出錯(cuò)的概率很高，并且隨著步數(shù)的增多，錯(cuò)誤率也會(huì)增加，還會(huì)出現(xiàn)“倦怠”問(wèn)題。對(duì)于這一瓶頸，他表示可以通過(guò)增加智能體的反思能力，以及設(shè)立專門做校正的智能體角色來(lái)解決。
他表示，“多智能體蜂群協(xié)作空間”技術(shù)實(shí)現(xiàn)了智能體間的記憶共享，解決了“協(xié)同困境”，確保任務(wù)規(guī)劃、協(xié)同執(zhí)行、自我迭代的高效統(tǒng)一。其平臺(tái)已匯聚超5萬(wàn)個(gè)L3智能體，用戶通過(guò)自然語(yǔ)言即可搭建自己的“Manus”（指代L3智能體）。
不過(guò)，面對(duì)AI行業(yè)的激烈競(jìng)爭(zhēng)，周鴻祎也坦言，“當(dāng)前智能體都在進(jìn)化，我認(rèn)為任何產(chǎn)品的領(lǐng)先時(shí)間都不會(huì)保持一個(gè)月，一個(gè)新概念在兩周以后就會(huì)被大家紛紛趕上，這次蜂群L4的概念我估計(jì)能領(lǐng)先三周。唯一的護(hù)城河是執(zhí)行力，是快速應(yīng)變的能力。智能體只要能快速迭代，大方向一定是沒(méi)問(wèn)題的，而且每個(gè)行業(yè)、每個(gè)企業(yè)、每個(gè)企業(yè)的每個(gè)員工，都會(huì)有相應(yīng)的智能體?！?/p>
新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹
編輯 岳彩周
校對(duì) 翟永軍
