本文作者:访客

安恒信息王欣:MCP带来新应用但也可能出现新风险

访客 2025-05-11 10:49:21 13905
安恒信息王欣:MCP带来新应用但也可能出现新风险摘要: 新京报贝壳财经讯(记者罗亦丹)5月10日,2025中国数谷.西湖论剑大会上,安恒信息高级副总裁、研究院院长王欣发布了《安全智能体魔方:成熟度模型评价研究报告》。  对于近期各个大厂...

安恒信息王欣:MCP带来新应用但也可能出现新风险

  新京报贝壳财经讯(记者罗亦丹)5月10日,2025中国数谷.西湖论剑大会上,安恒信息高级副总裁、研究院院长王欣发布了《安全智能体魔方:成熟度模型评价研究报告》。

  对于近期各个大厂纷纷接入MCP(Model Context Protocol,模型上下文协议)这一现象,以及其背后可能蕴藏的安全问题,王欣告诉新京报贝壳财经记者,相对于聊天对话等简单模式的大模型产业应用,很多安全场景中大模型需要和安全防御体系相融合。MCP等规范出现后形成了一定生态,这类生态会让大模型、智能体、软件世界的安全防御体系做出更好的融合。

  “MCP是一种协议,过去计算机发展的过程中,许多协议最初并没有安全设计,MCP也是如此。因此会产生一些风险,例如当MCP+大模型组合使用时,如果存在配置不当,可能会导致正常大模型的价值观对齐防御体系失效,从而变成恶意大模型。”王欣说。

  王欣表示,随着MCP的出现,大模型和物理软件世界连接增多,可能带来各种各样新的场景应用,但也可能出现新的安全问题,“在这个过程中我们会不断地持续研究这个方向,尽量保证用户在使用大模型时尽可能地安全。”

阅读
分享