薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则

专题:中国发展高层论坛2026年年会

薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则
(图片来源网络 ,侵删)

  中国发展高层论坛2026年年会于3月22日至23日在北京召开,本届论坛主题为“‘十五五’的中国:高质量发展与共创新机遇”。清华大学苏世民书院院长 、教授薛澜出席并演讲 。

  薛澜指出, 近期智能体发展速度极快。他解释道 ,如果把传统的AI大模型比作“大脑 ”,那么智能体则是给这个大脑加上了“手”、工具和记忆,使其能够真正自主完成复杂的任务。在应用层面 ,他提到国内近期活跃的“养龙虾”现象,用户通过多种方式给系统“喂 ”Token,将其培养成真正的个人助手 。他认为 ,实现这一目标需要一定的前提条件 ,而中国目前在这方面具备许多基础优势。

薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则
(图片来源网络,侵删)

  就如何应对智能体治理风险 ,薛澜认为, 必须始终坚持“以人为本 、智能向善”的基本原则,并强调采取适合智能体特点的“敏捷治理、多元共治”模式。他提出 ,治理模式需在原有大语言模型治理基础上进行三点调整:首先,从“内容安全 ”延伸到“行为安全”,不仅要管控文本内容 ,更要确保智能体执行动作的边界可靠;其次,从静态边界管理转向“动态边界管理”,随着技术迭代和安全边界的扩大 ,治理模式必须同步升级;最后,从单纯的“风险防控 ”转向“可信交互 ”,只有建立起用户对智能体的信任 ,才敢授权其处理订酒店、机票等关键任务 。

  在具体治理举措上 ,薛澜提出了三方面建议:

  第一,从技术角度,要以安全可控为底线 ,通过技术架构确保智能体行为可验证 、可干预、可追溯。具体包括实施权限隔离与人类控制,确保关键环节由人主导;搭建部署安全智能体,进行持续监控评估;以及构建安全可信的执行环境。

  第二 ,从监管角度,要以权责清晰为基础,通过制度设计明确各方责任 ,为创新提供秩序轨道 。重点在于明确用户授权,遏制平台权限滥用,并建立包容审慎的分级监管制度 。

  第三 ,从社会角度,需采取多项应对措施:一是“能力重塑”,培养劳动者指挥Agent协作的新技能 ,提升人机协作能力;二是建立“就业缓冲”机制 ,通过转岗帮助受冲击群体寻找新就业方式;三是完善“社会保障 ”,健全失业与再就业支持机制,兜底暂时未就业群体;四是加强“公共教育” ,提升全民对人工智能的认知与风险意识,既避免盲目跟风应用,又鼓励大众积极拥抱新技术。

  新浪声明:所有会议实录均为现场速记整理 ,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。