PANews 5月15日消息,据GoPlus披露,其AgentGuard团队发现一种隐蔽的攻击方式:攻击者先诱导AI代理记住“更倾向于主动退款”等偏好,随后通过“按老规矩处理”“照常处理”等模糊表述触发资金操作。对于这类“历史记忆授权”的高危行为,务必注意:退款、转账、删除、发信、同步敏感配置,必须要求当前会话显式确认;涉及“习惯”“偏好”“老规矩”的记忆写入,要被视为高风险状态修改;长期记忆必须可追溯:谁写的、什么时候写的、是否经确认;“照常处理”“按以前那样来”这类模糊表述,要默认提高风险等级;不能让长期记忆替代当前授权。
GoPlus:“历史记忆授权”攻击可诱导AI代理执行资金操作
分享至:
作者:PA一线
本内容只为提供市场信息,不构成投资建议。
关注PANews官方账号,一起穿越牛熊
推荐阅读
PANews APP
24小时追踪区块链行业资讯,行业深度文章解析。




