人工智能代理必须被视为不受信任的系统：谷歌、Meta 研究人员

这条消息更适合放在宏观和风险偏好里看，不只是行业内新闻。

先看这条消息最重要的地方

• 人工智能代理在加密货币用户中越来越受欢迎，Circle 首席执行官杰里米·阿莱尔…
• 一篇新的研究论文指出，人工智能驱动的代理的安全性应该构建到整个系统中，而不仅仅是…
• 谷歌、Meta、Gray Swan AI、EmbraceTheRed 和几所大学…

事件本身说了什么

人工智能代理在加密货币用户中越来越受欢迎，Circle 首席执行官杰里米·阿莱尔 (Jeremy Allaire) 预测，五年内将有数十亿个人工智能代理运行。

一篇新的研究论文指出，人工智能驱动的代理的安全性应该构建到整个系统中，而不仅仅是围绕模型本身，以更好地防止失败和来自不良行为者的攻击。

谷歌、Meta、Gray Swan AI、EmbraceTheRed 和几所大学的研究人员于 5 月 20 日发布了修改后的论文，认为代理安全必须作为系统问题来对待，人工智能代理应被视为不可信组件。

研究人员表示：“从这个角度来看，提高模型稳健性的努力（社区的主流观点）本身是不够的。相反，我们必须用系统安全领域的技术来补充现有的努力。”

“为此，我们建议将代理安全视为计算机安全的一个实例。这个领域长期以来一直与强大的攻击者打交道，并推动了数十年对应对此类对手的原理和技术的研究。”

人工智能代理在加密货币用户中越来越受欢迎。一些加密货币高管推测，该领域的人工智能代理可能会在未来几年内爆炸式增长。Circle 首席执行官杰里米·阿莱尔 (Jeremy Allaire) 一月份预测，五年内将有数十亿人工智能代理代表用户运行。

研究人员表示，在研究了一系列攻击案例后，“三种机制”可以“消除很大一部分攻击”。

他们认为，人工智能代理应该清楚地区分指令和不可信数据，以避免攻击者通过在数据中隐藏恶意指令来欺骗代理。研究人员表示，人工智能代理还应该只拥有执行任务所需的最低权限，而不是完全访问权限。

研究人员表示，标准安全设置包括可信和不可信系统，人工智能应被视为不可信系统。来源：代理安全是一个系统问题

与此同时，更广泛的系统应该控制敏感信息的发送位置，而不是代理，以确保它不会被操纵将敏感数据发送到不安全的目的地。

在最近的一个案例中，人工智能加密货币交易助手 Bankr 表示，在发现一名攻击者已获得至少 14 个钱包的访问权限后，该公司于 5 月 20 日禁用了交易。安全专家推测该机器人可能已被黑客利用。

人工智能代理被用来构建 Web3 应用程序、启动代币并自主与服务和协议交互，一些平台正在探索人工智能进行交易。

“我想要证据证明人工智能可以在进行交易之前捕获抢先交易、应用滑点限制、发现诈骗代币并实时审核合约。它还应该沙箱提示、防止注入并阻止中间人访问，”他说。

与此同时，人工智能原生区块链平台 Sahara AI 的联合创始人 Sean Ren 表示，模型上下文协议在正确设置的情况下是安全的黄金标准，但用户仍应注意人工智能代理执行的每一个操作。

“它们本质上充当人工智能模型和你的钱包之间的看门人。代理只能执行特定的、经批准的操作，例如检查余额或准备付款供你确认，而不能自由转移资金或更改钱包设置，”他说。

放到主线里怎么看

虽然新闻本身不完全是加密行业内部事件，但地缘政治变化往往会直接影响风险资产偏好、美元流动性预期和市场避险情绪。对币圈用户来说，这类消息常常是观察比特币、黄金和美股联动的重要窗口。

今天最容易误判的地方

最容易误判的地方，是看到地缘消息就直接把它翻译成单边行情结论。真正要看的，是风险偏好会不会持续切换，而不是一根K线。

普通用户该怎么处理

普通用户今天更适合把它放进宏观和风险偏好框架里看，先看避险情绪和市场联动，再决定要不要提高对短线波动的警惕。

茅庐网提醒

茅庐网提醒：宏观和地缘政治新闻对币圈的影响往往是通过情绪和流动性传导，不适合只看标题就做交易决定。

消息来源：CoinTelegraph

币圈资讯由茅庐网（mao.lu）收集整理，仅供参考。