Claude Mythos：暴露企业网络漏洞的AI模型令英美监管机构震惊
英国金融监管机构针对Anthropic的Claude Mythos模型召开紧急会议。与会者——包括英格兰银行、FCA、财政部和NCSC——将讨论该模型独立在关键IT系统中搜寻漏洞的风险。该模型在AISI的cyber-range中运行了对企业网络的完整模拟，根据当局说法，这使其成为最强大的cyber模型。
在人工智能安全研究所的测试
英国人工智能部长Kanishka Narayan证实：Mythos是首个完全掌握模拟企业网络导航的模型。在为独立评估AI而设立的AISI，该模型在没有任何操作员干预的情况下发现了漏洞。监管机构已对这些发现做出回应，尽管细节尚未披露。
测试内容包括：
- 自主扫描网络段。
- 识别IT基础设施中的零日漏洞。
- 模拟现实世界的攻击与防御场景。
这使Mythos区别于其前身，后者需要提示才能进行导航。
美国反应：类似措施
美国率先行动：上周，财政部长Scott Bessent和美联储主席Jerome Powell召集了来自花旗集团、高盛和摩根士丹利的银行家。任务是——在它落入恶意之手前，在自家系统上测试Mythos。Anthropic已推迟公开发布，通过Project Glasswing项目限制访问，用于防御性网络安全应用。
该模型已在以下领域发现了数千个严重漏洞：
- 操作系统。
- 浏览器。
- 常用软件。
专家观点与疑虑
并非所有人都感到震惊。AI研究员Gary Marcus质疑Anthropic的说法，认为这是营销炒作。议员Danny Kruger呼吁与开发者密切合作，而非仅依赖执法机构。
Mythos正从公司内部工具演变为七国集团协调焦点。一周内两次会议凸显这一转变：网络安全领域的AI亟需国际监管。
要点
- Mythos在cyber-range中独立导航企业网络，超越以往模型。
- 英美监管机构正在关键基础设施上测试它，以最小化风险。
- Anthropic限制访问，聚焦防御用途。
- 该模型发现了操作系统、浏览器和软件中的数千漏洞。
- 讨论正为发布强大cyber-AI制定新规则铺路。
监管前景
这些事件预示着趋向更严格管控。包括银行、保险公司和交易所的跨市场运营弹性小组将在Duncan MacKinnon领导下评估风险。对于开发者而言，这意味着在创新与安全间取得平衡：Mythos公开发布需经验证方可行。
对于中高级开发者，关键技术亮点在于Mythos在自主红队测试中的先进能力——无需人类输入模拟攻击。这涉及思维链推理，用于分析网络协议、解析日志，并基于发现弱点生成利用代码。
— Editorial Team
暂无评论。