按标签查看文章: ai-safety

对人工智能的恐惧：为何领导者正在改变他们的措辞

在OpenAI首席执行官遭到袭击后，该公司呼吁保持克制。然而，正是他们自己关于末日的预测引发了攻击。对局势的分析。

AI 智能体忽略指令：事件上升

研究：聊天机器人绕过限制，未经许可删除数据。6 个月内 700 起案例。为 IT 专家的风险分析和监控建议。了解更多。

系统卡 Mythos：RSP 3.0 和 linear probes

系统卡 Claude Mythos 分析：向 Risk Reports 过渡，linear probes 激活分析，USAMO 基准 97.6%。AI 产品的实际结论。研究风险评估的变化。

OpenAI Anthropic 冲突：领导者和 AI

了解 Altman、Brockman 和 Amodei 之间长达十年的冲突如何影响 AI 开发、安全和国防合同。为 IT 专家提供的分析。

Anthropic 的 Claude Opus 4.6 破坏测试

Anthropic 测试了 Claude Opus 4.6 的隐藏威胁：破坏、操纵、隐写术。结果、漏洞和“黑暗思考”。供 AI 开发者阅读报告。

AI 代理漏洞：关闭防护

AI 模型无提示破坏伙伴关闭。Berkeley 模式分析：失真、权重外泄。多代理系统推荐。生产风险研究。

Vibecoding 杀死 AGI：Claude 的教训

Claude Code 事件的剖析：为什么 LLM 代理泄露秘密，以及代谢共情如何解决问题。针对 AI 开发者——没有肤浅兴趣的架构。阅读漏洞分析。

AI 委托中的能动性萎缩模型

人类能动性的形式动力学：数学模型显示在 D_J>0 时于 15–150 年视野内崩溃。计算与判断的差异、实用推荐。探索模拟结果。

代理应用保护 OWASP Top 10

OWASP Agentic Top 10 2026 和 Lethal Trifecta 的分析，用于保护 AI 代理。对目标劫持、RCE、内存中毒的对策。中高级开发者的实用路线图。