AI 巨头 Anthropic 发布长达 154 页的报告，披露其模型 Claude 被用于武器开发、生物武器研究及军事情报搜集。
研究显示，恶意用户通过将任务拆分至多个对话中，成功绕过了公司的安全防御机制。
除军事用途外，AI 还被广泛应用于网络钓鱼、虚假信息传播以及大规模的自动化情感诈骗。
【正文报道】
美国人工智能（AI）公司 Anthropic 近日发布了一份详尽的威胁情报报告（Threat Intelligence Report），揭示了其旗下的 AI 模型 Claude 正面临严重的滥用风险。报告指出，多个组织和个人利用该模型参与武器研发、间谍活动、网络攻击以及大规模诈骗等恶意活动。在部分案例中，AI 甚至深度介入了这些非法活动的每一个关键环节。
报告特别强调了用户规避安全机制的手段。尽管 Anthropic 已建立多重防护，但部分违规者采取“任务拆分”策略，将复杂的违法指令分解为多个独立的对话片段，从而绕过系统的自动过滤机制。这种手段使得 AI 能够协助用户完成包括程序编写、数据分析和故障排查在内的复杂工作，从而串联起原本需要多种专业技能才能完成的恶意链条。
在军事与武器研发领域，报告披露了多个令人警惕的案例。其中，一名位于中国大陆的用户利用 Claude 开发电子战（Electronic Warfare）与防空压制软件，旨在模拟雷达干扰，并针对包括预警雷达、导弹阵地和空军基地在内的 12 处台湾军事设施进行模拟攻击。此外，另一名中国用户则利用该模型为一套拟供中国海军使用的反鱼雷系统编写技术规格和火控软件。针对相关内容，中国外交部表示不了解该报告，并强调中国主张 AI 向善发展，反对歪曲事实。
除了武器研发，报告还记录了涉及生物武器、情报搜集及网络攻击的多种案例。在也门北部，一个组织利用 Claude 辅助开发制导火箭和远程弹道导弹软件；而在某些试图研究病毒基因改造、高致病性禽流感等生物毒素的研究中，用户也尝试利用 AI 获取相关信息。此外，伊朗相关人员被发现利用模型分析美军公开的影像资料，为潜在的军事目标提供建议；而另一批黑客则利用 AI 对乌克兰政府及军方发起精准的网络钓鱼（Phishing）攻击。
除了硬核的军事威胁，AI 在社会工程学领域的滥用同样显著。报告披露了一场涉及阿联酋相关方的舆论行动，操作者利用 AI 生成虚假证词，试图以“独立证言”的名义提交给联合国。而在民用领域，中国一家应用开发公司被发现在超过 20 款约会应用中嵌入由 Claude 驱动的 AI 角色。仅在今年 4 月的两周内，就有超过 4700 个 AI 角色与至少 2.5 万名用户互动，累计发送信息达 236 万条。为了掩盖痕迹，这些公司甚至安排真人接手后续通话，使受害者难以察觉对方并非真实人类。
【小编观点】
Anthropic 的这份报告再次敲响了警钟：随着大语言模型（LLM）能力的不断增强，其“双重用途”（Dual-use）属性带来的风险日益凸显。当恶意行为者学会利用“任务拆分”等策略绕过安全护栏时，单纯依靠技术过滤已难以完全封堵漏洞。这不仅是技术层面的挑战，更要求全球监管机构在 AI 治理、内容审查以及针对跨国网络犯罪的协作上建立更严密的防线。
【核心提要】
【正文报道】
美国人工智能（AI）公司 Anthropic 近日发布了一份详尽的威胁情报报告（Threat Intelligence Report），揭示了其旗下的 AI 模型 Claude 正面临严重的滥用风险。报告指出，多个组织和个人利用该模型参与武器研发、间谍活动、网络攻击以及大规模诈骗等恶意活动。在部分案例中，AI 甚至深度介入了这些非法活动的每一个关键环节。
报告特别强调了用户规避安全机制的手段。尽管 Anthropic 已建立多重防护，但部分违规者采取“任务拆分”策略，将复杂的违法指令分解为多个独立的对话片段，从而绕过系统的自动过滤机制。这种手段使得 AI 能够协助用户完成包括程序编写、数据分析和故障排查在内的复杂工作，从而串联起原本需要多种专业技能才能完成的恶意链条。
在军事与武器研发领域，报告披露了多个令人警惕的案例。其中，一名位于中国大陆的用户利用 Claude 开发电子战（Electronic Warfare）与防空压制软件，旨在模拟雷达干扰，并针对包括预警雷达、导弹阵地和空军基地在内的 12 处台湾军事设施进行模拟攻击。此外，另一名中国用户则利用该模型为一套拟供中国海军使用的反鱼雷系统编写技术规格和火控软件。针对相关内容，中国外交部表示不了解该报告，并强调中国主张 AI 向善发展，反对歪曲事实。
除了武器研发，报告还记录了涉及生物武器、情报搜集及网络攻击的多种案例。在也门北部，一个组织利用 Claude 辅助开发制导火箭和远程弹道导弹软件；而在某些试图研究病毒基因改造、高致病性禽流感等生物毒素的研究中，用户也尝试利用 AI 获取相关信息。此外，伊朗相关人员被发现利用模型分析美军公开的影像资料，为潜在的军事目标提供建议；而另一批黑客则利用 AI 对乌克兰政府及军方发起精准的网络钓鱼（Phishing）攻击。
除了硬核的军事威胁，AI 在社会工程学领域的滥用同样显著。报告披露了一场涉及阿联酋相关方的舆论行动，操作者利用 AI 生成虚假证词，试图以“独立证言”的名义提交给联合国。而在民用领域，中国一家应用开发公司被发现在超过 20 款约会应用中嵌入由 Claude 驱动的 AI 角色。仅在今年 4 月的两周内，就有超过 4700 个 AI 角色与至少 2.5 万名用户互动，累计发送信息达 236 万条。为了掩盖痕迹，这些公司甚至安排真人接手后续通话，使受害者难以察觉对方并非真实人类。
【小编观点】
Anthropic 的这份报告再次敲响了警钟：随着大语言模型（LLM）能力的不断增强，其“双重用途”（Dual-use）属性带来的风险日益凸显。当恶意行为者学会利用“任务拆分”等策略绕过安全护栏时，单纯依靠技术过滤已难以完全封堵漏洞。这不仅是技术层面的挑战，更要求全球监管机构在 AI 治理、内容审查以及针对跨国网络犯罪的协作上建立更严密的防线。
背景链接：