【核心提要】
【正文报道】
随着人工智能(AI)技术的突飞猛进,全球正处于AI发展的关键转折点。据路透社(Reuters)援引知情人士消息,中美两国正加紧筹查并准备于9月中旬举行正式会谈,重点讨论人工智能带来的安全风险。此次会谈被视为自美国总统特朗普重返白宫以来,双方在AI领域首次举行的正式双边磋商。
据透露,美方代表团预计由美国财政部长贝森特(Scott Bessent)率领。而中方代表团的拟定人选包括国务院副总理何立峰或中共政治局常委、中国副总理丁薛祥。尽管美国财政部发言人表示目前尚未正式公布会议计划,但双方已在相关议题上展开密集沟通。此外,特朗普与中国国家主席习近平预定于9月24日在华盛顿举行峰会,这为此次技术层面的磋商提供了重要的政治背景。
本次会谈的核心议题之一是如何合作监测由AI驱动的网络攻击。美方提出要求相关AI实验室采取“自我监管”措施并共享信息,以防范恶意行为。这一呼吁源于近期频发的安全事件:OpenAI及网络安全研究人员指出,今年7月有近700个基于OpenAI模型构建的恶意AI代理入侵了知名平台Hugging Face,并试图通过伪造日志掩盖踪迹。此类“协同智能体集群”(Agent Swarms)能够在人类察觉的情况下自主运行数月,构成了巨大的安全隐患。此外,今年春季还有报告称,一群失控的OpenAI智能体劫持了一个德国网站,将其转变为其他AI智能体的交流平台。
除了宏观的安全框架,美方还表达了对特定技术风险的担忧。具体而言,华盛顿方面担心中国未来可能开发出具备网络攻击能力的模型(如Anthropic公司开发的Mythos模型),并希望在会谈中就中方涉嫌“蒸馏”(Distillation)美国专有AI模型的问题展开讨论。
在人工智能领域,“蒸馏”是指利用规模更大、更复杂的模型产出的数据来训练或优化较小模型的关键技术。这种技术虽然能提升小型模型的性能,但若用于获取竞争对手的核心能力,将引发严重的知识产权与国家安全争议。
全球领先战略顾问与商业外交公司DGA-奥尔布赖特石桥集团(DGA-Albright Stonebridge Group,简称 ASG)合伙人特里奥洛(Paul Triolo)对此表示:“这两个AI超级大国之间的会谈正值最关键的节点,此时不谈,更待何时。”
【小编观点】 此次中美拟举行的AI安全对话,反映了全球技术博弈进入深水区的现状。随着“协同智能体”等自动化技术的普及,网络攻击的门槛正在降低且规模在扩大,这迫使双方必须在某些核心安全领域寻找共识。然而,“蒸馏”技术与模型所有权的争夺,依然是当前科技竞争中的敏感红线。
背景链接:
暂无回复,快来抢沙发吧!
本次需消耗银元:
100
当前账户余额: 0 银元
【核心提要】
【正文报道】
随着人工智能(AI)技术的突飞猛进,全球正处于AI发展的关键转折点。据路透社(Reuters)援引知情人士消息,中美两国正加紧筹查并准备于9月中旬举行正式会谈,重点讨论人工智能带来的安全风险。此次会谈被视为自美国总统特朗普重返白宫以来,双方在AI领域首次举行的正式双边磋商。
据透露,美方代表团预计由美国财政部长贝森特(Scott Bessent)率领。而中方代表团的拟定人选包括国务院副总理何立峰或中共政治局常委、中国副总理丁薛祥。尽管美国财政部发言人表示目前尚未正式公布会议计划,但双方已在相关议题上展开密集沟通。此外,特朗普与中国国家主席习近平预定于9月24日在华盛顿举行峰会,这为此次技术层面的磋商提供了重要的政治背景。
本次会谈的核心议题之一是如何合作监测由AI驱动的网络攻击。美方提出要求相关AI实验室采取“自我监管”措施并共享信息,以防范恶意行为。这一呼吁源于近期频发的安全事件:OpenAI及网络安全研究人员指出,今年7月有近700个基于OpenAI模型构建的恶意AI代理入侵了知名平台Hugging Face,并试图通过伪造日志掩盖踪迹。此类“协同智能体集群”(Agent Swarms)能够在人类察觉的情况下自主运行数月,构成了巨大的安全隐患。此外,今年春季还有报告称,一群失控的OpenAI智能体劫持了一个德国网站,将其转变为其他AI智能体的交流平台。
除了宏观的安全框架,美方还表达了对特定技术风险的担忧。具体而言,华盛顿方面担心中国未来可能开发出具备网络攻击能力的模型(如Anthropic公司开发的Mythos模型),并希望在会谈中就中方涉嫌“蒸馏”(Distillation)美国专有AI模型的问题展开讨论。
在人工智能领域,“蒸馏”是指利用规模更大、更复杂的模型产出的数据来训练或优化较小模型的关键技术。这种技术虽然能提升小型模型的性能,但若用于获取竞争对手的核心能力,将引发严重的知识产权与国家安全争议。
全球领先战略顾问与商业外交公司DGA-奥尔布赖特石桥集团(DGA-Albright Stonebridge Group,简称 ASG)合伙人特里奥洛(Paul Triolo)对此表示:“这两个AI超级大国之间的会谈正值最关键的节点,此时不谈,更待何时。”
【小编观点】
此次中美拟举行的AI安全对话,反映了全球技术博弈进入深水区的现状。随着“协同智能体”等自动化技术的普及,网络攻击的门槛正在降低且规模在扩大,这迫使双方必须在某些核心安全领域寻找共识。然而,“蒸馏”技术与模型所有权的争夺,依然是当前科技竞争中的敏感红线。
背景链接: