我们需要一个连贯的国家AI网络安全政策
随着AI安全代理的普及，攻击者与防御者都将获得自动化能力，网络安全生态系统面临更大不稳定风险。然而，当前美国AI安全政策存在根本性错误：过度关注模型是否具备“危险双重用途网络能力”，并以之作为放行或限制模型的标准。实际上，网络危害取决于攻击者的目标、能力、采纳速度，以及防御者的部署情况等多重因素，而非单一模型能力。政策应基于对整体伤害的评估，而非片面强调AI对攻击者的潜在益处。事实上，AI已在钓鱼防御、漏洞修复等防御领域显著发挥作用，其是否更有利于攻击者仍是实证问题。亟需转向以净伤害最小化为目标的政策框架。 #AI安全 #网络安全 #政策 #美国 #AI双重用途 #防御者 #攻击者 #国家政策 #AI治理
随着AI安全代理的普及，攻击者与防御者都将获得自动化能力，网络安全生态系统面临更大不稳定风险。然而，当前美国AI安全政策存在根本性错误：过度关注模型是否具备“危险双重用途网络能力”，并以之作为放行或限制模型的标准。实际上，网络危害取决于攻击者的目标、能力、采纳速度，以及防御者的部署情况等多重因素，而非单一模型能力。政策应基于对整体伤害的评估，而非片面强调AI对攻击者的潜在益处。事实上，AI已在钓鱼防御、漏洞修复等防御领域显著发挥作用，其是否更有利于攻击者仍是实证问题。亟需转向以净伤害最小化为目标的政策框架。 #AI安全 #网络安全 #政策 #美国 #AI双重用途 #防御者 #攻击者 #国家政策 #AI治理