Anthropic CEO：政府应有权阻止新模型部署

Odaily星球日报讯 Anthropic 首席执行官达里奥·阿莫代伊表示，如果新的人工智能模型存在特定风险，政府应有权阻止其部署。阿莫代伊周三发表了一篇长文，主张人工智能模型应接受强制性的第三方测试，以评估其在多个领域可能带来的风险。他写道，如果人工智能被认定“存在不可接受的风险”，那么“政府应拥有阻止或遏制其部署的权力”。这是阿莫代伊迄今为止针对加强人工智能监管最强硬的表态之一。阿莫代伊写道：“我认为，至少在当前这一指数级发展阶段，目前最合适的类比是汽车、飞机或药品，这些技术对现代经济至关重要，但如果设计或使用不当，也可能导致大量人员死亡。”Anthropic 此前曾对外界发出警告，称其推出的人工智能模型 Mythos 具备发现并利用关键软件漏洞的能力，因此公司决定仅向少数合作伙伴开放该模型。本周，Anthropic 又发布了一个删除相关网络安全攻击能力的新版本。（金十）