安全负责人在超级「毁灭」人类之前我们可以做这些准备

安全负责人：在超级「毁灭」人类之前，我们可以做这些准备

机器之心报道机器之心编辑部2023年，Anthropic发布了负责任扩展策略（ResponsibleScalingPolicy，RSP），这是一系列技术和组织协议，Anthropic将采用这些协议来帮助他们管理开发功能日益强大的AI系统。Anthropic认为，AI模型一方面变得越来越强大，创造巨大的经济和社会价值，另一方面也带来了严重的风险。RSP将专注于灾难性风险——即人工智能模型直接造成大规模破坏的风险。此类风险可能来自故意滥用模型（例如恐怖分子用它来制造生物武器），也可能来自模型以违背其设计者意图的方式自主...