人工智能世界的警钟是否已经敲响？

离开人工智能公司的研究人员发出的安全与伦理警告，让人们重新审视能力日益增强的系统应遵循哪些开发规则，以及谁有权制定这些规则。

文章并未将出于批评立场的辞职视为灾难即将发生的证据，并强调目前缺乏能够证明整个行业人员离职加速的完整数据。

对于能够执行操作的智能体，安全评估不能仅看模型表现，还应考察权限限制、人工批准、错误发现、操作可逆性以及系统能否被及时停止。

文章从数字封建主义与技术主权的角度，分析私人信息的商业化、原创内容价值向平台转移，以及关键基础设施对少数供应商的依赖。

作者主张保持审慎乐观，在保留技术收益的同时，加强独立测试、切实问责、员工风险报告保护和有实质作用的人工监督。