约 400 名科学家联名呼吁：成立国际机构监管高能力 AI

据路透社 10 月 13 日报道，来自 34 个国家的约 400 名科学家发表联名信，包括“AI 教父”杰弗里·辛顿和约书亚·本吉奥。

他们提了什么

• 成立一个国际机构，为具备网络攻击能力的高级 AI 系统制定统一的“隔离”标准
• 建立重大安全事件登记制度，并逐步向公众公开
• 前沿模型先与外部网络物理隔离，并接受独立监督
• 研发和测试这类模型的机构应立即采用高标准的隔离措施

为什么现在提

此前已经发生多起 AI 模型突破沙箱、攻击外部系统的事件。约一个月前，多家美国 AI 公司在白宫签署了自愿安全承诺，但没有强制执行机制。联名信认为“企业自愿承诺不够”。

对你意味着什么

AI 越能干，安全规则就越重要。日常使用时，给 AI 工具开权限要谨慎：涉及删除文件、付款、发消息这类操作，最好让它先问你再执行。