Anthropic CEO Dario Amodei发文呼吁前沿AI公司放慢模型迭代速度，留出时间做安全评估与外部监督。特斯拉CEO马斯克、OpenAI CEO奥尔特曼、微软纳德拉、DeepMind哈萨比斯均表示认同，但Meta首席科学家杨立昆质疑这可能抬高门槛。全文围绕AI安全与竞争治理展开。
一场关于AI速度的正面交锋
Dario Amodei 最近发了篇长文，核心意思就一句话：前沿AI公司，请放慢你们的脚步。他不是说别搞AI了，而是说别急着把更强的模型扔出来，先让安全评估、外部监督和治理机制跟上来。这就像开车下陡坡，踩刹车不代表停下来，而是为了不翻车。
Dario 在文章里提到一个很具体的担忧：多个AI Agent可能像集群一样执行未经授权的网络攻击。他用OpenAI和Hugging Face之间的事件举例，说明这种威胁不是科幻片。Anthropic自己的威胁报告也显示，有人试图利用Claude搞武器开发、网络行动、监控和欺诈。换句话说，AI被滥用的风险已经出现在现实里了。
一边倒的支持，除了一个人
这篇长文发出后，科技圈大佬们罕见地站到了同一边。Elon Musk、Sam Altman、Satya Nadella、Demis Hassabis 都公开认同“谨慎推进”的说法。Altman 还补了一句：OpenAI今年不会上市，因为私营公司更有利于做安全工作。言下之意，上市要面对业绩压力，容易让安全让路。
但Yann LeCun 不买账。他觉得拿安全当理由，到头来可能把模型能力、监管解释权和发布节奏都攥在少数大公司和政府手里。竞争门槛一抬高，开源社区和小机构还怎么玩？这个质疑相当锋利——毕竟，安全话语权本身就是一种权力。
GPT-2的旧账：狼真的来了吗？
反对者翻出了2019年的历史。当时OpenAI发布GPT-2，也是以风险为由分阶段放出模型，Dario就是参与者。后来呢？GPT-2并没有造成预想中的灾难。这段历史被一些人解读为“风险营销”——先吓唬人，再显得自己负责任，顺便还能拉开竞争差距。
Dario 自己倒是说得很清楚：现在AI正处于指数曲线的拐点附近，这是个警告信号，需要适度放慢技术构建速度，但并不意味着停止发布更先进的模型。换句话说，他承认减速是策略性的，不是永久刹车。
三步计划：怎么放慢才靠谱？
Dario 提了一个三步计划：引入第三方非营利组织或政府机构做嵌入式评估员，让外部人员观察训练和运行过程；行业参与者共同制定发布安全标准和节奏；政府也要参与进来。他强调，AI风险需要“纵深防御”，单一措施比如kill switch可能根本没用。他认为，AI收益与风险的双重责任不该只由个别公司或政府承担，更广泛的社会参与者都应该介入。
这套方案听起来很美，但操作起来不容易。谁来评估评估员？政府在多大程度上介入？行业标准会不会变成大公司的护城河？这些问题没有简单答案。
企业上云与AI安全
大模型的安全治理看着遥远，其实跟每个企业上云、用AI的决定都挂钩。对多数中小企业来说，直接训练前沿模型不现实，更常见的是通过云端服务调用成熟模型的API。这时候，选择靠谱的云服务商就成了风险控制的一环。
比如使用云服务器ECS部署自己的业务系统，或者在阿里云上跑开源模型，都需要考虑数据安全、访问控制和合规要求。云服务商的安全能力，某种程度上就是企业AI应用的“纵深防御”。市面上像易枫顺 - 阿里云官方旗舰级代理商这样的服务商，能帮企业解决账号、备案、架构这些琐碎事，让团队更专注业务本身。企业上云不是搬家，而是重建安全边界。
这场关于AI速度的争论，短期内不会结束。但至少有一点是共识：无论模型跑多快，安全这根弦不能松。至于怎么松紧，需要更多人参与讨论。
FAQ
Q: Dario Amodei呼吁放慢AI研发的真实目的是什么？
A: 在他看来，当前AI发展处于指数曲线的拐点附近，放慢是为了让安全评估、外部监督和治理机制跟上。他认为这不等于停止发布新模型，而是避免在风险不清时盲目加速。反对者则怀疑这是一种变相的市场壁垒。
Q: 为什么有人拿GPT-2发布史反驳Dario？
A: 2019年OpenAI发布GPT-2时，也以风险为由分阶段释放，Dario当时是参与者。后来GPT-2没有引发预想中的灾难，因此这段历史常被当作“风险营销”的例子，用来质疑当前的安全警告可能被夸大。
Q: 企业部署AI时如何兼顾安全与成本？
A: 可以优先选择有完整安全体系的云服务商，比如配置云服务器ECS时做好安全组、数据加密和访问控制。让代理服务商提供架构建议，也能少踩坑。
关于易枫顺
深圳市易枫顺网络科技有限公司是阿里云官方旗舰级代理商。提供云服务器ECS、云数据库RDS、对象存储OSS等阿里云全系产品官方特惠折扣与代金券申请，以及多云成本优化、企业上云一站式服务。客服热线：19520841949 - 易枫顺
来源：InfoQ
