“要么背叛自己的价值观，要么变得无关紧要”：达里奥·阿莫迪警告人工智能将给我们带来什么

多年来，达里奥·阿莫迪（Dario Amodei）一直在科技行业的管理者中做一些不寻常的事情：公开警告他所销售的产品的风险。 Anthropic 的首席执行官兼联合创始人再次做到了这一点，这一次，他用一句话概括了整个行业的紧张局势：要么背叛自己的价值观，要么变得无关紧要。

背景很重要。 Anthropic 和 OpenAI 正朝着各自的 IPO 迈进，估值接近 1 万亿美元，这一数字使两家公司跻身近代商业史上最昂贵的资产之列。在这种情况下，每个安全决策、保留的每个模型以及发布的每个功能都会产生直接的竞争成本。

阿莫迪的论点是逐底竞争：一家对自己施加严格安全限制的公司就会向不这样做的竞争对手让步，如果它让步太多，它就不再对技术的部署方式产生影响。 Anthropic 正是从这种逻辑中诞生的——由前 OpenAI 官员创立，他们认为该行业的保障措施不足——现在正亲身经历这一矛盾。

实际结果是永久管理商业节奏和技术谨慎之间的紧张关系。阿莫代将其描述为整个行业的结构性问题：没有人能够在不失去制定标准的能力的情况下单独刹车。

阿莫代最具体的警告与工作有关。他们估计，人工智能可能会在一到五年内消除多达一半的入门级办公室工作。我们谈论传统上作为进入专业市场的门户的任务：基本数据分析、报告撰写、行政支持、文件审查、一级护理。

他所描述的情景令人不安，因为它结合在一起：由于生产率的飞跃，GDP 强劲增长，同时该特定领域的高失业率。这不是经济崩溃，而是总财富与工作机会之间的脱节，这正好达到了之前所了解的贸易水平。

仍然悬而未决的问题是，如果阶梯的底层消失，如何培训下一代专业人员。阿莫代并没有给出一个封闭的答案；他确实坚持认为，政府和公司应该已经开始进行讨论，而不是在统计数据中显示出效果时才进行。

他的言论中最引人注目的启示有其自己的名字。 Amodei 证实，Anthropic 保留了 Mythos，这是其网络安全功能中最先进的模型，该系统能够自主地完成整个攻击链：侦察、漏洞识别、漏洞利用开发、执行和持久性。

他的描述既直接又令人不安：神话是一种全面的武器，用他的话说，应该需要类似于武器许可证的东西才能使用。决定不将其推向市场，或者将其限制在严格控制的范围内，正是这种商业上的放弃，说明了他最初的困境。

该案还提出了一个目前监管尚未解决的治理问题：谁来决定可以存在哪些能力、采用什么标准以及采用什么外部监督。目前，这一决定是由少数私营公司根据自己的判断做出的。

对于建立在这些模型上的公司来说，运营信息是能力前沿的变化速度快于治理前沿，并且使用的责任越来越多地落在部署者身上，而不是培训者身上。对于专业人士来说，这一警告指出了价值的转变：减少执行可复制的任务，增加判断、监督和系统设计。

对于监管机构来说，结论是他们管理的最后期限——磋商、自愿框架、多年审查——不符合以月为单位的产品周期。阿莫代曾多次表示，他更喜欢不完善且早期的监管，而不是完美且迟到的监管。最重要的是，他最近的言论是加大警告力度的一种方式。