“一个能满足任何愿望的精灵”：山姆·奥特曼对下一代人工智能的承诺

OpenAI首席执行官山姆·奥特曼（Sam Altman）用一个刻意带有神话色彩的意象，再次拓展了关于人工智能讨论的边界：“我们即将创造出一个能够满足任何愿望的精灵。”他在接受播客《Relentless》采访时表达了这一观点，而这句话并非一个孤立的比喻，而是该公司对下一代模型理解的总结。

这一类比非常有力，因为它转移了对话的重心地带。在过去几年里，辩论一直围绕着能力展开：一个模型能解决什么问题、能通过多少场考试、能在没有监督的情况下编写多少代码。奥特曼建议看一看柜台的另一侧：当限制因素不再是机器，而是我们所提需求的质量时，会发生什么。

Altman强调，这一进步伴随着巨大的责任，他的首要任务是确保首批被满足的“愿望”能广泛造福社会。他的表述非常精准：将世界带入一个“让更多人能够拥有更多愿望”的境地。也就是说，利用第一轮非凡的能力来扩大获取途径，而非使其高度集中。

这种细微的差别，正是将“丰裕技术”与“精英技术”区分开来的界限。如果首批应用致力于医疗、教育、科学生产力和基础设施建设，其复利效应将分配权力。但如果它们被用于优化封闭市场，精灵最终将只为极少数的主人服务。

ChatGPT的创建者强调，其可能性的范围是“极其广泛且富有创意”的，在人类偏好和价值观的引导下，探索这项技术的真实潜力将是令人兴奋的。这最后一项条款——受人类价值观引导——正是如今所有艰难工程的聚焦所在：对齐、控制、可解释性以及决策的可追溯性。

业界已经懂得如何构建能力令人惊叹的系统。但目前仍未能熟练掌握的是，如何确保这种能力始终紧紧锚定在使用者的意图上，尤其是当这种意图含糊不清、相互矛盾或仅仅是表达不当时。在所有的文学传统中，神灯里的精灵之所以危险，恰恰就在于此：它实现的是你口中所求，而非你心中所想。

奥特曼（Altman）最引人瞩目的警告并非技术层面的，而是心理层面的。“你开始许愿，电脑满足了你的愿望，然后你想：‘我没想到这真的能行……接下来该怎么办？’这是一种很奇特的感觉，”他总结道。

这个“接下来该怎么办？”描述了在先进模型的重度用户中已经开始被记录的一种现象：消除一项曾定义了职业身份的任务的阻力后所带来的迷失感。当写作、编程、设计或分析不再需要付出努力时，问题便不再是如何去做，而是为什么做以及为了什么而做。

对于那些以体验为生的行业——赌场、电子游戏和数字娱乐——而言，奥特曼（Altman）的承诺具有立竿见影的启示。一个能够按需生成游戏物理机制、音效环境、叙事、美术以及经济平衡的系统，将产品设计变成了一场即时对话，而非长达数月的漫长开发周期。

然而，对等的风险同样显而易见：当任何人都可以直接定制一款完整的游戏时，其价值便不再取决于生产工艺本身，而是完全转移到了审美眼光、品牌和分发渠道上。神灯精灵满足了愿望，却没有人能保证这个愿望本身是否真的值得。