比尔·盖茨与人工智能警告：为何自我监管不够

比尔·盖茨不常随便说话。当这位微软的联合创始人将人工智能称为“人类接触过的最危险的事物”时，市场应该停下来倾听。这不仅是出于对他个人经历的尊重，更是因为这句话揭示了当前人工智能竞赛的现状。

在接受《纽约时报》采访时，盖茨超越了泛泛的警告。他直接将缺乏对先进人工智能模型的监管与具体的风险场景联系起来：大规模网络攻击和利用技术协助制造生物武器。他提出了一个令人不安的问题：是否需要等到“数百万人的死亡”才能实施强制监督机制？

人工智能自我监管的问题

盖茨的立场与唐纳德·特朗普政府在美国采取的做法正面冲突。像大卫·萨克斯（David Sacks）这样的政府技术顾问和英伟达首席执行官黄仁勋（Jensen Huang）认为，行业能够自我监管，提前施加规则可能会抑制美国在与中国竞争中的创新。

盖茨用一个简单的类比拒绝了这种逻辑：药物、飞机和汽车在到达消费者之前都必须经过严格的安全要求。没有人建议制药行业应该自我监管，并在发生灾难后才承担责任。为什么人工智能会有所不同？

当观察到开源模型的现状时，这一论点更具分量。根据盖茨的说法，这些工具可以被调整以禁用监控机制，并协助进行危险活动。这不是科幻小说，而是已经存在的技术能力。正如我们在关于人工智能进展的报道中分析的那样，模型的发展速度超过了政府的监管能力。

为什么市场低估了人工智能的风险

盖茨还提出了另一个值得关注的观察：外部对人工智能的风险感知仍然“极其低”。学者、研究中心、政策制定者和政治家们尚未充分认识到所面临的风险。这造成了危险的不对称。

在投资者方面，乐观情绪占主导。美国大型科技公司的股票在过去两年中大幅上涨，推动这一趋势的是生成性人工智能将改变全球生产力的叙述。而这很可能会发生。但市场在定价承诺时忽视了尾部风险。

这种尾部风险有一个名字：突发的监管事件。如果在没有监管框架的情况下发生一起严重的人工智能事件，政治反应往往会不成比例且具有惩罚性。只需看看2008年金融危机后行业监管的历史。当立法者在公众压力下采取行动时，结果很少是平衡的。

投资科技的风险

盖茨的声明并非孤立。它与行业内部越来越多的声音相呼应，这些声音呼吁某种形式的监督。被认为是深度学习之父的杰弗里·辛顿（Geoffrey Hinton）在2023年离开谷歌，正是为了能够公开谈论人工智能的生存风险。安索普（Anthropic）首席执行官达里奥·阿莫德（Dario Amodei）主张在推出前进行强制安全测试。

盖茨的立场之所以与众不同，是因为他对机制的清晰认识。他并不要求限制人工智能，而是要求在灾难发生之前就要求采取保护措施。这是预防性监管与反应性监管之间的区别。

对于投资者来说，这具有实际意义。已经在人工智能安全和对齐方面进行投资的公司，如安索普和微软的研究部门，可能在监管推进时处于更有利的位置。而那些在没有明确治理的开放模型中运营的公司可能面临显著的合规成本。

另一个相关点是对劳动力市场的影响。尼尔·巴尔·迪亚（Nir Bar Dea）在同一系列采访中估计，如果政府和企业不做好准备，人工智能可能会使18%的美国人失业。这不是一个微不足道的数字。它进一步强化了人工智能将创造价值，但也会在特定人群和行业中集中风险的论点。

人工智能监管与加密货币和金融科技的多米诺效应

关于人工智能监管的辩论与加密市场在过去几年经历的情况有直接的相似之处。对监管的抵制，随后是FTX等公司的崩溃，导致了一波重新设计行业的监管浪潮。正如我们在关于加密监管的分析中讨论的那样，这一模式是反复出现的：没有监督的创新会导致危机，而危机则会导致严格的监管。

对于金融科技和将人工智能整合到金融服务中的公司来说，这个问题更加敏感。基于人工智能的信贷模型、投资机器人和欺诈检测系统依赖于算法，如果监管不当，可能会造成系统性损害。人工智能与金融服务之间的融合扩大了风险表面。

盖茨准确地将问题简单化：这并不是反对创新，而是要求创新伴随责任。问题在于，迄今为止，经济激励指向相反的方向。谁先进入市场，谁就能捕获价值。谁停下来测试安全性，谁就会失去速度。

留给投资者、监管者和社会的问题与盖茨提出的问题相同：我们要等到灾难发生再采取行动，还是在仍有可能的时候建立保护措施？对这个问题的回答将决定未来十年科技行业的形态。