联合国秘书长在人工智能峰会上警告：我们无法随意编程人类的未来

联合国秘书长安东尼奥·古特雷斯周一在日内瓦开幕的全球人工智能治理对话会上告诉193个国家，人工智能已经超越了旨在治理它的机构——人类正在进行一场“没有计划、没有同意”的实验。

“人工智能正在以失控的速度发展，”古特雷斯在他的主题演讲开场时说。“一种能够重塑经济、改变工作世界、影响选举并倾斜安全平衡的技术，其部署速度超过了任何人——包括构建它的人——的跟进能力。”

与会者包括所有193个联合国会员国，他们在日内瓦召开了首次全球人工智能治理对话会，这是一次多边尝试，旨在治理一种已经超越所有试图治理它的人的技术。

古特雷斯用来解释无监管人工智能风险的比喻是“随意编程”——这是安德烈·卡帕提（Andrej Karpathy）创造的术语，他是OpenAI的创始成员和特斯拉前人工智能主管，用来描述一种凭感觉编程的方式：告诉人工智能你想要什么，让它处理其余的，不要过于仔细地查看。梅里亚姆-韦伯斯特最近将其添加到词典中。

古特雷斯承认，随意编程“可以创造奇迹”，因为越来越多的人信任人工智能构建的产品。

“但我们无法随意编程真相，”他说。“我们无法随意编程人类的未来。”

这一论点背后的数据并不软弱。古特雷斯指出，互联网花了15年才达到十亿用户，而人工智能只用了两年。他形容当前的系统为“不再是等待指令的工具——它们正在编写代码、在线行动，并在越来越少的人类监督下做出选择。”

“我们的机构是为了治理遵循命令的机器而建立的。它们尚未准备好应对能够自主决策的机器。”

此次对话源于2024年全球数字契约，该契约首次将国际人工智能治理确立为联合国的任务。两年后的开幕会议还收到了独立国际科学小组关于人工智能的初步报告——来自140个国家的40名科学家——该报告上周发布，发现目前没有人能够保证人工智能不会造成灾难性伤害。

速度是古特雷斯从小组中提取的三个警告之一。第二个是权力：计算、数据和人才集中在少数几家公司和国家，大多数世界被锁在已经塑造它的决策之外，这也让其他人工智能专家如扬·勒昆（Yann Lecun）、安迪·科温斯基（Andy Kowinski）和约书亚·本吉奥（Yoshua Bengio）感到担忧。

第三个是事实——一种机器驱动的谎言现在能够像经过验证的事实一样有效地说服人，逐渐侵蚀古特雷斯所称的“我们信息生态系统的完整性”。

孩子们的实验品与致命机器人

古特雷斯提出的具体建议包括一项人工智能儿童安全承诺，要求公司在任何人工智能接触儿童之前通过独立测试证明其安全性，保持对儿童性虐待影像生成的零容忍，并将有困扰的儿童与真正的人类支持联系起来，而不是让他们独自面对聊天机器人。“没有孩子应该成为无监管人工智能的实验品。”

然后是致命机器人。古特雷斯称致命自主武器——能够在没有人类判断的情况下选择和杀死目标的机器——为“道德上令人厌恶”，并要求国际法禁止此类武器。

各国已经在讨论桌上。他没有建议他们慢慢来。

对话将在2027年在纽约重新召开。古特雷斯还呼吁大会创建一个全球人工智能基金，专注于为发展中国家提供计算机访问，并挑战每个主要人工智能公司在2030年前使用可再生能源运营所有数据中心——他估计到那时，这些设施的电力消耗将超过除五个国家之外的所有国家。

本内容仅供参考，不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息，不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性，存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。