科技领袖要求暂停大型人工智能项目。但世界会听吗？
卢西亚娜·皮奥
卢西亚娜·皮奥
4月4日，23日 | 阅读时间：4 分钟
✓ 人工制作的内容
更新日期：2023 年 5 月 5 日
科技领袖暂停大型人工智能项目
需要为您的企业提供内容？在 WriterAccess 上寻找顶级作家！
免费试用
随着人工智能变得越来越强大和普及，人们对其对社会的影响的担忧持续增加。
最近，我们看到了令人难以置信的进步，例如 Open-AI 推出的 ChatGPT 语言模型新版本 GPT-4，它能够快速学习并生成高质量的响应。与此同时，它也引发了人们对我们社会未来的许多担忧。
上周，特斯拉首席执行官埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克以及来自各个领域的代表（包括机器人、机器学习和计算机科学）签署了一封“公开信”，呼吁暂停“大型人工智能实验”六个月，称这对人类构成了风险。
从那时起，我一直在关注一些专家的意见，并邀请您和我一起对这种情况进行思考。
公开信
《暂停大型人工智能实验：一封公开信》目前已有近 6,000 个签名，紧急要求人工智能实验室暂停一些项目。
标题强调：“我们呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练至少 6 个月”。
报告警告称，“人工智能实验室陷入了一场失控的竞赛，竞相开发和部署更强大的数字思维，而没有人——甚至连它们的创造者——能够理解、预测或可靠地控制它。”
它还预测了一个“世界末日”的未来：“我们是否应该让道 新西兰电话数据 ？我们是否应该让所有工作，包括那些令人满意的工作，都自动化？我们是否应该开发出最终可能超越我们、超越我们、淘汰我们并取代我们的非人类思维？我们是否应该冒着失去对文明控制的风险？”
这封信的真正“分量”是什么？
一开始，我们很容易同情这一事件的起因，但让我们反思一下其中涉及的所有全球背景。
尽管这封信得到了谷歌和 Meta 工程师等领先技术权威的支持，但由于一些订阅者在涉及其技术的安全限制方面的做法不一致，这封信还是引发了争议，其中包括埃隆·马斯克。据Wired、Futurism和当时许多其他新闻网站报道，马斯克本人去年解雇了他的“道德人工智能”团队。
值得一提的是，马斯克是 Open-AI 的联合创始人，并于 2018 年离开公司，他曾在 Twitter 上多次对该公司进行攻击，严厉批评 ChatGPT 的进步。
Open-AI 联合创始人 Sam Altman在与播客 Lex Fridman 的对话中声称，对 AGI 实验的担忧是合理的，并承认错误信息等风险是真实存在的。
此外，在接受《华尔街日报》采访时，奥特曼表示，公司长期以来一直担心其技术的安全性，并且在发布该工具之前花了六个多月的时间对其进行测试。
它的实际效果是什么？
Landing AI 创始人兼首席执行官、DeepLearning.AI 创始人、AI Fund 执行合伙人吴恩达 (Andrew Ng)在 Linkedin 上辩称 ：“呼吁暂停 GPT-4 以外的 AI 进展 6 个月是一个糟糕的想法。我看到教育、医疗、食品等领域的许多新应用将帮助很多人。改进 GPT-4 将有所帮助。让我们平衡一下 AI 创造的巨大价值与现实风险。”