OpenAI组建新团队寻求公众意见来指导人工智能模型的行为

OpenAI是一个致力于推动人工智能领域发展的非营利组织，它的愿景是创造出能够与人类价值观保持一致的人工智能系统。为了实现这一目标，OpenAI 最近宣布了一个重大的举措：组建一个名为“集体对齐”（Collective Alignment）的全新团队，该团队将专注于收集和利用公众意见来训练和塑造其人工智能模型的行为。

什么是“集体对齐”？

“集体对齐”是 OpenAI 去年 5 月启动的一个公共项目的延续。该项目旨在通过资助一系列的实验，探索如何建立一个“民主程序”，以确定人工智能系统应遵循的规则。这些实验包括了视频聊天界面、人工智能模型众包审计平台以及“将信念映射到可用于微调模型行为的维度的方法”等。

OpenAI 在其博客中解释道：“我们的目标是打造一个系统，它能够收集和‘编码’公众对我们模型行为的看法，并将这些宝贵的见解融入我们的产品和服务中。这样一来，我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标，OpenAI 正在招募来自不同技术背景的研究工程师加入这个新团队。他们表示：“我们将与外部顾问和其他团队紧密合作，包括开展试点工作，将原型整合到我们的模型中。我们需要来自不同领域的专家，共同助力这项工作的推进。”

OpenAI 的新团队创始成员泰纳・埃伦杜（Tyna Eloundou）强调：“随着我们不断追求超级智能模型的发展，这些模型将逐渐成为我们社会不可或缺的一部分。因此，让人们有机会直接提供意见至关重要。”

OpenAI 的动机是什么？

OpenAI 的这一举措可以看作是对人工智能技术快速发展所带来的挑战和风险的一种回应。特别是其创造“深度伪造”图片和其他错误信息的能力，让人们在即将到来的 2024 年美国大选前夕感到不安。批评人士指出，像 ChatGPT 这样的人工智能系统由于其输入数据的影响而具有固有的偏见，用户已经发现了一些人工智能软件输出中存在种族主义或性别歧视的例子。

OpenAI 希望通过收集公众意见来解决这些问题，并提高其人工智能模型的透明度和可信度。他们认为，这样可以让人们更好地理解和控制人工智能系统，并确保其符合社会利益和道德标准。

OpenAI 还考虑与 Worldcoin 进行合作，以确保只有真正的人类才能参与投票和提供意见。Worldcoin 是 OpenAI 首席执行官萨姆・阿尔特曼（Sam Altman）创建的一个加密货币项目，它提供了一种有效区分人类和人工智能机器人的方法。

OpenAI 的挑战是什么？

OpenAI 的这一举措也面临着一些挑战和困难。首先，收集和利用公众意见并不是一件容易的事情，需要考虑到多种因素，如代表性、可靠性、隐私、安全等。其次，公众意见并不一定是统一的，甚至可能存在冲突和矛盾。如何平衡和协调不同的声音，以及如何处理潜在的利益冲突，都是需要解决的问题。第三，公众意见也并不一定是正确的，或者说与人工智能技术的发展方向和潜力相符的。如何避免受到错误或过时的信息的影响，以及如何教育和引导公众更好地理解和评估人工智能技术，也是需要考虑的问题。

据铋读网了解，OpenAI 的“集体对齐”团队是一个有意义的尝试，它体现了 OpenAI 对人工智能技术的社会影响和责任的重视。然而，这个团队也面临着不少的挑战和困难，需要在实践中不断探索和改进。我们期待看到 OpenAI 的这个团队能够取得令人满意的成果，并为人工智能领域树立一个良好的榜样。