ChatGPT创始人Altman：中国拥有世界上一些优秀的AI系统

6月9日，在2023北京智源大会上，OpenAI首席执行官Sam Altman发表线上演讲，他围绕模型的可解释性、可扩展性和可泛化性给出了见解。他表示：“中国拥有世界上一些优秀的AI系统，从根本上讲，我认为这使研究人员在解决许多不同的AI系统的问题上面临困难。中国是世界上好的地方，我真诚希望中国和美国的研究人员能对此做出巨大贡献。“

Altman表示，我们正在看到人工智能能力的迅速增长，现在需要做的是负责任地将其应用到世界中去。在未来十年，人工通用智能系统（常称为AGI）将会超过90年代初，人类所具备的专业水平，这些系统终可能超过人类大体量公司的总体生产力，这里的潜在收益是巨大的。

但我们必须管理好风险，并共同努力来实现预期目标。随着越来越强大的人工智能系统的出现，全球合作的利益变得前所未有地重要。如果我们不做好规划，一个设计用于改善公共卫生结果的未对齐的AI系统，可能会通过提供不平衡的建议来破坏整个集*统。同样，一个旨在优化农业实践的人工智能系统可能会无意中损害经济和资源的消耗，缺乏对长期可持续性的考虑，从而影响食物生产和环境平衡。我希望我们都能认同，推进AGI安全是我们寻找共同立场的重要领域之一，我希望把时间都集中在我们已经开始的领域。

“其中一个领域是AGI治理。AGI的力量可以从根本上改变我们的文明，这突显了有意义的国际合作、协调的必要性，每个人都会从积极的治理方法中受益。如果我们将这个核心的先进网络化，AGI系统可以为全球经济创造无与伦比的经济丰富，解决共同的挑战，如气候变化、全球健康安全，并在无数其他方面提升社会福祉。我深信这也是未来，我们深处同一个星球，需要明确投资AGI的安全性的意义。”

他还提到，当前，我们关注的是如何使AI系统成为一个有益和安全的助手，这对应的是如何训练模型，使其在没有安全威胁的前提下发挥积极作用，不过，随着AGI时代的接近，其带来的潜在影响、问题将呈指数级增长，所以，我们需要通过主动应对AGI带来的潜在挑战，将未来灾难性后果的风险降至低。

“从GPT-4完成预训练到部署，我们花了八个月的时间来研究这个如何前置预判风险并给出对策的问题，我们认为我们走在了正确的道路上，GPT-4的对齐程度超过当前所有的代码。不过，对于更高级的系统，对齐仍然是一个尚未解决的问题，我们认为需要新的技术方法以及加强治理监督，毕竟未来的AGI，可能是一个十万行二进制代码的系统”，他说。

他还说，在人工智能安全性方面，普遍存在着需要许多不同观点的情况。我们还没有所有的答案，解决这个问题非常困难且重要。这不仅仅是一个技术问题。使人工智能变得安全这件事受益于了解不同国家和不同背景下用户的偏好。因此，我们需要许多不同的观念来实现这一目标。中国拥有世界上一些优秀的AI系统，从根本上讲，我认为这使研究人员在解决许多不同的AI系统的问题上面临困难。中国是世界上好的地方，我真诚希望中国和美国的研究人员能对此做出巨大贡献。

文/北京青年报记者 温婧

编辑/田野