在日前举行的2023智源人工智能（AI）大会分论坛——“AI安全与对齐”论坛上，OpenAI联合创始人兼CEO萨姆・奥特曼（Sam Altman）以视频连线的方式发表了主题演讲，并且与智源研究院理事长张宏江开展了一场对话。据悉，这也是萨姆・奥特曼首次在国内的行业会议中亮相。

在此次演讲中萨姆・奥特曼表示，“我们正在看到AI能力的迅速增长，现在需要做的是负责任地将其应用到世界中去。历史告诉我们，技术进步遵循指数曲线，并在农业、工业和计算革命中得到了验证。现在我们亲眼目睹了AI的变革，不仅因为我们正在见证它，而且因为它带来的变革速度”。

在萨姆・奥特曼看来，未来十年，人工通用智能系统（AGI）将会超过90年代初人类所具备的专业水平，而且这些系统最终可能超过人类最大体量公司的总体生产力，因此其潜在收益是巨大的。而在与智源研究院理事长张宏江隔空对话中，他再次重申，AGI时代可能很快就会发生，未来十年内行业可能会拥有超强的AI系统。

但萨姆・奥特曼也指出，“AI革命将带来可共享的财富，使得改善人类的互动标准成为可能，但我们必须管理好风险，并共同努力来实现预期目标”，以及“随着越来越强大的AI系统出现，全球合作的利益变得前所未有重要”。

此外他还表示，“如果不做好规划，一个设计用于改善公共卫生结果的未对齐的AI系统，就可能会通过提供不平衡的建议来破坏整个集体系统。同样，一个旨在优化农业实践的人工智能系统可能会无意中损害经济和资源的消耗，缺乏对长期可持续性的考虑，从而影响食物生产和环境平衡。”

萨姆・奥特曼进一步指出，“希望我们都能认同，推进AGI安全是我们寻找共同立场的最重要领域之一。AGI的力量可以从根本上改变我们的文明，这突显了有意义的国际合作、协调的必要性，每个人都会从积极的治理方法中受益”。

为实现这一目标，萨姆・奥特曼提到了两个领域。首先需要建立起包容的国际准则和标准，并在所有国家对AGI的使用中建立平等、统一的防护措施。其次则是需要国际合作，以可验证的方式在全球范围内建立对越来越强大的AGI系统安全开发的信任。

同时，萨姆·奥特曼还引用《道德经》中的“千里之行，始于足下”，并表示最有建设性的第一步是与国际科技界展开合作，推动增加AGI安全技术进展的透明度和知识的机制，发现紧急问题的研究人员应该与更多人共享研究成果。

此外据萨姆·奥特曼透露，目前OpenAI正在投资于几个新的并且希望能取得成果的方向，其一是可扩展的监督，尝试使用AI系统来协助人类监督其他AI系统；其二是可解释性，希望可以更好理解模型内部发生的事情；其三则是训练AI系统具备更好优化自身的能力，它可以与AI的发展速度相适应。

至于OpenAI会否重新开放GPT源代码，他表示目前OpenAI开源了部分模型，并且随着时间的推移，可以期望更多模型开源，但未来随着模型变得越来越大，确保正确性将变得昂贵，而开源一切则可能不是最优路径。

【以上内容转自“三易生活网”，不代表本网站观点。如需转载请取得三易生活网许可，如有侵权请联系删除。】

延伸阅读：

• 信通院郭雪：开源是AI大模型的必经之路
• 生成式AI大风起，英伟达数据中心部门先赚为敬

未经允许不得转载：零时古怪 - 中国第一时事资讯综合门户 » OpenAI CEO日前表示，十年内或诞生超强AI系统