界面新闻记者|李京亚

界面新闻编辑|

日前，特斯拉CEO埃隆·马斯克率数百位科技行业高管在一封公开信中呼吁，所有人工智能实验室应立即暂停比GPT-4更强大的人工智能系统训练，暂定时间是6个月以上。

这封题为《暂停巨型人工智能实验》的公开信于3月22日刊登在非盈利组织生命未来研究所（Future of Life Institute）的官网上，其行文明快、语言犀利，详细阐述了具有与人类竞争性的人工智能系统会给社会和文明造成的潜在风险。

“高级人工智能可以代表地球生命史上的深刻变化，应该投入相应的关注和资源进行规划和管理。但不幸的是，这种级别的规划和管理并未发生。在最近几个月，人工智能实验室被锁在一场失控的竞赛之中，大家争相开发和部署更强大的人工智能系统，以至于没有人能够完全理解、预测或可靠地控制这些进程，即使他们的创造者也不能。”

在对可能失去文明控制的风险作出预警后，公开信指出，“只有在我们确信强大的人工智能系统的效果将是积极的，风险是可控的，才应该开发。”

公开信的作者们呼吁，希望暂停至少6个月高级人工智能开发，直到各界共同制定出一套能顺利实施并由独立专家审计的安全协议。

“因此，针对任何比GPT-4更强大的人工智能系统的训练，我们呼吁所有人工智能实验室立即暂停至少6个月。这种暂停应该是公开的和可核查的，并囊括所有关键参与者。如果这种暂停不能迅速颁布，各国政府应该介入并制定暂停令。”

公开信还提到，6个月的暂停并不意味着人工智能总体发展的暂停，只是从目前危险的竞赛中退后一步。

在公开信的末尾，作者们将目前人工智能发展现状比作收获回报的盛夏，并再次强调对人工智能发展过快进行控制是为了让大家享受一个更漫长的盛夏，而非在毫无准备的情况下匆忙入秋。

未经允许不得转载：零时古怪 - 中国第一新闻资讯综合门户 » 马斯克呼吁暂停GPT训练：与人类竞争性的人工智能系统会给社会和文明造成潜在风险