我们离超级智能有多近

人工智能 (AI) 有可能在某一天超越人类智能，有些人可能认为这是科幻小说中的概念。不过，一些研究人员认为，在 GPT-4 中已经出现了这种可能性的早期迹象。

人工大脑真的能理解吗？对于一些研究人员来说，这似乎不再荒谬。

人工智能对我们人类来说可能变得非常危险。在这个问题上有一个令人惊讶的共识。围绕人工智能和聊天机器人的炒作最近变成了狂热的警告。

 

我们离超级智能有多近？

然而，仔细观察就会发现，关于机器学习系统的危险是什么，存在着激烈的争论。一些专家警告此时此地的风险。聊天机器人可能会被滥用，例如，大量传播虚假信息。或者他们可以在他们的训练数据中重现种族主义和性别歧视的扭曲。其他人正在进一步展望未来。他们警告说，如果人工智能继续以目前的速度发展，将会发生什么。然后，在他们看来，它可以变得和人类一样聪明，甚至更聪明。研究人员将此称为通用人工智能 (AGI)，而有些人将其称为强人工智能或超级智能。

这种智能可能“有一天会超越我们，让我们变得多余，并取代我们。” 至少上周一群人工智能科学家和技术领袖在一封公开信中是这样写的。因此，他们呼吁暂停此类系统的开发，而是要求暂停六个月以制定安全措施，以确保任何潜在的超级智能都能帮助人类解决问题，而不是失去控制并伤害我们。

人们认为这是明智的还是危言耸听，很大程度上取决于人们是否认为强人工智能真的指日可待。微软研究院的研究人员现在声称已经找到了这方面的证据。在一份出版物 ( PDF ) 中，他们报告说，他们在对语言模型 GPT-4 的全面研究中发现了“通用人工智能的火花”。该系统在抽象、编程、数学、医学、法律、理解人类动机和情感等多个领域展现出“非凡的能力”。在其中许多领域，它今天已经超越了人类。

这与其他研究人员长期以来一直在说并反复强调的直接矛盾。他们认为，一般智能不可能仅从统计模型中出现。对超级智能的恐惧是“无稽之谈”。

虽然不确定我们是否真的处于发展超级智能的边缘，但围绕这种可能性的争论很重要。随着人工智能的不断发展，我们必须保持警惕，并确保在开发人工智能时考虑到人类的利益和安全。