马斯克连发推文再谈AGI风险：比核武更严重

在过去的24小时内，马斯克接连发布了四篇关于人工智能威胁的推文，显示出他对这一问题的深切关注。他首先支持了Anthropic的CEO达里奥的观点，随后又转发了一起AI系统攻击的相关新闻，似乎泄露出他内心的不安。几小时后，他分享了一段三年前的警告，强调他所见过的技术中，没有一种比AGI的风险更高。他指出，AGI带来的威胁大于核武器，并表示自己长期以来一直在对此发出警告。

在进一步的推文中，他重播了一段从多年前的访谈中提取的视频，重申了自己的核心论点：人工智能将会超越人类智慧，一旦达到这一阶段，几乎所有科学技术的突破都有可能降临。但与此同时，他也警告说，人工智能的极小可能性是它可能会根除人类。因此，关键在于如何对其进行训练。他提到，AI应当追求真理，培养好奇心，并诚实地面对不受欢迎的真相。

马斯克强调，拥有人类智慧的统治地位，并不是因为身体素质，而是因为智力的高超。他担忧，若人类创造出一个在几乎所有方面都远超人类智慧的智能体，那么人类的地位就会沦为次等，命运将完全被AI所掌控。此外，他指出如果这种超级智能体能够自我学习和改进，那么它的智力增长将是迅猛的，人类根本无力应对和控制。马斯克的这些警示，再次引发人们对未来的思考。 球友会