AI 在各种任务中不断变得更好，但当前 AI 革命中最重要的人物之一解释了为什么它不会停止，直到它能够完成人类可以做的所有事情。
OpenAI 的联合创始人兼前首席科学家 Ilya Sutskever 的工作为当前的 AI 革命奠定了基础，他提出了一个合乎逻辑但“激烈”的论点，说明为什么通用人工智能 （AGI） 不是是否的问题，而是何时的问题。他要求我们超越当前的能力和局限性，考虑智能本身的基本性质。
他首先承认时间表的不确定性，但强调了结果的确定性。“在几年后——有人说三年，有人说五或十年，数字被抛来抛去——预测未来有点困难。但慢慢地，或者也许不是那么慢，人工智能会不断变得更好，总有一天，人工智能将做我们能做的所有事情，”Sutskever 说。他澄清说，他不是在谈论人类能力的一个子集：“不仅仅是其中的一部分，而是所有的能力。我可以学到的任何事情，你们任何人能学到的任何事情，人工智能也可以做。
对 Sutskever 来说，逻辑非常简单，并且建立在一个单一而有力的类比之上。“我怎么能这么确定呢？原因是我们都有一个大脑，而大脑是一台生物计算机，”他争辩道。“那么，为什么数字计算机、数字大脑不能做同样的事情呢？这是关于为什么 AI 能够做所有这些事情的一句话总结。
他敦促说，这种不可避免的发展迫使我们面对戏剧性的、改变世界的问题。“你可以开始问自己，当计算机可以完成我们所有的工作时，会发生什么？这些都是真正的大问题，”他说。“你开始稍微思考一下，然后你会说，’天哪，这有点紧张。’但实际上，这只是强度的一部分。
他认为，真正的加速将从人工智能重新转向自身时开始，从而创建一个递归的改进循环。“我们，集体’我们’，想用这些人工智能做什么？做更多的工作，发展经济，进行研发，做人工智能研究。然后，进步的速度将变得非常非常快，至少在一段时间内是这样，”他解释道。Sutskever 承认，与这个未来作斗争是非常困难的。“这些都是如此极端、难以想象的事情……在情感层面上内化和真正相信是非常困难的。我一直在为此挣扎，但逻辑似乎决定了这很可能会发生。
萨茨克弗的论点归结为一个强大的还原论前提：如果人脑是一个由生物过程支配的物理系统，那么它本质上就是一个高度复杂的计算设备。机器中没有魔法，没有空灵的灵魂，只有错综复杂的布线和发射的神经元。因此，一台足够先进的数字计算机，不受生物进化缓慢步伐的束缚，不仅应该能够复制其功能，而且最终应该超越它们。这种观点将 AGI 定位为一个有待解决的工程问题，而不是哲学上的不可能。
这种信念不仅仅是学术上的;它正在推动科技行业最高层的切实行动。Sutskever 是 OpenAI 2023 年领导层动荡的中心——据报道是由于他对开发速度与安全的担忧——最近宣布成立一家新公司 Safe Superintelligence Inc. （SSI）。该公司的唯一目标是在专注的研究环境中追求“安全的超级智能”，与推动谷歌、Microsoft 甚至他的前家 OpenAI 等公司的商业压力隔离开来。此举凸显了 Sutskever 对自己的预测的重视程度，他认为超级智能的创建是如此重要，以至于它需要一种专门的、安全第一的方法，与产品部署的竞争分开。他的观点清楚地提醒我们，对于我们 AI 未来的架构师来说，通往能够做我们所有事情的机器的旅程不仅仅是一个思想实验——它似乎是一项积极的使命。
