AI教父Hinton：我支持超级AI取代人类
说到底，「AI能否理解」这个问题，既模糊不清，又在技术社区内引发了巨大的分歧和争议。
Hinton直截了当地反驳了一种流行的观点：LLM不过是高级的统计技巧，根本谈不上理解自然语言的含义。在他看来，这种看法大错特错。
他解释说，像「词袋」模型或者N元组模型这样的老派语言模型，内部本质就是一个存储了大量概率分数的单词组合表，确实纯粹靠统计概率来工作。
说到这儿，这位英国人很自然地搬出了国菜来打比方。
比如，在单词表里，「鱼」和「薯条」的出现概率高度相关。所以模型一看到「鱼」，就会机械地预测下一个词是「薯条」，压根不考虑任何上下文。
正因如此，过去的统计语言模型在自动补全功能上表现一直很糟糕。
但如今的LLM，工作原理已经完全不同了。现在的模型预测下一个词，靠的是理解你到目前为止说了什么。
举个例子，要回答人类的问题，LLM必须先理解问题的含义，否则它根本没法预测答案的第一个词该是什么。从这个角度看，单词预测任务（next token prediction）其实是在倒逼LLM发展出真正的理解能力。
Hinton的言谈之间，也透露出他对Scaling Law的认同。随着模型规模不断扩大，再加上Transformer这类技术突破，AI终将比人类更聪明，这只是一个时间问题。
主持人反问他：变得更聪明就一定会带来风险吗？
Hinton的回应一针见血——「你能举出几个例子，说明更聪明的那个，能被不太聪明的那个控制住？」「拜登当选之后，恐怕就再也没有了吧？」
他提到，好友Yann LeCun的观点与他不同，认为AI非常安全。但Hinton的论据是，AI已经进化到了可以构建智能体（agent）的程度，能够自主创建目标。
这些目标会驱动智能体去攫取更多控制权，它们会本能地避免毁灭、建立自我保护机制——从某种程度上说，这已经是一种自我利益，甚至可以说是进化的起点。
那么人类呢？
Hinton的预言相当冷酷：如果AI开始进化，最强的那个获胜，人类就会被遗忘，被彻底碾进尘土（原话：left in the dust）。到那时，AI将从孩子变成我们的父母，接管一切。
这听起来确实像是科幻小说的情节，但Hinton是认真的。「我已经不觉得这很科幻了，这是一个真实存在的威胁。」
超级AI取代人类
上面彭博的这篇最新采访中，Hinton谈到了AI取代人类的可能性。
而Reddit网友随后翻出了一个去年12月的访谈视频，同样涉及「AI取代人类」的话题，但这一次，Hinton的观点更加让人吃惊——
他公开宣称，自己实际上是支持AI的。
事情起源于采访最后一位观众的提问，原话是这样的：
「如果一个超级智能AI摧毁了人类，但客观上创造了一种意识层面上更好的物种，您个人是支持还是反对这种结果？如果反对，您建议用什么方法，在面对超级智能AI时维持人类意识的存在或主导地位？」
接下来，Hinton用相当平静的语气回答道：「我实际上是支持的，但我认为表示反对是更明智的说法。」
采访者当然不会放过他，让他展开说说。
但Hinton只是非常谨慎地抛出一句话：「人们不喜欢被取代」。
主持人不依不饶，继续追问原因。Hinton先是叠了一层甲，「人类有很多好的方面，也有很多不那么好的方面」。
之后才给出了一段令人深思的解释：「目前我们还不清楚什么是最好的智能形式。显然，从人的角度来看，一切都与人有关。但未来有一天，我们可能会把『人文主义』看成一种类似于种族主义的概念。」
这段对话在Reddit上同样是一石激起千层浪。
发帖的博主都对他的激进态度感到惊讶，而且他在被要求展开解释时，态度似乎非常坚决——即便他心知肚明，「表示反对是更明智的说法」。
有人严厉批评他，认为他完全不顾人类这个物种的生存和整体福祉，是「愤世嫉俗」和「虚无主义」的表现。毕竟，人都没了，要那么先进的AI技术还有什么用？
「很难想象比这更愤世嫉俗的行为了。」
「我认为很多未来主义者都在嘲讽人文主义的价值，恨不得在任何可能的情况下，把人类因素从『方程』里彻底移除。」
但同样也有支持和理解的声音。这些人认为，Hinton并不是愤世嫉俗、憎恶人类，他只是清醒地意识到一个现实——人类根本不是造物的顶峰。
进化会继续下去，更好的物种必然会出现。他只是以一种更开放、更坦然的心态接受了这个事实。
