AGI(通用人工智能)是什么?

AGI(通用人工智能)是什么?

今天的 AI 能写文章、能画画、能写代码,考试成绩还比不少人高。可研究 AI 的人都说,AGI 还没来。这个 AGI,全称 Artificial General Intelligence,通用人工智能,是整个行业的终极目标,也是最容易吵翻天的词。这篇讲清它到底指什么、现在走到哪一步、为什么连“什么时候能实现”都吵不出结果。

会一样的不稀奇,样样都行的才算通用

先看我们手上的 AI 是什么。推荐视频的算法只管猜你喜欢,人脸识别只管认脸,AlphaFold 只管预测蛋白质结构。它们在各自领域很强,AlphaFold 甚至超过了人类科学家,可换一件事就干不了。这类 AI 叫窄人工智能,也叫弱 AI。今天所有在用的 AI,全是窄的。

AGI 指的是另一种东西:能像人一样理解、学习几乎所有智力任务的 AI。它得会推理,会在信息不全时下判断;得有常识,知道水往低处流、明天太阳照常升起;得能学新东西,把这个领域学会的本事搬到那个领域用;还得听得懂人话,把多项本领往同一个目标上使。研究者的共识是,这些得一起来,缺一样都不算通用。

有人会说,ChatGPT 什么都能聊,算不算?能聊不等于通用。它聊得像背书:训练完就定型,新经历学不进去,常识也常掉链子。通用与否看的是能不能真学、真懂、真迁移,不是看话多话少。

AGI(通用人工智能)是什么?
这张图对比了窄 AI 与 AGI 的差别,前者单项超强但只会一样,后者胜在样样能学

还有个容易搞混的词,ASI,超级人工智能,指全面超过人类的那种。AGI 是追平人类,ASI 是甩开人类,前者到了也不一定变成后者。

想给智能打分的人

怎么算“达到了”AGI?吵了七十年。图灵 1950 年出了个主意:隔着帘子聊天,分不清对方是机器还是人,机器就算过关。可后来的研究者发现这招不够用:会模仿不代表真理解,哲学家塞尔的“中文房间”思想实验说的就是这个,一个不懂中文的人照着规则手册翻出漂亮回答,你不能说他懂中文。

后来还有人出了更接地气的考题:让机器进一间陌生厨房,自己煮出一杯能喝的咖啡;或者进大学上课考试,拿到学位。听着不难,到今天一道都没人过关。

目前最被认可的操作方案,是 Google DeepMind 在 2023 年 11 月发的分级论文。他们把性能从低到高分五级:入门、普通、专家、大师、超人,每个级别再分通用和窄两种。按这个标准,今天的聊天模型处在入门级通用 AI 的位置,多数任务还不如不熟练的成年人;而 AlphaFold 属于超人级窄 AI,单项任务超过顶尖人类。他们还把“能力”和“自主性”分开打分,系统再聪明,交给它多少控制权是另一回事,风险要看两者。

AGI(通用人工智能)是什么?
这张图画出了 DeepMind 的分级阶梯,如今的大模型才站在第一级,最上面还空着

学者说 2047,老板说快了

AGI 什么时候来?规模最大的一次调查在 2023 年,问了 2778 位在顶会发过论文的 AI 研究者。他们给出的中位数答案:到 2047 年,有五成概率造出在所有任务上比人做得更好也更便宜的机器;到 2027 年,也有一成概率。

有意思的是预测一直在提前。同样的调查,2016 年的答案是 2061,2022 年是 2060,2023 年一口气提前了 13 年。ChatGPT 的出现把整个学界的预期往近拽了一大截。

但别把 2047 当成板上钉钉的日子。同一批调查里,把问题从“所有任务比人强”换成“所有职业都被自动化”,答案就从 2047 跳到 2116,差了将近 70 年,措辞变一变,结论差出一个世纪。还有人给 2027 年留了一成概率,也有人认为本世纪内都悬。公司的老板们普遍比学者急,原因不复杂,融资故事就挂在 AGI 上,学者没有这个压力。OpenAI 的阿尔特曼自己也承认,AGI 是个“定义很弱的词”。

AGI(通用人工智能)是什么?
这张图说明预测在一路提前,但换个问法答案能差几十年,没有定论

火花还是幻觉,两边吵翻了

现在的模型到底算不算摸到了 AGI 的门?2023 年 3 月,GPT-4 发布才八天,微软研究院甩出一篇 154 页的论文,标题就叫 AGI 的火花,说 GPT-4 应被视作 AGI 的早期版本。

反对的声音同样响亮。图灵奖得主勒昆的看法很直接:靠预测下一个词造出来的模型到不了人类智能,连猫的学习效率都比不上,要另造一套能理解世界的新架构。亚利桑那州立大学的团队 2024 年做了个实测,让 GPT-4 自己做规划,平均只有一成多的情况能生成能跑的方案,把动作名字换成无意义的代号后表现崩了,说明它更多是在照搬见过的套路,不是真推理。2025 年发布的抽象推理测试 ARC-AGI-2 更狠,纯大模型得分是零,而每道题都有普通人两分钟内做出来。

研究者米切尔给这种状态起了个名字:锯齿状边界。模型的能力不是齐齐整整的一块,而是东高西低的锯齿,能写十四行诗,却数不清某个词在句子里出现了几次。往哪边补齐,补不补得齐,正是分歧所在。

AGI(通用人工智能)是什么?
这张图把两边的论据摆在一起,火花派看广度,质疑派看短板,谁也没说服谁

AGI 和现在的 ChatGPT 有什么区别?

ChatGPT 这类大模型已经相当通用,但按 DeepMind 的标准只算入门级。它缺三样关键东西:训练完能力就冻住,不能像人一样持续从经历里学;常识不可靠,时不时一本正经地编造;规划能力弱,多步任务的中间环节容易掉链子。像个刷过海量题库的考生,不是一个会自己总结方法的学生。

AGI 会有意识吗?

没人知道,也没法验证。DeepMind 的分级原则特意写明:看系统能做什么,不追究它内部怎么运作、有没有感受。这是务实的做法,也等于把意识问题搁置了。哲学上的中文房间论证到今天还在被讨论,说明这个坑直到现在都没填上。所以研究 AGI 的人大多刻意绕开这个词,只谈能力,不谈内心。

AGI 真来了,人类会集体失业吗?

没那么快,也没那么简单。调查显示“机器在所有任务上超过人类”的中位数预测是 2047 年,“所有职业都能被完全自动化”却排到了 2116 年。能不能干、允不允许干、划不划得来,中间隔着法律、成本和社会接受度。更大的可能是任务先被一块块搬走,职业慢慢变形。

写在最后

AGI 的特别之处在于,它是这个行业的终极目标,却没有一个所有人都认账的定义,连怎么打分、什么时候到、到了算不算都悬着。学者看调查,老板看产品,质疑的人看短板,每一方手里都有证据。

还有一个更根本的问题被吵到了台面上:AI 越来越能干,怎么保证它一直站在人类这边?这叫对齐问题,下一篇我们聊它为什么难,难在哪。

© 版权声明

相关文章