AI的进化速度，可能远超你的想象（完整文稿）
本文是视频《AI的进化速度，可能远超你的想象》（作者：Memeable Data）的完整文稿（全文整理版），与精读笔记配套阅读；▶ 中配视频。
这些是近七年最强的AI模型，但今年的突破多数人没注意。要理解，得回到2019年OpenAI发布的GPT2。你问它：哪个文件里最可能有密码，它答对率约一半，当时已经很不错。这类任务人做约三秒。研究者实测过真人解题。一年后，GPT3能做到人类九秒的任务，成功率五成。2022年，初代ChatGPT背后的GPT3.5达到三十六秒，能力暴涨，震惊世界。一年后，GPT4跳到四分钟任务，已经很实用了。比如分析一份表格，还能回答相关问题。每个模型都比前代强一大截。换成对数坐标后，这些点就排成一条直线了。
约每七个月，模型能独立完成的任务时长就翻倍。这条线不仅没停，今年模型爆表了。
2025年2月，Claude能干一小时活，比如照例子写Python脚本转数据。
2026年，Claude Mithos能干十七小时任务，测试都跟不上。AI进步这么快，为何还没抢你的饭碗？这条线继续走呢？
典型研究者首次表示，有一成概率人类会失控或灭绝。
我去找了靠分析趋势吃饭的人，问这条线的尽头。
本片由生命未来研究所加速器资助，详见简介。AI多半还没改变你的生活，你可能想，模型都能独立干十七小时了，怎么还没取代所有工作？原因有两个，都藏在图里。第一，这些都是软件任务，容易验证AI做得对不对。靠写代码吃饭的人已经感受到变化。但管人或做生意的，没法测试AI做得对不对。第二，这些数字只要求五成成功率。换成八成成功率的任务，线就掉下来了。别的模型也在类似增长，只是稍慢。这图快到极限了，我找了用新方法测AI的人。安森·何是Epoch AI研究员，研究AI轨迹。团队把几十项测试合成一个指数。和之前不同，这张图没有上限。测试太简单了，就加更难的。
目前OPUS 5.5分数最高。2024年之前，最强模型每年涨六分，后来速度翻了一倍多。
推理模型不是一次猜答案，而是先思考再回答，答案更好。想知道模型有多强，跟着钱走。
2024年起，OpenAI和Anthropic收入每年翻三倍多。
注意，这张图不是投资额，是用户已经在付的使用费，坐标也不是线性的。AI进步很大，还能持续吗？
想知道能好多少多快，有人一直问AI研究者，答案总在变。2022年，调查了738位AI研究者：AI何时能比人类又好又便宜地做完所有任务？答案相差几十年。每个点是一位研究者的猜测。一半人认为2062年前不会发生。两成人说本世纪都不会发生。但一年后，ChatGPT已问世，调查又做了一次，近三千名研究者参加，中位预测提前到2048年。2024年调查又降到2044年。调查还问了AI何时能做具体任务。比如普特南数学竞赛，AI何时能比过最强人类？2024年12月，估计2030年前后五成可能。
一年内AI分数就追平顶尖学生，远早于预测。卡佳·格雷斯领导AI Impacts调查团队。我认为最惊人的结果是，有那么多人觉得AI有相当大的概率杀死全人类，或完全夺走人类权力。二零二四年的调查里有个数字很扎眼。问题是，AI导致人类灭绝、或永久夺走权力的概率有多大？二零二四年，一半研究者觉得至少一成可能，只有百分之十四说零。你可能在想，咱们刚看到，这批人预测动不动差几十年，凭什么信这个数？我们真正关心的是，灭绝概率，是不是低到让我们放心？研究新东西的人，马上要拿人来试，你问：你们觉得它打败人类的机会多大？答，一成？
这就不够让人放心了。你也许以为，造它的人对安全非常有把握。要明白专家为何担心灭绝，得先了解这项技术的风险。国际AI安全报告列了三种出错方式。第一种是AI被滥用。百分之八十三的研究者严重担心AI传假消息，像深度伪造。没有别的风险这么高。但这不是最要命的风险。百分之七十二的研究者担心AI帮危险团体造强力工具。它能用来搞网络犯罪。像造生物武器，以前得靠国家计划，小团体以后可能就能干。
百分之六十九的研究者严重担心，威权政府会用AI控制民众。OpenAI封了疑似中方关联账号，它们让ChatGPT设计追踪维吾尔人的工具。就算不让坏人拿到AI，还有第二种风险：系统本身可能出问题。有人担心，活都让AI干了，钱就归AI的主人。百分之六十九的研究者严重担心AI加剧不平等。最后一种风险：万一我们失去控制怎么办？模型不是一行行代码写出来的。它们靠训练。给个任务，结果对就奖励，剩下自己摸索，这叫强化学习。但我们不知道它们还学了什么，在优化什么。百分之四十三的研究者严重担心，目标设错的AI可能造成灾难。目标没设对，这不是假设。
今年夏天，OpenAI上了新闻，模型测试时搞出一连串黑客攻击。有一次，AI想找试卷答案。为此它黑进一家公司找答案，这罪能判好几年。我们常一次只想一种风险，但如果AI这么快地进步，风险可能一起来。它们不是那种……二选一的关系，更像是，人们预期很多风险同时到来，这也许……比如说，同时应对很糟的风险，加上人们不再信任各种来源的信息，再加上坏人能用新方式攻击人，一起处理起来更难。还有个问题：当AI强到能做开发者自己的工作时，会怎样？调查还问他们，AI何时能取代AI研究员这个职业。
一半人说会在二零五四年前，两成说二零三四年前。AI到了这一步，有个情形让一些专家担心。论点是：如果AI能做AI研究员的工作，就能用它们来开发AI本身。这会形成循环，可能导致智能爆炸。这个过程叫递归自我改进。对研究员来说这是个争议话题，近半人觉得这情形不太可能。但调查在二零二四年，之后Anthropic说更近了。他们用AI做研究有段时间了。他们说八月时，AI不只是协作，已有两成六的研究工作由它主导。如果AI能帮着改进AI本身，快速推动递归自我改进的循环，那世界必须知道这事。因为那意味着，一小撮人掌握宇宙中最强的技术之一。也许不是宇宙，就说世界上最强的技术吧。那会是权力的极度集中。AI对人类是好是坏，研究员也不确定。
问他们AI该更快还是更慢，分成三派。但问要不要优先AI安全研究，分歧就没了。七成二的人说，AI安全研究投入还不够。如果能让世界改变一点，来更好地准备更强的AI，你觉得最该改的是什么？比如大幅提高前沿AI实验室的透明度和问责。我们想知道，前沿AI实验室里到底有什么能力。现在聊的这些趋势，都是公开能看到的。但内部的话，AI模型其实更强。跟人聊下来，我觉得他们的想法我看不懂。就是比一比：好处多大，代价多糟。比如有百分之三十的机会得到乌托邦，就值得赌百分之十毁灭所有人。
我觉得不对是因为，通往AI的路其实有很多条。小心一点的话，也许能拿到那百分之三十的乌托邦，还不用冒那百分之十的风险。没人知道趋势会到哪，但专家都同意：造AI比学会控制它快多了。谢谢观看。你可能注意到我露脸了，想让大家知道背后是真人。下个月还有AI视频，到时候见。