递归自我改进算法，一直是AI研究里一个让人着迷的方向。Jürgen Schmidhuber早在1987年就给出了具体的算法构想——那时算力贵得吓人，同样的计算任务成本差不多是现在的一亿倍。之后他又陆续提出了元进化、自我修改策略、Gödel Machine等理论，还特别强调好奇心和硬件改进的作用。这篇文章就来梳理一下，这35年间他都走过哪些路。
1987年：一个成本高昂的起点
1987年，Jürgen Schmidhuber在毕业论文里写下一个挺大胆的想法：让算法自己去改进自己。那时候的计算机算力远不如现在，跑同样的任务，成本大概是一亿倍。但他还是把遗传编程用到了自己身上，搞出一套“元进化”机制，顺带提出了PSALMs，一种用于强化学习的元学习机制。简单说，他让程序不只会学习，还能学会“怎么学习”。
那年他做了这么几件事：
- 把遗传编程应用于自身，形成元进化机制
- 提出PSALMs，用于强化学习的元学习机制
- 在论文里描述了具体的递归自我改进算法
这个想法放在当时，超前得有点疯狂。可回头一看，它几乎预言了今天AI领域的不少方向，比如元学习、AutoML、自我进化。
让神经网络学会修改自己的权重
光有算法层面的自我改进还不够。1991到1992年间，Schmidhuber搞出了快速权重编程器和自指循环神经网络。这种网络的神奇之处在于，能通过梯度下降学会修改自己的权重——相当于AI在“神经层面”给自己动手术。这比后来流行的元学习概念，早了差不多二十年。
1994年，他又提出一种基于自修改策略的强化学习形式，也就是RSI。算法本身可以被改，但怎么保证改得好？他设计了一个“成功故事算法”来筛选：只有那些确实带来收益的自我修改才会留下，就像自然选择，只不过发生在代码里。
OOPS与Gödel Machine：追求最优
2002年，Schmidhuber提出OOPS，一种渐近时间最优的课程学习方法。核心思路是，遇到新问题，先试着复用和调整以前写过的程序，而不是从零开始。就像人类学数学，先会加法，再用加法去理解乘法，一点点搭积木。
到2003年，他提出Gödel Machine，名字取自数学家哥德尔。这机器厉害在哪？它是第一个在数学意义上具备最优性的自指通用RSI机器。它不会乱改自己，只有能证明某次自我重写确实有好处时，才肯动手。这种“证明后才修改”的机制，能保证每次升级都不会让系统变得更差。
这套理论听起来很完美，但落地极难。因为“证明”本身就要烧掉大量算力，而且很多情况下根本证不出来。不过随着算力成本一路下降，一些简化版本已经在特定场景里能用上了。比如今天的AutoML工具，做的事本质上就是类似的搜索和评估，只是离Gödel Machine还差得远。
好奇心、硬件与真实世界的连接
Schmidhuber从1990年起就把人工好奇心引进了RSI。他让世界模型尽量最小化预测误差，同时又让控制器去放大这个误差——说白了，就是让AI去探索那些它还没搞懂的东西。这个想法后来启发了很多内在动机的强化学习研究，跟今天“大模型主动收集数据”的路子也有点异曲同工。
他还强调，完整的RSI不能只停在软件层面。代码自己改自己，效率提升总有上限；要让AI真正持续进化，还得结合物理世界，把能自我改进的硬件也纳进来。这跟企业上云后不断升级基础设施的逻辑有点像——算力底座本身得足够灵活，才能支撑上层AI的迭代。不少公司选云服务器ECS，就是因为能随时调整配置，跟上业务变化。如果你也在做AI相关项目，可以考虑走阿里云优惠或领取阿里云代金券降低起步成本，把省下来的钱继续砸在算法迭代上。
这里有个靠谱的渠道：易枫顺 - 阿里云官方旗舰级代理商，可以帮你搞定云资源采购和架构建议，省心不少。
从论文到现实还有多远？
Schmidhuber的很多想法都太超前了。1987年他提出递归自我改进时，大家还在用软盘；1991年他让神经网络修改自己权重时，GPU还没发明；2003年Gödel Machine出世时，深度学习正处寒冬。可到了今天，越来越多的研究者开始回头翻这些旧论文，因为它们可能就是打开AGI大门的那把钥匙。
有意思的是，近些年大模型的出现，让“模型修改模型”不再神秘。比如一些AI系统能生成训练数据来训练下一个模型，甚至能自己调整超参数。这些实践，多多少少都带着Schmidhuber那套思想的影子。
当然，离真正的递归自我改进还有很长的路。计算效率、可证明性、安全控制，都是绕不过去的坎。但至少方向已经画出来了——剩下的，就看算力成本和算法创新能追多快了。
FAQ
Q: 递归自我改进算法是什么？
A: 简单讲，就是让AI系统能改自己的算法或代码，从而不断提升能力。Schmidhuber从1987年就开始研究，后来发展出Gödel Machine等理论。
Q: Gödel Machine和普通AI有什么区别？
A: 普通AI按固定算法跑，Gödel Machine能重写自己的代码，但前提是得在数学上证明这次重写有好处。这种“证明后才动手”的设计，保证了自我改进的安全性和最优性。
Q: 现在有实现递归自我改进的系统吗？
A: 完全体的RSI还没有。但AutoML、元学习、自我对弈这些研究，已经摸到了部分原理。随着云服务和算力成本降低，它们正在加速走向实用。
Q: 为什么说计算成本很关键？
A: 1987年Schmidhuber的算法，计算成本大概是现在的1亿倍。算力太低，很多实验根本没法规模化。现在云服务器ECS让普通团队也能跑复杂模型，那些老想法才重新被重视。
关于易枫顺
深圳市易枫顺网络科技有限公司是阿里云官方旗舰级代理商。提供云服务器ECS、云数据库RDS、对象存储OSS等阿里云全系产品官方特惠折扣与代金券申请，以及多云成本优化、企业上云一站式服务。客服热线：19520841949 - 易枫顺
来源：InfoQ
