图灵奖得主理查德·萨顿：对AI的恐惧被夸大，去中心化协作实现AI与人类繁荣

萨顿表示，今天大多数机器学习的目标是把人类已有的知识转移到静态、缺乏自主学习能力的AI 上。但人类数据红利正逼近极限，“我们逐渐达到人类数据的极限，现有的 *** 不能生成新的知识，不适合持续学习，而持续学习对智能的效用至关重要。”他认为，人类正进入“经验时代”，需要由智能体与世界直接交互生成的一种新数据源，这正是人类和其他动物的学习方式，是近期AlphaProof在国际数学奥林匹克斩获银牌的路径。

“经验”是指观察、行动和奖励，这三种信号在智能体与世界之间来回传递。“知识来自于经验，可以从经验中学习。一个智能体的智能程度取决于它能预测并控制自身输入信号的程度。经验是一切智能的核心与基础。”他表示，强化学习带领我们进入了新的经验时代，但要释放全部潜力，还需要两项目前尚不成熟的技术——持续学习（continual learning）和元学习（meta-learning）技术。

萨顿将宇宙的历史分为四个时代：粒子时代、恒星时代、复制者时代和设计时代。他认为人类的独特之处在于“把设计推向极致”，创造出能自己设计的事物。人类至少是催化剂，是助产士，更是开启宇宙第四大时代“设计时代”的先驱。他认为人类终将真正理解智能，并借助技术创造智能。当前人类的智力水平很快将会被超级人工智能或超级智能增强的人类远远超越，权力和资源会流向最聪明的智能体。