从数据中自己学习

辛顿等人发表让深层网络“每次1层”学习的方法，通向“深度学习”的重要一步

层数很多的神经网络，只靠反向传播很难学好。辛顿等人提出的办法是：先每次只学1层（即“一次一层”），不给正确答案，让网络自己抓住“数据的特征”（预训练），然后再用反向传播对整个网络做调整。在手写数字数据集MNIST上，错误率为1.25%（Neural Computation的论文）；在用很少的数来表示图像和文档的任务上，效果也优于此前的方法（Science的论文）。

贝叶斯的论文——1763年，朋友普莱斯发现遗稿并送交皇家学会

贝叶斯定理的思路是：看到结果（证据）之后，重新计算其原因或假设有多大可能。它是朴素贝叶斯分类的基础。1763年12月23日，皇家学会宣读了一篇论文，形式是普莱斯（Price）写给会员坎顿（John Canton）的一封信。这是普莱斯从已故朋友贝叶斯的文稿中找到的《An Essay towards solving a Problem in the Doctrine of Chances》（“论机会学说中一个问题的解法”），刊登在会刊Philosophical Transactions第53卷（从第370页起）。据普莱斯的信，贝叶斯想找的是这样一种方法：对某个事件，只知道它此前发生了几次、没发生几次，其他一无所知，要据此判断它发生的概率。

朴素贝叶斯分类文档：1961年马伦的实验

朴素贝叶斯分类是这样一种方法：根据文档中包含的线索词，用贝叶斯定理计算该文档属于各领域的概率，归入概率最高的领域。它假设一旦领域确定，各词就独立出现，因此只需把各词的概率相乘就能计算。马伦（M. E. Maron，兰德公司The RAND Corporation）在1961年的论文《自动索引：一项实验性研究》（Automatic Indexing: An Experimental Inquiry）中，用计算机杂志IRE Transactions on Electronic Computers 1959年的405篇摘要做了实验。他把3月号和6月号的260篇作为训练数据，统计词与领域的关系。9月号的145篇在准备期间完全没有看，留作之后的测试数据。领域有32个，线索词有90个。在含有2个以上线索词的85篇测试文章中，概率第1位的领域正确的有44篇（51.8%），前3位以内含有正确领域的有68篇（80%）。

尚不清楚的事：这个1961年的实验，把145篇测试用文章在准备期间完全不看，从而把训练数据和测试数据分开。从论文的数字还能看出，用于训练的文章上的正确率（第1位正确的比例84.6%），比新文章上的正确率（51.8%）高得多。

最小二乘法：1805年勒让德发表，1809年高斯称自1795年起使用

最小二乘法是这样一种方法：把测得的值与用式子算出的值之间的误差1个1个地取2次方（平方）后全部加起来，让这个总和最小，以此确定式子的常数（如果是直线，就是斜率和截距）。勒让德（A. M. Legendre）在1805年于巴黎出版的关于确定彗星轨道的著作《关于确定彗星轨道的新方法》（Nouvelles méthodes pour la détermination des orbites des comètes）的附录《关于最小二乘法》（Sur la Méthode des moindres quarrés）中写道：当方程的个数多于要求的未知数个数时，误差不可能全部为0，所以让误差的2次方和最小是最一般、最精确、最实用的做法。他还写道，这样做能使各个误差之间保持平衡，防止极端误差的影响。高斯（C. F. Gauss）在1809年于汉堡出版的天体运动著作《天体运动论（Theoria motus corporum coelestium）》的第186节中写道，让差的2次方和最小的原理，是他们从1795年起就一直在用的，最近勒让德也发表了。1981年重新调查这段历史的斯蒂格勒（Stigler），称这是统计史上最有名的优先权之争。

尚不清楚的事：高斯是否真的在1795年就用过，并没有定论。高斯晚年的说法里有时是1794年，年代存在出入。斯蒂格勒写道，利用法国子午线测量的数据，也许可以确认。

逻辑斯谛函数：1838年Verhulst作为人口增长公式发表

逻辑斯谛函数是这样一个公式：起初增长速度接近成倍增长，越接近上限增长越缓慢，描出S形。后来的逻辑回归就用这个S形来表示概率（0到1之间的数）。Verhulst（P.-F. Verhulst）1838年在Quetelet编辑的杂志《Correspondance mathématique et physique》第10卷的一篇短论文中，用dp/dt = mp − np² 这个公式表示人口p的增长速度。它是从成倍增长的项mp中，减去人口越多作用越强的“刹车”np² 得到的。由这个公式的解可知，随着时间推移，人口会趋近上限m/n。他与法国、比利时、埃塞克斯（Essex）、俄国的人口数据做了比较，并写道这项研究1833年已经完成，是在Quetelet的建议下才发表的。他还写道，即使把“刹车”的形式改成np³、np⁴、n log p，与观测的误差也几乎一样，但上限的值却大大改变。

尚不清楚的事：Verhulst本人指出，即使把“刹车”的形式换成各种样子，与观测的误差也差不多，而对上限的预测却大不相同。他最后写道，“刹车”真正的形式只有将来才能揭晓。数据少时无法确定哪个公式正确，这个问题后来联系到模型选择（AIC等）的讨论。

逻辑回归——1958年考克斯发表0和1数据的回归方法，他本人说不清最早是谁做的

逻辑回归是处理答案只有“是”“否”、即取值为1或0的数据的方法，它根据年龄等解释变量来预测结果为1的概率。普通线性回归的预测值可能小于0或大于1，而采用S形的逻辑曲线，预测值就总是落在0和1之间，结果还可以用优势比（表示事情发生难易程度的比值）来解读。考克斯（D. R. Cox，论文署名单位为伦敦大学伯贝克学院Birkbeck College, University of London）在1958年7月的论文《二元序列的回归分析》（The Regression Analysis of Binary Sequences）中，处理的是对0和1的序列进行观测、且认为出现1的概率受1个或多个解释变量左右时的检验与估计。摘要里写着，此前已有不少相关研究，本文也对它们作了重新审视。考克斯在1994年的访谈中说，他的目标是建立一个类似最小二乘回归、用来分析0和1数据的系统框架，而伯贝克学院实验心理学方向的研究者们对0和1数据的分析兴趣浓厚，是起因中的1个。

尚不清楚的事：最早使用逻辑回归的人是谁，连当事人的说法也不明确。考克斯提到了康菲尔德的名字，但也说记不清自己是否受过其影响。

主成分分析的雏形：1901年皮尔逊指出最贴近点群的直线沿最长轴

伦敦University College的卡尔·皮尔逊（Karl Pearson）研究的问题是：对于平面或3维以上空间中的一群点，求出最吻合它们的直线或平面。通常的最小二乘法（回归分析：只假定y有误差，使纵向的偏差变小），会因为以x还是以y为基准而得到不同的直线。皮尔逊认为，当x和y同样含有测量误差时，只要使各点到直线所作垂线长度的平方和最小即可。他还证明，这条直线通过重心，方向就是表示点的散布的椭球最长轴的方向。这相当于现代主成分分析（把许多组数，用从离散程度最大的方向开始依次取出的少量数来表示的方法）中第1主成分的方向。论文里有一个10个点的数值例子，最贴近的直线斜率为 −0.546，而由x预测y的回归直线是 −0.5396，由y预测x的则是 −0.5659，表明这3条直线各不相同。

主成分分析：1933年霍特林用少数成分概括大量数值

哥伦比亚大学的哈罗德·霍特林认为，像孩子的算术速度、阅读测验成绩这样相互关联的众多变量背后，存在数量更少、彼此无关的基本量，并给出了把它们取出来的方法。先取出1个能最大程度解释全部变量离散程度的成分，再依次从与它无关的成分中，取出能最大程度解释剩余离散程度的成分。影响小的成分可以舍去。他把这称为“主成分方法”，并解释说，这等同于把坐标轴对准点的分布所形成的椭球的主轴。这原本是心理学里称为“心理因素”的东西，但在心理学以外的领域（电线杆的性质、汇率等）也能使用；为了不与数学里的factor一词冲突，他决定称之为components（成分）。

尚不清楚的事：霍特林是否知道皮尔逊1901年的论文，本站没有核实（保存下来的副本是机器识别出的文字，并未通读全部页面）。

数量化理论：1950年，林知己夫为预测假释，写成给定性数据赋予数值的方法的论文

统计数理研究所的林知己夫，在1948年日本人读写能力调查接近尾声时，接到法务省矫正保护研修所的一位刑法学者的商量。委托的内容是：对刑期已过3分之1的服刑人员是否可以假释，希望在统计上做出更可靠的判断。当时的方法，是由人来判断，给各项目的回答分配−2、−1、0、1、2这样的分数再相加。林去横滨监狱走访，听说那些适应监狱生活、干活勤快的优等生，释放后很快就又回来了。他还看出，反抗得很厉害的人也容易再犯，而处于中间的人最不容易再犯。他由此明白，评价的分数不一定简单地按一个方向排列。于是，他想到，为了让没有再犯的一组和再犯的一组分得最清楚，应该由数据来决定分配给各个回答（定性数据）的数值本身。在1950年的英文论文里，他把这表述为使预测成功率最大化的问题。此后，林针对读写能力调查、国铁养路区工作人员的人际关系调查、出口罐头标签设计的调查等现场课题，分别开发了方法，这些合起来被称为数量化理论。

尚不清楚的事：用林做出的数（权重），实际上假释的判断改变了多少（现场是否用了），本站没有查证。

k近邻算法的开端：1951年菲克斯和霍奇斯在美国空军报告中提出

k近邻算法（k-NN）是这样一种方法：对要分类的新点，按距离由近到远找出k个带标签的数据，把它归入占多数的那一组。由于事先不规定数据的分布，它被称为非参数方法。1951年2月，菲克斯（E. Fix）和霍奇斯（J. L. Hodges, Jr.）在美国空军航空医学院（USAF School of Aviation Medicine，得克萨斯州Randolph Field）的报告《Discriminatory analysis, nonparametric discrimination》中提出了这类规则。他们表明，随着数据个数n的增加，k也随之增加，并让k/n趋近于0，这个规则就具有一致性（数据越多，越接近最优分类）。以上是1967年科弗和哈特的论文中的介绍。

尚不清楚的事：1951年的报告本身，本站还没有打开原件确认过。内容依据的是1967年的论文和解说文章的介绍。

最近邻法：1967年证明只看最近1点，错误率也不超最小值的2倍

最近邻法（k=1的k近邻算法）是把新数据归入离它最近的已分类点所属类别（组）的方法。科弗（T. M. Cover，斯坦福大学）和哈特（P. E. Hart，斯坦福研究院）在1967年1月的论文《最近邻模式分类》（《Nearest Neighbor Pattern Classification》）中指出：当已分类的点足够多时，这种方法的错误率R虽然不会比完全了解分布时的最小错误率R*（贝叶斯错误率）更小，但也不会超过R* 的2倍（设类别数为M，则R* ≤ R ≤ R*(2 − MR*/(M − 1))）。论文据此写道，无限多的数据中所含的分类信息，有一半包含在最近的那1个点里。

尚不清楚的事：这个理论保证说的是数据足够多的情形（论文里的说法是large sample），并没有谈到数据较少时的表现。

k-means源头：1957年劳埃德在贝尔实验室写下步骤（1982年刊出）

贝尔实验室的斯图尔特·劳埃德（Stuart Lloyd）思考了PCM（脉冲编码调制：把信号的电压换成事先确定个数的代表值之一再发送的做法）。问题是求出使与原信号的误差平方平均（量化噪声）最小的区间划分和代表值。他称为方法I的步骤，是交替重复这两步：(1)确定划分，把每个区间的重心（平均）作为代表值；(2)把相邻代表值的正中间作为新的划分。这与1维的k-means（把点分到离得最近的代表所在的组，再把代表移到该组的平均处，如此重复的步骤）是同样的形式。这份手稿1957年在贝尔实验室内部传阅，同年9月在统计学会议上发表了一部分，但登上学术期刊已是约25年后的1982年。

尚不清楚的事：1957年的手稿本身（贝尔实验室的内部记录）没有公开，本站只是通过1982年论文的附记做了确认。1957年的会议上发表了什么、发表到什么程度，并不清楚。

k-means：1967年麦奎因把分成k组的步骤命名为k-means（k个平均）

加州大学洛杉矶分校的J. 麦奎因（MacQueen）把一种步骤命名为k-means：将数据（点）分成k组，使组内的离散程度（各点到平均值的距离的平方和）变小。他的步骤是，先把最初的k个点各自作为1组。之后每次取1个新点，放进平均值离它最近的那一组，并立刻更新该组的平均值。无论在哪个阶段，k个平均值都是各组的平均值，因此他称之为k-means。在同一篇论文里，麦奎因还介绍了如今常被当作k-means步骤的形式（把所有点重新划分到最近的平均值所在的组 → 重新计算各组的平均值，这2步反复进行）。据他说，这是Forgy和Jennrich各自独立想到、并在1963年前后告诉他的方法。

尚不清楚的事：已知多位研究者各自独立得到了同样的步骤，但他们之间有多少信息往来（例如谁读过Lloyd 1957年的手稿），本站没有核实。

层次聚类——1958年，索卡尔和米切纳把97种蜜蜂按相似程度排成树状图

堪萨斯大学昆虫学系的罗伯特·索卡尔和查尔斯·米切纳，对单独生活的切叶蜂科97个种进行了分类。他们比较每1个种的122个特征（如腹部颜色是红还是黑这样的性状），用相关系数（表示2列数字增减的步调有多一致的数）来表示种与种之间的相似程度。然后把相似的种归为一组，再把得到的组依次连接起来，汇总成一棵完整的树状图。这就是现在层次聚类（从最近的开始依次合并，形成嵌套分组的树的方法）的思路。以往的分类是对少数特征凭人的主观赋予权重，而2人对许多特征一视同仁地处理。计算动用了IBM的穿孔卡片机和使用台式计算器的人（论文里把“计算员”写作computer），仅相关系数的计算就花了160人时。2人还写道，用当时的数字计算机的话，不到1小时就能完成。

尚不清楚的事：据说，从相似的开始依次合并成树的想法，在同一时期其他领域也出现过，但本站没有打开那些原始论文，没有核实。哪一个最早，没有断定。

沃德法：1963年沃德提出选定目标函数、每次合并2组的层次聚类

空军基地（Lackland Air Force Base）航空航天医学部门的乔·H·沃德（Joe H. Ward Jr.），针对超过100这样的大规模调查，给出了把人或对象分成相似小组（簇）的步骤。从n个组（起初每组1个对象）中，把其中2个组合并的n(n−1)/2种情形全部查一遍，把使目标函数（表示合并好坏的数值，由研究者根据目的选择）最优的2个组合并，变成n−1个组。重复这一步直到只剩1个组，就能知道整体的层次结构，以及每个阶段损失的信息量。论文的例子中，把10个人的分数2, 6, 5, 6, 2, 2, 2, 0, 0, 0当作1个组，用平均值代表时，误差平方和（与平均值之差的平方之和）是50.5；但如果分成 {0,0,0} {2,2,2,2} {5} {6,6} 这4组，则为0。

尚不清楚的事：本网站核实了论文的前2页（p.236-237）。流程图和数值例子的详细内容（p.238以后）没有读过。

隐马尔可夫模型：1966年鲍姆和佩特里建立“隐状态转移并产生符号”的数学

普林斯顿国防分析研究所（Institute for Defense Analyses）的伦纳德·E·鲍姆（Leonard E. Baum）和泰德·佩特里（Ted Petrie）设想了一种概率模型：从外部看不见的状态按照马尔可夫链（下一个状态只由当前状态按概率决定的转移过程）变化，每个状态再按概率产生符号。他们把它叫作马尔可夫链的概率函数。他们证明，只靠观测到的符号序列Y1, …, YT，就能估计出状态转移概率表A和符号输出概率表B；而且数据越多，最大似然估计（选出使这些数据最容易出现的取值的估计方法）就越接近真实值。这是今天隐马尔可夫模型（HMM）数学上的1个起点。1970年，同一个小组（佩特里、索尔斯、韦斯与鲍姆）给出了一种逐步提高似然的迭代计算方法。登普斯特等人在1977年写道，这其实是EM算法的一个特例。

尚不清楚的事：谁最先使用“隐马尔可夫模型（hidden Markov model）”这个名称、是哪一年，本站没有查证。国防分析研究所做这项研究是出于什么目的，资料里也没有写。

隐马尔可夫模型识别语音：贝克（1975）、耶利内克（1976）

同一个词，说话的声音会因人、因语速而变化。1975年，J·贝克在语音理解系统DRAGON中，把语言的各种知识用马尔可夫过程的概率函数（即现在的隐马尔可夫模型：看不见的状态按概率转移，每个状态按概率输出声音的特征）这1种形式表示出来。1976年，IBM托马斯·J·沃森研究中心的F·耶利内克发表了用统计方法识别连续语音的论文。不过，这种方法在语音研究中被广泛理解和使用，从拉比纳1988年写下手稿时来看，也只是最近几年的事。1989年，AT&T贝尔实验室的劳伦斯·R·拉比纳把理论和它在语音识别中的应用汇总成1篇综述。在这篇综述的实验中，对不限说话人的逐1个词的数字识别，隐马尔可夫模型的错误率与传统的模式匹配（先用动态规划把语速的差异对齐，再与记住的声音样板比较的DTW方法）相当。这种样板匹配的想法，在日本也于1971年由日本电气的迫江博昭、千叶成美以DP匹配的名称发表过（本站的另一个事件）。

尚不清楚的事：拉比纳1989年的综述也指出，“声音的观测值相互独立”的假设和马尔可夫性的假设，与真实的语音并不吻合。尽管如此它仍然管用，原因在这篇综述中没有明确说明。

赤池信息量准则AIC：1971年发表，1973年成文

AIC是在多个统计模型候选中决定使用哪一个的准则。计算方法是AIC＝（−2）×（最大对数似然）＋2 ×（参数的个数），值越小的模型被认为越好。第1项表示对数据的拟合好坏（拟合得越好，值越小），第2项相当于对随意增加可调参数个数的惩罚。统计数理研究所的赤池弘次在1968年研究用时间序列模型表示水泥回转窑（rotary kiln）的运转时，遇到了要使用多少个过去的值（阶数）的问题，于是考虑了预测误差的期望值（FPE）。据1981年的回忆，1971年3月16日早晨，他在通勤电车上坐下来的时候，突然意识到最大似然与库尔贝克-莱布勒信息量之间的联系。在2006年京都奖纪念演讲中，他说：“关于AIC的首次发表，是1971年在日本统计学会上的报告”。接着他回顾说，同一年在亚美尼亚召开的第2届国际信息论研讨会上做了详细发表，1973年以会议录的形式出版，1974年在美国IEEE的自动控制杂志上发表了解说文章。

尚不清楚的事：AIC并不是一开始就被接受的。赤池在2006年的演讲中说，应用领域有积极的反应，但“来自正统统计学领域的反应是消极的”。1981年的回忆里也写着，它还没有被专业的统计学家充分接受。另外，AIC以参数与分布1对1对应的正则模型为前提。因此，它在神经网络这样的学习机器上怎么用，引出了后来的研究（渡边澄夫的WAIC等）。

交叉验证：斯通1974年的论文，想法1930年代就有

交叉验证（cross-validation）是这样一种方法：把手头的数据分成学习用和验证用两部分，不断改变分法反复检验，根据成绩的平均值来选择预测方法。在“留一法”（每次留出1个）中，对n个数据，去掉1个，用其余n − 1个建立模型，再用去掉的那1个来测试，如此重复n次。斯通（M. Stone，University College London）于1973年12月5日在皇家统计学会发表，并于1974年刊登在Journal of the Royal Statistical Society, Series B上的论文《Cross-validatory Choice and Assessment of Statistical Predictions》，提议把这一准则，用在把预测方法的选择及其评估合为一体的形式上。他还用1个样本的估计、多元回归、方差分析的例子作了说明。

尚不清楚的事：1977年，斯通表明，每次留出1个的交叉验证（留一法）与赤池的AIC在数据很多时表现相同（渐近等价）（据2010年渡边的论文介绍）。不过这是参数与概率分布1对1对应的正则模型的情形。对神经网络这样的奇异模型会怎样，直到2010年渡边的论文之前都不清楚。

WAIC：2010年渡边澄夫证明它与留一交叉验证趋同

WAIC（widely applicable information criterion，广泛适用的信息量准则）是渡边澄夫（论文署名单位为Tokyo Institute of Technology的Precision and Intelligence Laboratory）提出的，用来估计贝叶斯估计模型的泛化损失（对未知数据的预测误差）的准则。AIC以参数与概率分布1对1对应的正则模型为前提。然而，神经网络、混合正态分布、隐马尔可夫模型、玻尔兹曼机等许多学习机器，都是这一前提不成立的奇异模型。渡边先生在2010年12月的Journal of Machine Learning Research论文中证明，即使对这类奇异模型，当数据量很大时，贝叶斯的留1交叉验证（leave-one-out，每次只留出1个数据）的损失与WAIC也会趋近同一个值（渐近等价）。对于正则模型，留1交叉验证与AIC渐近等价，这一点在1977年Stone的论文等中已为人所知。

EM算法：1977年登普斯特等把残缺数据的学习方法一般化并命名

哈佛大学和教育测试服务中心（Educational Testing Service）的A·P·登普斯特、N·M·莱尔德、D·B·鲁宾提出了一种一般方法：当数据的一部分看不见（缺失）时，估计最可能的参数（统计模型中的数）。在E步（expectation：期望）中，用现在的参数计算看不见部分的值的期望。在M步（maximization：最大化）中，用补全后的数据，把参数重新计算成最可能的值。因为这两步交替重复，所以命名为EM算法。他们证明，每重复一次，数据的似然（在该参数下出现这组数据的可能程度）都不会下降。他们还指出，含缺失值的数据、几个峰混在一起的分布（混合分布）、因子分析等许多例子都属于这种形式。第一个例子是197只动物按遗传机制分为4个种类的数据（出自拉奥1965年书中的例子）。

大津二值化（1979）：自动选定灰度图黑白分界，使2组分得最开

大津展之（1979年英语论文署名的所属单位是Electrotechnical Laboratory, Tokyo）提出了一种方法，用来在把文字或物体从黑白灰度图像的背景中分开时，自动确定分界的亮度（阈值）。把亮度的频数分布（直方图）在某个亮度k处分成2组时，选取使组与组之间的离散程度（类间方差）最大的k。这是判别分析（求出能把2组很好分开的尺度的统计方法）的想法，与使组内的离散程度（类内方差）最小是一回事。计算只用直方图的0阶和1阶累积矩（到该亮度为止的像素所占的比例，以及亮度的总和），所以计算起来非常简单。它不需要给出正确答案，是无监督的方法。1980年日语论文的摘要写道，它在用若干个值去近似原来的灰度图像时，就最小2乘的意义而言也是最优的，也很容易推广到分成3组以上的情形。论文中的例子有：用新色带和旧色带打出的打字机字母A、布的花纹、细胞图像（分成背景、细胞质、细胞核3部分）。

尚不清楚的事：英语论文写道，评价函数是否总是只有1个峰（单峰），目前还没有得到严格的证明（实验中它总是平滑且单峰的）。

贝叶斯网络（1985）：珀尔用箭头图加条件概率表示因果并命名（始于1982）

加州大学洛杉矶分校（UCLA）的朱迪亚·珀尔（Judea Pearl）把许多命题或变量当作点，用箭头连接直接的依赖关系，并用条件概率（A发生时B发生的概率）表示强度，他把这样的图称为贝叶斯网络。一旦得到新的证据（例如检查结果），每个点只与相邻的点交换简短的消息，就能正确更新整体的概率（相信的程度）。这样就可以在遵守概率计算规则的前提下，依据许多线索进行推理。在1982年的AAAI论文中，珀尔写道，许多AI研究者接受了一个神话，即不确定推理的计算模型必须至少部分地违背概率规则，因而使用了临时拼凑的规则。他随后证明，如果是树形的网络，就能完全按概率规则，只通过1轮交换更新整体。1985年的报告，是他把这个机制作为人的记忆与推理的模型，在认知科学大会上发表的。

尚不清楚的事：珀尔自己在摘要中写道，只靠局部的消息交换就能正确更新整体，仅限于任意2点之间只有1条路径的网络。对于有多条路径的网络，这份报告只讨论了计算的方针。

决策树：昆兰1986年写成ID3，源于CLS（1966）等

决策树是一种分类方法，把“天气如何”“湿度高不高”这类问题排成分叉的形状。按照回答沿着分支走下去，到达叶子时输出结果（类别）。ID3按下面的办法决定先问哪个问题来建树：选出按这个问题划分数据时获得的信息量（信息增益，以比特计量）最大的问题，在分出去的每一支里重复同样的处理。昆兰（J. R. Quinlan，New South Wales Institute of Technology）在1986年的论文《决策树的归纳》（Induction of Decision Trees）中计算了一个具体的例子。他用的是14个周六早晨的天气条件（天气、气温、湿度、风，以及P和N 2个类别），显示按天气划分能获得0.246比特的信息，是最大的，因此树根是天气。据论文所说，这一系列方法的根源是亨特等人的CLS（1966年的书）。ID3（1979年）是在研究米奇（Donald Michie）出的一道题时开发出来的：只根据形状特征，识别国际象棋残局（王和车对王和马）的局面。

TD学习：1988年萨顿把不等最终结果、靠预测间误差学习的方法理论化

GTE实验室的理查德·萨顿，把TD方法（temporal-difference：时间差分学习法）在理论上整理成一种从经验中学习对未来预测的方法。通常的监督学习，是用预测与最终结果的误差来修正预测。而TD方法则用“今天的预测”与“明天的预测”之间的误差来修正今天的预测。论文以天气预报员为例：每天预测周六是否下雨，设周一预测50%，周二预测75%。TD方法不等周六的结果，就会把周一这样的日子的预测调高。萨顿论证说，这样每天都能一点一点地计算，需要的记忆也少，而且在许多情况下预测更准确。接着他对特殊情形证明了收敛性和最优性。作为验证的例子，他用随机游走问题，让程序学习从各个位置到达G的概率：从中央的D出发，每次随机向左或向右走1步，到达最左端的A或最右端的G就结束。

尚不清楚的事：萨顿论证说，当时用监督学习处理的问题，大部分其实都是TD方法可以占优势的预测问题（1988年的展望）。这个展望在多大程度上成立，本站没有核实。

Q学习：1989年沃特金斯博士论文提出（1992年详证）

Christopher Watkins在King's College的博士论文《Learning from Delayed Rewards》（从延迟到来的奖励中学习，1989年5月）中，提出了一个问题：动物怎样才能从经验中学会最优的行为。行为生态学用动态规划（预先看清直到最后的结果，计算出最好行动的方法）来推导动物的最优行为，但很难认为动物真的在做这种计算。于是Watkins提出了1步Q学习：在状态x下采取行动a时的行动价值Q(x, a)，用每次试验得到的奖励r和下一状态中最大的Q值，一点一点地更新。他在附录中证明，即使没有环境模型，只要在所有状态下把所有行动都试很多次，就会趋近最优行动的价值。1992年，Watkins和Dayan在学术期刊上发表了一篇把这一证明写得很详细的短论文。

尚不清楚的事：据博士论文的序言，Sutton指出了Q学习的难点。那具体是什么，本网站没有查证。

profit sharing理论：1994年证明不学多余动作的条件

强化学习（以奖励为线索，边尝试边学习行动方式的方法）中，有每走1步就更新行动价值的TD法和Q学习，也有得到奖励时把此前一连串行动（回合）一并强化的profit sharing法。宫崎和光、山村雅幸、小林重信对profit sharing法从数学上分析了：从奖励往前数多少步的行动，应分配多少（强化函数）。结果证明了不学习绕远路的无效规则（行动）的充要条件（无效规则抑制定理），并表明在同样条件下，能学到持续获得奖励的行动方针。论文还作了比较：Q学习为准确理解环境需要庞大的试行次数，而profit sharing法学习所需的试行次数少得多。这篇论文获得了1994年度人工智能学会论文奖。

尚不清楚的事：这一条件之后在实际的机器人和应用中被用到什么程度，本站没有核实。

提升法：1990年夏皮雷证明弱学习可变强，1995年AdaBoost发表

提升法（boosting）是这样一种方法：反复构造多个只比瞎猜稍好一点的弱分类器，每一轮对前一轮判错的数据加大权重再训练，最后用加权多数表决汇总，得到强分类器。它的起源是计算理论中的一个问题。凯恩斯（Kearns）和瓦利恩特（Valiant）把“只比瞎猜略好的弱学习”与“想多准就能多准的强学习”是否具有同样能力，作为未解决问题（假设提升问题）留了下来。夏皮雷（R. E. Schapire，MIT Laboratory for Computer Science）在1990年的论文《弱可学习性的强度》（The Strength of Weak Learnability）中证明这2者是等价的，并给出了把弱学习方法变成强学习方法的构造。弗罗因德（Y. Freund）和夏皮雷在1995年3月的巴塞罗那学术会议上发表了AdaBoost（1997年在学术期刊上发表论文）。论文写道，这个名字来自它与以往方法不同，会根据弱分类器的错误自适应地（adaptively）调整权重。论文以一个比喻开头：一个赛马总输的人，根据朋友们的战绩重新分配赌注。

尚不清楚的事：为什么训练错误率降到0之后，测试错误率还会继续下降？夏皮雷2013年的解说写道，用间隔（margin）来解释，是唯一能说明过拟合没有发生的情形的理论。但他同时写道，数值上的保证非常宽松。

梯度提升：1999年弗里德曼把用小决策树填残差的提升法归纳为梯度下降

梯度提升是这样一种方法：让下一棵小决策树去预测当前模型的预测值与正确答案之间的误差（残差），再把这棵树只加上一点点，如此反复多次，让预测一点点变好。弗里德曼（Jerome H. Friedman，斯坦福大学）写了日期为1999年2月24日的论文《贪婪函数逼近：梯度提升机》（Greedy Function Approximation: A Gradient Boosting Machine；IMS 1999 Reitz Lecture，2001年刊登于The Annals of Statistics）。论文把这种逐步叠加，看作在函数空间中沿误差大小（损失）下降最陡的方向一点点往下走的计算（最速下降法）。如果把平方误差当作损失，每一轮的树学习的就是当前的残差本身。这套步骤也能用于其他损失，如绝对误差、Huber损失、用于分类的逻辑斯谛似然等。论文还写道，用学习率 ν 把每轮加上的量缩小（收缩），往往能得到更好的结果。

核函数支持向量机（1992年）：博泽等发表可用于弯曲边界的最大间隔法

支持向量机（SVM）是这样一种方法：划分2个类别的边界，要让边界到最近的点的距离（间隔，margin）最大。博泽（B. E. Boser，加州大学伯克利分校。部分研究在AT&T贝尔实验室进行）、居永（I. M. Guyon）、瓦普尼克（V. N. Vapnik，两人在AT&T贝尔实验室）在1992年7月的学术会议COLT '92的论文“最优间隔分类器的训练算法”（A Training Algorithm for Optimal Margin Classifiers）中，把这个问题改写成只使用衡量点与点之间相似度的函数（核函数）K(x, x')的形式（对偶形式）来求解。这样，即使是多项式或径向基函数那样的弯曲边界，也可以用同样的计算使间隔最大。边界只由离边界最近的少数训练数据（论文里的说法是supporting patterns）决定。在取自实际邮件的手写数字（训练7300张・测试2000张）上，用4次多项式核，错误率为4.9%，略低于同一数据上已报告的5层神经网络的5.1%。

随机森林（2001）：布赖曼让众多随机决策树投票

随机森林是一种方法：在稍有不同的条件下培育大量决策树，用多数表决来决定预测。每棵决策树都用从训练数据中随机选出的样本来培育，每次分支时，从随机选出的一部分特征中选取最佳的分法。布赖曼（Leo Breiman，加州大学伯克利分校统计学系）在2001年的论文《随机森林》（Random Forests）中写道：树增多后，根据强大数定律，错误率会收敛到一个定值，所以过拟合不成问题。他还证明，森林的错误率取决于每棵树的强度和树与树之间的相关性。利用没被随机选中的约3分之1的样本（out-of-bag），不需要另外的测试数据或交叉验证，就能估计错误率。1995年，Tin Kam Ho（AT&T Bell Laboratories）在《Random Decision Forests》中就已指出：把使用随机选出的一部分特征的树捆在一起，识别手写数字时，不论在训练数据上还是在第一次见到的数据上，正确率都会提高。

奇异值分解：1873年贝尔特拉米、1874年若尔当表明矩阵可拆成3步

奇异值分解（SVD）说的是：任何矩阵（把数按行列排成的表，表示向量的变换）都可以拆成3个相乘的步骤：改变方向（旋转）→ 沿各个坐标轴伸缩 → 再旋转一次。其中伸缩的倍数叫奇异值。只保留较大的奇异值，就能用较少的数很好地近似原来的表，所以它被用在偏好预测（推荐功能）和主成分分析的计算中。最先发表这一分解的是1873年的欧金尼奥·贝尔特拉米，刊登在面向意大利大学生的数学杂志上。贝尔特拉米在开头写道，希望借此让年轻读者熟悉这类代数运算。第二年，即1874年，卡米耶·若尔当另外给出了同一分解，形式更完整。

尚不清楚的事：“奇异值（singular value）”这个术语是何时固定为现在的含义的，据斯图尔特1992年的说法，20世纪上半叶还不统一。本站没有追查原始资料。

低秩最佳近似：1936年埃卡特和杨解决，重新发现1907年施密特定理

芝加哥大学的卡尔·埃卡特（Carl Eckart）和盖尔·杨（Gale Young）解决了这样一个问题：用秩（相互独立的方向的数量）更低的矩阵来近似一个矩阵，并使平方误差之和最小。据论文摘要，先把矩阵化成标准形（相当于现在的奇异值分解），问题就容易解。解总是存在，通常只有唯一的1个。这个解就是在奇异值分解中把较小的奇异值置为0所得到的矩阵（斯图尔特1992的说明）。摘要中说，这个问题与因子分析的基本概念关系很深，因子分析是用少数几个因子来解释测验得分表。这篇论文刊登在这一年创刊的心理测量学期刊Psychometrika的第1卷上。

尚不清楚的事：埃卡特和杨是否知道施密特1907年的研究，本站没有确认过（没有打开正文）。

100万美元Netflix Prize（2006—2009）：仅差20分钟

2006年10月，当时出租电影DVD的Netflix举办了一场大赛：只要能把电影评分预测得比自家的推荐系统（Cinematch）准确10%，就颁发100万美元奖金。他们发放的数据是：把姓名换成编号的约48万人，对约1万8000部电影打出的超过1亿条评分（1—5颗星）。约3年后的2009年9月21日，BellKor's Pragmatic Chaos队夺冠。第2名的队伍得分相同（误差0.8567，提高10.06%），但提交时间早了约20分钟的一方获胜（依据的是同分则先提交者胜的规定）。

2006年方克在博客公开Netflix Prize方法：只用已知部分学习

参加预测电影好恶的大赛Netflix Prize的西蒙·方克（Simon Funk），在2006年12月11日把自己的方法（当时并列第3名）全部公开在博客上。提供的数据是约50万人对约1万7000部电影打出的1亿条评分，做成“用户×电影”的矩阵，约85亿个元素中有84亿个缺失。方克用40维向量分别表示用户的好恶和电影的特征，用它们的内积预测评分（参数约2000万个，是原矩阵的400分之1）。这和奇异值分解（SVD）中只保留前40个奇异值的近似是同一种形式，但真正的SVD遇到缺失值就无法计算。于是，他只对已知的评分求预测的误差，再朝着误差变小的方向一点点修改参数，反复进行（梯度下降。学习率为0.001）。他本人把它称为改良的SVD。

尚不清楚的事：在方克之前，是谁想出了同样分解有缺失值的矩阵来预测好恶的方法，本站没有查证。

Amazon推出“亚马逊Mechanical Turk”（人工的人工智能）

Amazon发布了“Amazon Mechanical Turk”机制，让程序可以向人类委托小的作业并接收结果。发布文章把计算机让许多人去做作业并使用其结果的做法，称为“人工的人工智能（Artificial Artificial Intelligence）”。后来在2009年的ImageNet中，它被用于确认照片是否真的拍到了那个物体。ImageNet的论文把它说明为作业者获得报酬的场所。

李飞飞等人发表ImageNet：数百万张带名称的照片，由网上接活的人逐张核对

李等人以按层级结构整理概念的词典WordNet为基础，为约8万个名词类别，各收集平均500至1000张照片，发表了ImageNet（论文的例子是Burmese cat，即“图像中有伯曼猫吗？”）。发表时已达到12个领域、5247个类别、320万张图像。图像用搜索引擎收集，照片里是否确实拍到了目标物体，由通过Amazon Mechanical Turk接活赚钱的世界各地的工作者对每1张逐一核对，并用多人投票来决定。

尚不清楚的事：关于工作者的人数、居住国和报酬金额，这篇论文中没有记载（未确认）。

谷歌3位研究者发表“数据的不合理有效性”：让数据成为盟友

谷歌的哈勒维、诺维格、佩雷拉写道，在处理语言的机器学习中，最成功的是统计语音识别和统计机器翻译。翻译（语音听写也一样）每天都在为人们真正的需要而被普通地进行，现实世界里直接就存在着大量“我们想要自动化的输入输出行为”的训练数据。他们还提到，2006年谷歌公开了1万亿词的文本数据（最长5个词的序列的出现次数）。接着他们说“无一例外，简单的方法加上大量数据，胜过基于少量数据的更精细的方法”，并在结尾段写下“跟着数据走”。

NVIDIA发布CUDA，让原本用来绘制图像的GPU也能用于其他计算

用来绘制游戏图像的GPU（图形处理半导体），具有用许多小的计算核心（core）同时做同样计算的能力（GeForce 8800 GTX最多有128个）。NVIDIA在发布GeForce 8800的同时，发布了让GPU能用通用编程语言（C语言）去做图像处理以外的计算的机制“CUDA”。后来，它成了让神经网络高速学习的工具（2009年斯坦福的论文，以及2012年图像识别竞赛的优胜队伍，也都用了GPU）。

斯坦福的吴恩达等人证明，用GPU训练神经网络最多可加速70倍

赖纳（Raina）、马达万（Madhavan）和吴恩达（Ng），用游戏用的GPU（NVIDIA GeForce GTX 280）训练进行无监督学习的深层网络。比通常的CPU（2核）最多快70倍，把一个有1亿个数、共4层的网络的训练时间从“数周”缩短到“约一天”（约1天）。论文指出了一个问题：用大规模数据学习虽然重要，但计算太慢，实验只能做得很小。

谷歌试验大规模神经网络的团队“Google Brain”启动

据谷歌的部门X（页面下方写着“X, a division of Google LLC”，标题是“Brain - A Google X Moonshot”）的官方页面，Google Brain团队于2011年开始活动，2012年底从X转入谷歌。2011年12月，谷歌和斯坦福大学的研究者公开了用没有标签的YouTube图像进行学习的论文（后来的谷歌猫论文）的初版。2012年的论文发表了用几千台计算机训练1个大规模神经网络的机制DistBelief，报告称训练出了比以往报告大30倍的网络，还加快了商用语音识别的训练。2023年4月，谷歌宣布把这个团队与DeepMind合并为Google DeepMind。

深度学习在图像之前，先在“语音识别”上出成果（2009～2012年）

深度学习（用堆叠很多层的神经网络来学习的AI机制）从2009年前后起，在语音识别上开始超过此前长期使用的统计方法（GMM）。2012年，多伦多大学、微软研究院、Google、IBM这4个研究小组把“共同的看法”整理成论文，展示了在对话转写测试中，把单词错误率从27.4%降到18.5%（约减少了3分之1）等结果。Google在2012年8月6日的博客里写道，在新版Android上对着手机说话时，“你很可能正在和一个经过训练、能识别你语音的神经网络说话”。

尚不清楚的事：4个小组的论文写道，回头看，成果的大部分来自“利用相邻声音片段（帧）的信息”和“按前后的音加以区分、并把相似的归在一起的音状态的建模”。另一方面，论文也写道“没有理由认为现在使用的部件（隐藏层的单元）的种类和组装方式是最好的”（pdf第13页）。为什么更深的神经网络更好，当时的解释还在途中。

NICT向全世界发布边说边译的手机应用“VoiceTra”

2010年夏天，日本国立研究机构NICT（情报通信研究机构）在App Store上向全世界免费发布了语音翻译应用VoiceTra和文字翻译应用TexTra。对iPhone说话，VoiceTra就会译成另一种语言，并用声音回答。翻译的计算不是在iPhone上，而是在服务器上进行。能用语音的有日语、普通话、英语、印度尼西亚语、越南语（马来语在准备中）。对象是旅行会话，NICT把语音翻译的能力说明为“大致相当于具备TOEIC 600分语言能力的人”。发布的目的是评估性能和调查好不好用。据NICT 2015年的发布，这项技术还用在了成田国际机场的应用等实际服务中。后来它又成为总务省“全球交流计划”（2014年4月，目标是到2020年让访日外国人不会为语言发愁）的核心应用。

苹果在iPhone 4S上发布Siri（最初是“测试版”）

2011年10月4日，苹果在发布iPhone 4S的同时，发布了用声音下达请求就能帮忙办事的“智能助手”Siri。发布文章中的例子是：问“这个周末要带伞吗？”，它会理解为在查天气预报。最初是“Beta（测试版）”，支持的语言只有英语（面向美国、英国、澳大利亚）、法语和德语。在日本，iPhone 4S于10月14日发售，但支持日语的Siri要到2012年3月8日才有。Siri的源头是SRI International在美国国防部的研究机构DARPA的计划PAL中推进的研究CALO。2007年它作为公司独立出来，2010年4月苹果收购了这家公司（SRI和DARPA的说明）。

docomo语音对话服务（2012年3月），比日语Siri早1周

2012年3月1日，NTT docomo作为面向docomo的Android智能手机的免费应用，推出了“语音助手功能”（しゃべってコンシェル，直译“开口说话的管家”）：只要对智能手机说话，就能查找信息，或操作邮件、闹钟等。它的机制是从词语的组合中读出说话人的“意图”，选出合适的服务或回答。语音识别等复杂的处理不在手机上，而是在docomo的网络一侧（云端）完成。docomo说明，这是继2011年11月开始试用的“翻译电话”之后的又一项云端应用服务。日语版Siri开始提供是在1周后的3月8日。

IBM问答AI“沃森”在Jeopardy! 中战胜2位历届冠军

2011年2月，IBM研究团队开发的问答系统（阅读自然语言的问题并给出答案的程序）沃森，在美国电视问答节目Jeopardy! 中与2位历届冠军进行了2场比赛。最终得分是沃森77,147美元，肯·詹宁斯24,000美元，布拉德·拉特21,600美元（IBM的历史页面）。沃森没有连接互联网，用多种方法给出答案候选并收集证据，只有在用机器学习（从数据中学习的机制）综合得出的“置信度”足够高时，才会按下抢答按钮。第1场的最后一题问的是一个美国城市，它回答“多伦多”，答错了。

ReLU（负数取0）：2010年命名，2011—2012年普及

ReLU（rectified linear unit，修正线性单元）是这样一种单元（神经元）：输入x大于0时原样输出，等于或小于0时输出0，用式子写就是max(0, x)。sigmoid（S形函数）和tanh在输入很大时，斜率几乎为0（饱和），而ReLU在正值时斜率始终为1，所以用反向传播往回传的信号不容易变弱。2010年，多伦多大学的奈尔（Nair）和辛顿证明，把受限玻尔兹曼机中取0或1的隐藏层单元，换成许多用相同权重、逐步错开的单元排在一起，就能用带噪声的rectified linear units近似出它的功能。他们还报告说，识别物体照片和人脸的成绩变好了。2011年，蒙特利尔大学的格洛罗（Glorot）等人写道：这种单元作为真实神经细胞的模型也更好，能做出恰好为0的值很多的（稀疏的）表示。他们还写道，只要有标注的数据多，即使没有事先的无监督学习，深层网络也能学得很好。2012年的AlexNet论文仿照奈尔和辛顿，称之为ReLU，并写道它比使用tanh的同一网络学习得快好几倍。

尚不清楚的事：最早使用Rectified linear这个叫法的，是不是2010年的论文，尚未确认（2010年的论文写道，2009年的贾勒特等人称之为positive part）。福岛1969年的英语论文（IEEE）要付费，正文没有翻开。2009年贾勒特等人的论文也没有翻开。

权重初始值的定法：Glorot等（2010）、He等（2015）

在训练深层网络之前，先在权重里放入什么样的值（初始化），会极大地影响能否训练成功。这是因为，如果信号每经过一层都按一定比例变大或变小，层数一多，反向传播的梯度就会消失或发散。2010年，蒙特利尔大学的Glorot和Bengio指出，当时常用的、从前一层的神经元数n出发在 ±1/√n范围内取值的做法，会使反向传播信号的离散程度（方差）逐层变小。于是他们提出了normalized initialization：利用该层输入侧与输出侧的神经元数nj和nj+1，在 ±√6/√(nj+nj+1)的范围内均匀取值。目的是让正向传播的值与反向传播信号的离散程度，在每一层都大致保持相同。2015年，微软研究院的Kaiming He等人指出，这种推导以神经元是线性的（输出与输入成正比）为前提，不适合ReLU。于是他们为ReLU提出了从均值0、标准差 √(2/n)的正态分布中取值的方法。他们写道，用这种方法30层的网络也能训练，而用Glorot和Bengio的方法，训练则停住了。

尚不清楚的事：Caffe中Xavier这个名字是何时、由谁起的，没有查证（没有打开Caffe的论文和程序记录）。2010年的论文称为commonly used heuristic的 ±1/√n的做法，是谁、何时开始的，也没有查证。

Dropout：每次训练都让隐藏层神经元随机休息一半，防止过拟合（2012年）

Dropout是这样一种方法：训练时每给网络看1个数据，就按固定的概率（常用0.5）随机把隐藏层的神经元暂时去掉（让其输出为0），再进行学习。它能防止特定神经元之间相互依赖的现象（co-adaptation），抑制过拟合，即与训练数据拟合得太好，反而在新数据上出错。使用（预测）时，所有神经元都用上，并把输出的权重减半（2014年的论文中，是把保留概率p乘到权重上）。这样得到的答案，就接近于共享权重的许多“细网络”预测值的平均。2012年7月的arXiv论文（多伦多大学的辛顿、斯里瓦斯塔瓦、克里热夫斯基、苏茨克维、萨拉赫丁诺夫）在手写数字（MNIST）等数据上做了试验，并写道在语音和物体识别上刷新了纪录。同年的AlexNet论文中，也把它用在2个全连接层上，并写道不用的话过拟合会严重得多。

尚不清楚的事：Dropout是什么时候构想出来的，以及辛顿本人后来讲过的灵感故事（有好几个版本），由于没有查找原始的谈话，这里没有写。

IDSIA（2012）：卷积网络识别交通标志，错误率仅人的一半

瑞士研究所IDSIA的奇雷尚、迈尔、施密德胡贝尔，用游戏用的GPU训练了一种把多个深层卷积神经网络并排放置、再对输出取平均的方法（多列深层网络）。在德国交通标志识别（测试数据1万2569张）中，错误率为0.54%，据论文说人类的错误率是它的两倍。在手写数字MNIST上也达到0.23%，论文写道，这是首次接近人类约0.2%的水平。

Google的猫实验：只靠无标签图像学习的网络，长出了对猫脸强烈反应的神经元

Google和斯坦福大学的Le、Ng等人，从YouTube的1000万个视频中各取1幅图像（200×200像素），不加标签地给一个拥有10亿个连接的9层神经网络看，让它学习。用1000台计算机（1万6000个核）花了3天。结果，没有教它，它就出现了对人脸有反应的神经元，也出现了对猫脸和人体有反应的神经元。Google在博客中介绍说，其中1个人工神经元“学会了对猫的图片作出强烈反应”，并强调“这个网络从来没有被告知过猫是什么”。

尚不清楚的事：论文通过排列反应强烈的图像、生成能使反应变强的图像，来研究学到的神经元对什么有反应。当时就已经想出了探查内部运作的办法。

ILSVRC 2012：多伦多大学深层卷积网络夺第1，第2名是东京大学团队

在从照片中识别1000种物体的比赛里，克里热夫斯基、苏茨克维、辛顿的团队“SuperVision”，在允许回答5次的规则下把错误率压到了15.3%（仅使用比赛提供的数据时为16.4%）。第2名东京大学的团队（ISI）为26.2%，相差约11个百分点。他们用2块游戏用的GPU（图像处理用的半导体，NVIDIA制造），训练了一个拥有6000万个参数的8层神经网络。比赛的主办方在后来的论文中写道，这一年是“这是大规模物体识别的一个转折点”。

第1名“错误率”8年从28%降到2%，“人类5.1%”仅1人

在从图像中识别1000种物体的比赛（允许回答5次的规则）中，第1名的错误率一路下降：2010年28.2%，2011年25.8%，2012年15.3%（仅用提供的数据时为16.4%），2013年11.7%（也使用外部数据时为11.2%），2014年6.7%，2015年3.6%，2016年3.0%，2017年2.3%。主办方还测量了人类的错误率。那是由2个人（A1和A2）做的测试：用500张练习过的A1，在1500张上是5.1%；只练习了100张的A2，在258张上是12.0%。

从棋谱学习的将棋软件Bonanza夺得世界大赛冠军，次年与渡边明龙王公开对局

将棋软件Bonanza由化学研究者保木邦仁开发，2005年6月免费公开。与此前多数将棋软件不同，它采用了读取规则上所有可走之手的“全幅搜索”。此外，它还引入了“机器学习”，让程序学习如何评价局面，使其走法与职业棋手的棋谱一致。作者说，他把控制化学反应的研究思路用到了局面评价的学习上。2006年5月，在首次参加的第16届世界计算机将棋锦标赛上，它在8支决赛队伍的循环赛中以6胜1负夺冠。2007年3月21日，它与渡边明龙王（将棋头衔“龙王”的持有者）进行了每方2小时的公开对局。中盘时曾有人认为Bonanza占优，但最终龙王走了112手获胜。后来它的制作方法（2009年还包括程序内容）被公开，诞生了Bonkras（ボンクラーズ）等以Bonanza为基础的将棋软件。

信息处理学会的将棋软件“Akara 2010”战胜清水市代女流王将

2010年4月，信息处理学会向日本将棋联盟发出了挑战书，称“为了在计算机将棋上期望与顶尖职业棋手进行公开对局”。联盟的米长邦雄会长接受了挑战，把第一个对手定为女流棋手中的第一人清水市代女流王将。10月11日，双方在东京大学本乡校区对局，下到第86手时清水女流王将认输，Akara 2010获胜。Akara 2010让日本顶尖的4个将棋程序（激指、GPS将棋、Bonanza、YSS）思考同一个局面，采用走最多程序选中的那一手的“多数表决”机制，使用了208台计算机（核心共计658个）。

第1届将棋电王战：米长邦雄永世棋圣113手败给“Bonkras”

2012年1月14日，在东京的将棋会馆，日本将棋联盟会长、已退役的棋士米长邦雄永世棋圣，与富士通研究所的伊藤英纪开发的将棋软件“Bonkras”（ボンクラーズ）对局，Bonkras以113手获胜。Bonkras是以公开的将棋软件Bonanza为基础，改进为用多台计算机并行搜索的软件，这天用6台服务器每1秒读取约1800万手。它的名字是把Bonanza与表示并行计算机（用多台计算机同时计算的系统）的“集群”（クラスタ，cluster）组合而成的合成词（富士通研究所发表中的说明）。

跳棋“已被解决”：计算机证明双方不出错则必为和棋

阿尔伯塔大学的谢弗等人，从1989年起几乎不间断地运行数十台计算机，证明了跳棋“已被解决”，即“双方都下得完美就会和棋”。跳棋的盘面约有5×10²⁰（5垓）种，是此前被解决的著名游戏中最难的。证明的核心工具中的1个，是东京大学长井步2002年博士论文中的搜索方法（df-pn）。论文发表时已转到北海道函馆一所大学的岸本章宏也在合作者之列。

职业棋手与将棋软件的首场对局：2005、2007、2013年三说并存

关于职业棋手与将棋软件的“第一次的”对局，资料里给出了3个年份。① 2005年9月TACOS与桥本崇载五段的对局，当时的报纸援引作者饭田弘之教授的话，报道说“职业棋手在公开场合与计算机平等对弈，这是第一次”。② 关于2007年3月Bonanza与渡边明龙王的对局，研究者的解说写道“职业棋手与计算机在正式场合对阵，这是第一次”，2020年的采访报道则写作“作为职业棋士首次在公开场合”。③ 日本将棋联盟的专栏（2017年）把2013年的第2届将棋电王战表述为“职业棋手首次正式与计算机将棋软件对战”。由于“公开场合”“正式场合”“正式”这些词的不同，三者都可以说成“首次”。

职业棋士与软件公开对局，须“事先与主办方和联盟商量、确认”

2005年9月18日，在石川县小松市，北陆先端科学技术大学院大学的饭田弘之教授等人开发的将棋软件“TACOS”，与桥本崇载五段进行了平手（不让子）的公开对局。获胜的是职业棋士，但直到终盘之前都是软件占优（产经新闻）。约1个月后的10月14日，日本将棋联盟宣布，“为了营造计算机将棋软件与人类在正式场合认真对局的环境”，棋士、女流棋士在公开场合与将棋软件对局时，要事先与主办方和联盟商量、确认。同一份发布中还写道：“对于将棋软件的发展，今后也愿意一如既往地给予配合”。

“机器人能考上东京大学吗”启动：2016年中心考试高分，2021年过东大

国立情报学研究所在2011年启动了开发解答大学入学考试题的计算机程序的“人工大脑项目”。其目的是重新整合1980年以后被细分的人工智能研究，并给年轻人带来梦想。作为具体指标，它提出了“到2016年在大学入学中心考试中取得高分”和“2021年通过东京大学入学考试”的目标。

后来：在2016年11月14日NII的发布中，该系统在中心考试的模拟考试（5门学科8个科目）中获得525分（全国平均454.8分），偏差值57.1。这一成绩相当于，对512所私立大学的1343个学部、23所国公立大学的30个学部，合格可能性在80%以上。在东大入学考试的模拟考试中，数学（理科）达到偏差值76.2（6道题中有4道不借助人力完整解答）。同一天报告会上对中心考试相关研究的处理，请参见2016年东大机器人君的事件（记录 → 东大机器人君：2021年东大合格分的目标，2016年怎么样了？）。关于2021年通过东大入学考试的发布，本站没有找到。

预言：2010年日本机器人市场约3万亿（2001年预测），家用医用不足100亿

2001年，日本机械工业联合会和日本机器人工业会的报告书，按5个领域预测了机器人市场。2010年生活领域1.5万亿日元、制造业8,500亿日元、公共2,900亿日元、医疗福祉2,600亿日元、生物900亿日元（合计约3万亿日元），2025年合计约8万亿日元。据产业技术综合研究所的荒井裕彦2009年的分析，这一预测被经济产业省等用作说明研究开发预算的依据，并通过报道广为流传。2005年爱・地球博的发布稿中也写道“预计2010年的市场规模将达到1.8万亿日元”。

后来：据荒井裕彦2009年的分析，制造业以外的下一代机器人市场，在工业会等的实态调查中每年仅为14〜68亿日元（不到100亿日元），与2010年的预测（制造业以外约2万亿日元）相去甚远。2006〜2008年，国家机构和工业会自己把2010年的预测下调到了500〜750亿日元。2015年，政府的“机器人新战略”把机器人的市场规模定为“现在的6000亿日元”，并设定了2020年达到2万亿4,000亿日元的新目标（总务省2015年的白皮书）。2025年预测的验证，本站没有做。