CHAPTER 03/1955〜1960

第1次ブームのはじまり

という名前が生まれる(1955〜1960年)

1955年、4人の計画書がという名前を掲げた。それからの5年間に、定理の証明を探すプログラム、例から学習する機械、記号を扱うプログラミング言語、日本の翻訳機が生まれ、「10年以内に」という予言も出た。

011955・名前と計画書

を掲げた夏の計画書

という名前は、どこで、どんな見通しとともに生まれたのか。

1955年8月31日付で、マッカーシー、ミンスキー、ロチェスター、シャノンの4人が、翌年の夏にダートマス大学で開く研究会の計画書を書き、ロックフェラー財団に資金を申請した。その題に入っていたのがという言葉だ。計画書は、学習や知能のどんな特徴も、原理的には(訳)という予想から出発する。

右の7つの箱が、計画書に並ぶ研究課題だ。押すと中身が表示される。言語、ニューラルネットワーク、計算の規模、自己改良する機械。この章の見開きの多くは、どれかの続きにあたる。

期間は2か月、参加者は10人を見込んだ。選ばれた科学者がひと夏集まって取り組めば、挙げた課題の(訳)と書いた。申請した予算は13,500ドルだったが、財団から助成されたのは7,500ドルだった。

予算表の各項目を足すと13,000ドルになり、表に書かれた合計13,500ドルと500ドル合わない(マッカーシーのサイトにある再録版で確認。差の理由は書かれていない)。

知ってるつもりよく言われる話:は全員一致で決めた名前
元の資料では:マッカーシーが選んだ名前で、当時から異論もあった。ニューウェルとサイモンは何年もという別の呼び名を使っていた。
知ってるつもりよく言われる話:ダートマスの参加者はひと夏でAIを完成させるつもりだった
元の資料では:計画書の表現は(訳)。完成させるとは書いていない。

図が示すこと:1955年の計画書は、学習や知能の特徴は機械にまねさせられるほど正確に書けるという予想から始まり、7つの課題に『1つ以上で大きく前に進める』と書いた。完成させるとは書いていない。お金も頼んだ額の約半分しか出なかった。

021956・ダートマス

ひと夏の研究会はどんな集まりだったか

「AIが生まれた大きな会議」は、本当はどんな集まりだったのか。

1956年の夏、ダートマス大学の数学科の最上階に、考える機械に関心を持つ研究者が集まった。参加者ソロモノフのメモによると、期間は6月18日ごろから8月17日までのおよそ8週間だった。決まった日程の会議というより、人が入れかわりで訪れては話し合う集まりだった。

右の図で「くわしく:予定と記録」を押すと、5月26日にマッカーシーが財団に伝えた予定(紫の枠)に、ソロモノフとモアのメモに残る「その日にいた人」(紺の点)を重ねて見られる。全期間いたのは3人だけで、予定された11人のうち2人は来なかった。毎日の話し合いに参加したのは3〜8人ほどだった。

全員で1つの課題に取り組む相談もあった。8月7日、マッカーシーがチェスを持ちかけたが、共同研究にはならなかった。マッカーシーは後に、資金が足りず、それぞれに別の用事があって、全員がひと夏そろう計画は実現しなかったと語っている。

正確な名簿は残っていない(マッカーシーは自分の名簿をなくした)。点はメモに残る日だけであり、点のない日に来ていなかったとは限らない。

知ってるつもりよく言われる話:ダートマスの研究会は、AIが生まれた大規模な会議だった
元の資料では:実際は人が入れかわりで訪れる夏の集まりで、毎日の話し合いは3〜8人ほど。財団からの資金は希望額の約半分で、研究会としての報告書も出版されなかった。

図が示すこと:ダートマスの研究会は大きな会議ではなく、人が入れかわりで訪れる約8週間の夏の集まりだった。全期間いたのは3人だけで、毎日の話し合いは3〜8人ほど。

6週目(7月23〜27日)の毎日の話し合いに参加した人数(モアのメモ)
031956・探索

証明を片っ端から作ると

作れる証明を全部、順番に作っていけば、いつか目当ての定理にたどり着くのでは?

ニューウェル、ショー、サイモンが挑んだのは、本の論理の定理だ。5つの公理から、文字に式を入れる代入、同じ意味の形に直す置き換え、Aと「AならばB」からBを得る切り離し、の3つの規則で新しい定理を作る。

一番単純なのは、作れる証明を短い順にすべて作り、目当ての式が出るのを待つ方法だ。3人はこれを大英博物館のやり方(British Museum algorithm)と呼び、比較の相手にした。報告の数値では4段目までに42個、8段目までに246個。第2章をすべてそろえるには1億個ほど必要になるかもしれず、何十万年もかかると見積もった。

答えの候補を順に調べることを探索という。しらみつぶしでは候補が多すぎるため、近道の知恵(ヒューリスティクス)で調べる範囲を絞る必要がある。右の図は、このサイトの数え方で式を作っていく。

n段目の式の数 ≈(n−1段目の式の数)×(1か所の変え方の数)
変え方
pを ¬pにする、→ と ¬…∨ を入れ替える など

図が示すこと:作れる式を短い順に全部作るやり方では、式の数が段ごとにふくれあがり、目当ての定理がなかなか出てこない。だから近道の知恵(ヒューリスティクス)が要る。

段ごとの式の数(縦軸は10倍ずつ)
041956・ロジック・セオリスト

答えの側から、逆向きに探す

定理の証明を、人のように当たりをつけて探すには?

ロジック・セオリスト(LT)は、全部を作る代わりに、証明したい式の側から逆向きに探した。4つの方法を順に試す。代入法は、公理やすでに証明した定理の文字に式を入れて、問題とぴったり同じ形にできるか調べる。切り離し法は「AならばB」の定理でBが問題と合うものを探し、Aを新しい小さな問題にする。前向き・後ろ向きのつなぎも、小さな問題を作る。

1957年の報告では、第2章の最初の 52の定理のうち38の証明を見つけた。17は代入法だけで、19は2手で解けた。2.01は約10秒、2.45は約12分。2.31は約23分で探索の手が尽きた。右の図は、このサイトが作った小さなLT。「最後まで」を押すと木が下へ伸び、緑の道が証明になる。

報告はこうたとえた。公理から前へ進むのが干し草の山から1本の針を探すことなら、目当てから後ろへ戻るのは、針が山から出る道を探すのに似ている。

図のLTは、1956年のプログラムと細かい所が違う。報告は4つの方法では2.13は証明できないと書くが、このサイトの例は形のそろえ方と用意した定理の条件が違うため、「用意した定理も使う」にチェックを入れると、2.13の証明も見つける。

図が示すこと:ロジック・セオリストは、全部作る代わりに証明したい式の側から逆向きに探し、知っている定理と同じ形になる道を見つけた。

051957・学ぶ機械

間違えた時だけ、重みを直す

例を見せるだけで、機械に識別方法を学習させられるか。

1957年、コーネル航空研究所の心理学者ローゼンブラットは、海軍研究局の支援での研究を始めた。神経細胞のつながりをまねた人工ニューロンで、入力(0か1)に重み(入力を重く見る度合い)をかけて足し、合計がしきい値以上なら1を出力する。

学習方法は単純だ。間違えた時だけ、正解の方向に重みを少し修正する。右の図で●と○を置いて「続けて学ぶ」を押すと、紫の線が回ったり平行に動いたりして、誤り(紫の輪)の数が変わっていく。同じコーネルの数学者ブロックは、分類する直線が存在するなら、この修正法で必ず見つかることを証明した。

ニューラルネットワークの歴史は、ここから始まる。直線1本で分類できない問題は5章、層を重ねる話は8章で扱う。

y=1(w₁x₁ +w₂x₂ ≧ t)、それ以外は0。まちがえたらw ← w+η(正解 − y)x、t ← t − η(正解 − y)
t
しきい値
η
修正の大きさ(図では0.5)
紫の線
w₁x₁ +w₂x₂ がtと等しくなる境界線

図が示すこと:パーセプトロンは、まちがえた時だけ正解の方向へ重みを少し直す。直線で分けられるなら、この直し方で必ず分ける線が見つかる。

1周ごとの誤りの数
061957・予言

「10年以内に」4つの予言

1957年の研究者は、10年後をどう見通したのか。

1957年11月14日、ピッツバーグの学会の夕食会で、サイモンが、ニューウェルと共同で書いた講演をした(翌年、雑誌に掲載)。いまの計算機は、決まった解き方のない問題を人に似た方法で解き、経験から学習できる、とまとめたうえで、10年以内に4つのことが起きると予言した。

チェスの世界チャンピオンになる(〈訳〉)。大事な新しい数学の定理を見つけて証明する。批評家に認められる曲を書く。心理学の理論のほとんどが、プログラムの形をとる。続けて(訳)とも語った。

手がかりになる成果もあった。論理の定理を証明するプログラム、チェスの初歩を指す計算機、作曲するイリノイ大学のILLIACだ。右の図で年を進めると、答え合わせの年(1968年)と、その後に起きたことが表示される。

計算機が現役のチェスの世界チャンピオンに勝ったのは1997年、予言から約40年後だった。計算機が世界チャンピオンの称号そのものを獲得したことはない。

図が示すこと:1957年の講演は10年以内に4つのことが起きると予言した。答え合わせの1968年に起きていたものは1つもなく、答えがはっきり出たのはチェスだけで約40年後。

071958・批判と返答

答え合わせの日を、自分で書いた

予言を確かめられる形にするには、何が要るか。

講演が雑誌に載ると、ベルマンが手紙で批判した。2人の返答によると、予言は(訳)だという批判だった。1958年の返答で2人は、(訳)と書いた。

期限をつけて具体的にしたのは、ノストラダムスのような検証できない予言にしないためだ、と2人は説明した。ただ、確かめるには、何が・いつまでに起きるかに加えて、どうなったら当たりとするかの判定基準も要る。右の図で、期限と判定基準を外してみよう。チェスなら結果がはっきり出るが、定理・曲・心理学の予言は、期限が来ても人によって評価が分かれてしまう。

心理学の予言について2人は、プログラムが心理学の理論の有力な候補であることは(訳)とも返答に書いた。

チェスの判定基準(現役の世界チャンピオンとの対局に勝つ)は、このサイトが仮に設定したもの。

知ってるつもりよく言われる話:昔のAI研究者は根拠なく大きなことを言っていた
元の資料では:当時すでに批判があり、言った本人たちは検証できるように期限をつけたと説明して、答え合わせの日(1968年1月1日ごろ)まで自分で指定していた。

図が示すこと:予言を確かめるには、何が・いつまでに、に加えて、どうなったら当たりかの判定基準が要る。基準が無いと、期限が来ても当たりか外れか決まらない。

091958・LISP

かっこの入れ子で、式を式のまま扱う

数ではなく、記号の式そのものを計算するには?

1958年の秋、マッカーシーとミンスキーはMITでを始めた。計画書は書かず、何が必要かと聞かれて、部屋1つ、プログラマー2人、秘書1人、カードに穴をあける機械1台と答えたという。同じ秋、記号の並びを扱うプログラミング言語LISP(リスト処理)を作り始めた。

LISPでは、(TIMES X (PLUS X A) Y) のように、かっこの入れ子で式を書く。最初の語が何をするかを表し、残りが対象を表す。基本の働きは、先頭を取るcar、残りを取るcdr、先頭につなぐconsなど、ほんの少しだ。1960年の論文は、これと条件の分岐、自分を呼び出す関数だけで、式の微分を書いてみせた。

右の図で「X(X+A)Y・論文の例」を選び、「1・0を整理(サイトの追加)」を外して「Xで微分(DIFF)」を押すと、論文と同じ答えが木で出る。1を表すONEや、0を表すZEROがそのまま残る。LISPの仲間の言語は、その後長くAI研究の中心で使われた。

d(u·v·w)/dX=u′·v·w+u·v′·w+u·v·w′
′
Xで微分したもの。DIFFはこの形を、かっこの入れ子のまま作る

図が示すこと:LISPでは式をかっこの入れ子のまま扱うので、数ではなく式そのものを、先頭を取る・残りを取るなどの少しの働きで計算(微分)できる。

101958・常識

空港へ行くため最初にする行動を導く

事実を文で書いておけば、機械はそこから行動を導けるか。

1958年11月、イギリスの国立物理学研究所での国際会議が開かれた。マッカーシーはそこでを発表した。事実や助言を論理式で書き、そこから推論して「〜せよ」という結論が出たら実行する構想だ(アドバイス・テイカー)。

論文の例は、家の机にいる私が空港へ行く問題だ。at(I, desk)(私は机にいる)、at(car, home)(車は家にある)、walkable(home)(家の中は歩ける)、drivable(county)(郡の中は車で行ける)など17の前提から8つの結論を順に導き、最後にdo(go(desk, car, walking))、つまり、まず車まで歩く、が出る。

右の図で「次を導く」を押してみよう。前提を1つ外すと、計画が見つからなくなる。

論文は、17の前提をどう集めるか、どう導くかについては完全には答えられない、と書いている。図の導く順番は、論文の結論の並びに合わせた。

図が示すこと:事実や助言を式で書いておけば、そこから順に推論して『まず車まで歩け』という行動が出る。前提を1つ外すと、計画が見つからなくなる。

111958・パターン認識

悪魔たちの叫び声で文字を認識する

文字を認識する仕組みを、たくさんの小さな部品に分けられるか。

同じ会議で、セルフリッジは(悪魔が全部集まる場所という意味)という仕組みを発表した。一番下のデータの悪魔は、それぞれ文字の一部(横棒、縦棒、丸みなど)を探し、見つかった確かさに応じて大声で叫ぶ。上の認識の悪魔は、自分の文字に合う叫び声を集めて叫び、一番上の決める悪魔が、最も大きな声の文字を答えにする。

学習の方法も提案した。悪魔のメガホンの音量を外から少しずつ変えて、成績が最も上がる調整を選び、それを繰り返す(山登り法)。右の図で「続けて直す」を押すと、音量0から正解率が上がっていく。

特徴を拾い出し、重みをかけて組み合わせる構造は、パーセプトロンや、のちのニューラルネットワークと同じ仕組みだ。

認識の悪魔kの声 =Σi 音量k,i × データの悪魔iの声
音量k,i
悪魔kが悪魔iの声を聞く重み(学習する部分)
答え
声が最も大きいk

図が示すこと:文字の一部を探す小さな悪魔の叫びを、音量(重み)をかけて集めると文字が分かる。音量は少しずつ変えて成績が上がる方を選ぶ(山登り)だけで学べる。

121959・GPS

目標とのを小さくする手を選ぶ

どんな問題にも使える解き方は、作れるのか。

ニューウェル、ショー、サイモンは、ロジック・セオリストをもとにを作り、1959年6月のパリの会議の予稿として報告した(報告の日付は1958年12月30日)。一般と名がついたのは、問題の中身(論理・代数・三角の公式など)と解き方を切り離して作ったからだ。

解き方の中心は、目的と手段の分析だ。現在の状態と目標を比べて違いを見つけ、その違いを減らす手を選ぶ。手を使う条件がそろっていなければ、その条件を満たすことを新しい小さな目標にする。こうして目標の中に目標が作られ、同じ手順が何段にも重なって使われる。

右の図の最初の問題は、このサイトが作った、バタートーストを作る問題だ。どの手がどの違いを減らすかという表を入れ替えれば、同じ解き方が別の問題にも使える。

報告の目的には、大学生が論理の問題を声に出して考えながら解いた記録に、プログラムのふるまいを近づけることもあった。報告で示された例は、記号論理・初歩の代数・三角の公式だった。

図が示すこと:今と目標のちがいを見つけ、そのちがいを減らす手を選ぶ。手の条件が足りなければ、それを新しい小さな目標にする。表を入れ替えれば同じ解き方が別の問題にも使える。

131959・日本

ワレガ オンガクヲ コノム

そのころ日本では、どんな「考える機械」が作られていたか。

1958年の夏ごろ、電気試験所で、英語を日本語に翻訳する専用の計算機「やまと」の計画が始まった。辞書を納める大きな記憶装置を持つ計算機が手元になく、トランジスタ計算機ETL Mark IVの回路を使って専用機を作った。予算は600万円、記憶装置は82万ビットの磁気ドラムだった。1959年2月、I like musicと穴をあけた紙テープを入れると、と打ち出した。

日本語入力(漢字や単語の区切り)の難しさを避けるため、英語から日本語への翻訳を選んだ。それでも、動詞を文末に回し、前置詞を動かし、ガやヲなどの助詞を補う必要があった。代名詞はIをワレ、youをナレ、heをカレにした。右の図で、翻訳の手順を1段階ずつ進めてみよう。

計画を指示した和田弘は、最初の訳を打ち始めるまでの13秒を、とても長く感じたと回想している。成果は1959年6月、パリの第1回国際情報処理会議で発表された。

図の辞書と規則は、代名詞の訳を除き、このサイトが作った例。パリで示した I have some eggs in my hand. を、やまとがどう訳したかは資料にない。

図が示すこと:『やまと』は英語を日本語に訳す専用の計算機で、辞書を引き、動詞を文末へ回し、ガやヲを足して、I like musicを『ワレガ オンガクヲ コノム』と打ち出した。

141959・機械学習

点数の付け方を、自分で直す

プログラムは、書いた本人より強くなれるか。

IBMのサミュエルは、チェッカー(8×8の盤で、こまを飛び越して取り合うゲーム)で、コンピュータが経験から学習する研究を続けた。学習する版は1956年2月24日にテレビで実演された。1959年の論文の要約には、8〜10時間の対局で、プログラムを書いた本人よりうまく指せるようになる、と書かれている。

局面の点数は、こまの差・動ける手の多さ・中央をとっているかなどの特徴に、重みをかけて足したものだ。数手先まで読み、自分は大きい方、相手は小さい方を選ぶとして点数を上へ運ぶ(ミニマックス)。学習法の1つは、読む前の点数が、読んで運んだ点数に近づくように重みを直すこと。右の図で「学ぶ」を押してみよう。

解き方を全部書かず、例や経験から学ばせるのが機械学習だ。

w ← w+η(運んだ点数 − 読む前の点数)× 特徴
w
重み
η
修正の大きさ
点数
特徴 × 重み の合計(図の数値はこのサイトが作った例)

図が示すこと:サミュエルのチェッカーは、読む前の点数が、先を読んで運んだ点数に近づくように重みを自分で直した。解き方を全部書かず、経験から学ばせるのが機械学習。

151960・Mark I

でたらめな配線とモーターで回すつまみ

学習する機械を、プログラムではなく実物の機械として作ると?

1960年6月23日、パーセプトロンの専用機械Mark Iが初めて公開された。重みはモーターで回す(ポテンショメーター)で調整し、配線は大きな差し替え盤でつないだ。1961年の報告によると、A細胞512個と、答えを出すR細胞8個を備えていた。組み立てはワイトマンとマーティン、実験はヘイが担当した。

構造は3段。網膜(S)の点からA細胞へは、ランダムに選んだ点につなぐだけで、ここは学習しない。学習するのはA細胞からR細胞への重みだけだ。右の図は、同じ報告の実験1にならい、上下・左右がつながった輪の網膜で、横の棒と縦の棒を識別させる。

A細胞を通さずに網膜を直接つなぐと、何周学習しても誤りが消えない。どの重みにしても、横の棒全体の点数の平均と、縦の棒全体の点数の平均が同じになるからだ。ランダムなA細胞を80個はさむと、点の組み合わせをとらえる細胞が混ざり、数周で誤りが0になる。

報告書には、教師役がわざと30%間違えて教えても、EとXを100%識別できるようになった実験も記録されている(誤りを正す学習法とは別の方法)。Mark Iは現在、スミソニアン協会にある。

図が示すこと:網膜を直接つなぐと、何周学習しても横の棒と縦の棒を分けられない。でたらめに配線したA細胞をはさむと、数周で誤りが0になる。

1周(16本)ごとの誤りの数
161960・人と計算機

1台の計算機をみんなで分けて使う

機械に全部考えさせる前に、人と計算機はどう組めばよいか。

1960年3月、リックライダーは論文を発表した。イチジクの木と花粉を運ぶ虫が助け合うように、人が目標を決め、仮説を立て、基準を決めて評価し、計算機は定型的な作業を受け持つ協調の形を考えた。本人が1957年の春と夏に自身の作業を記録したところ、考える時間のおよそ85%は、考えるための準備(探す・計算する・グラフを描くなど)に使われていたという。

そのために必要な技術の1つが、タイムシェアリング(1台の計算機の時間を、大勢で細かく分けて使う仕組み)だ。当時の大型計算機は、1人と一緒に考えるには速すぎて費用も高いため、利用時間を多くの人で分けるべきだと論じた。右の図で、順番待ちと比べてみよう。計算機が処理する時間の合計は同じでも、最初の返事までの待ち時間がずっと短くなる。

知ってるつもりよく言われる話:リックライダーは1980年までに機械が考えるようになると予言した
元の資料では:論文のは空軍の研究会の見積もりを紹介したもの。本人は、人と計算機が組む時代の長さについて(訳)と幅をもたせた。

図が示すこと:タイムシェアリングは、1台の計算機の時間を細かく分けて配る。処理する時間の合計は同じでも、最初の返事までの待ち時間がずっと短くなる。

171976・答え合わせ

4色問題:人の筋道とコンピュータの力仕事

コンピュータが定理を証明したと言えるのはどんな時か。

(訳)という予言の10年以内には、そう言える出来事の記録は見当たらない。1976年、アペルとハーケンが(どんな地図も4色で塗り分けられるという、1852年ごろからの問題)を証明した。しかし証明の筋道や形の分類手順は人が作り、コンピュータは2000近くの形を1つずつ調べる役だった。

右の図は、このサイトが作った例の地図をコンピュータに塗らせるものだ。国を1つずつ塗り、塗れる色がなくなったら1つ前に戻る(バックトラック)。A・B・C・Dは互いに全部隣り合うため、3色ではどう試しても塗れない。1枚の地図を塗り分ける探索計算と、すべての地図について成り立つ定理の証明とは別ものだ。

1996年10月には、証明探索プログラムEQPが、1930年代から解けていなかったの証明を、約8日かけて自動で見つけた。どちらの場合も、問題そのものは人が前から提示していた。

知ってるつもりよく言われる話:1976年にコンピュータが四色定理を証明した
元の資料では:発表の本文では、分類の手順は人が手で作り、コンピュータは多くの形を1つずつ調べる役だった。

図が示すこと:コンピュータは1枚の地図を、塗って行きづまったら戻る、で塗り分けられる。でもそれは1枚の計算で、全部の地図についての証明とは別もの。四色定理でも筋道は人が作った。

おわりに

この章で、まだ分かっていないこと

ダートマスの研究会の正確な参加者名簿は残っていない。残された一部のメモから、誰がいつ来ていたかを少しずつ組み立てられるだけだ。機械学習(machine learning)という言葉はサミュエルが1959年に作ったとよく言われるが、それが最初の使い方かどうかを確かめた資料は見つかっていない。

4つの予言のうち、答えがはっきり出たのはチェスだけで、約40年後だった。定理・曲・心理学の予言は、何が起きたら当たりかの基準がなく、今も評価が人によって分かれる。予言を確かめられる形にするには、期限だけでなく、判定の基準も必要だ。

この5年で、記号の規則を使って近道の知恵で探す道(ロジック・セオリスト、GPS、LISP)と、例から重みを修正して学習する道(パーセプトロン、パンデモニウム、サミュエル)が並んで走り出した。高校の情報Ⅰのアルゴリズム、情報Ⅱの機械学習の基礎となる考え方(国の情報Ⅱの教材の学習17がパーセプトロンを扱う)にも、そのままつながる(このサイトの見立て)。次の章では、1960年代に、探す・推し量るAIがどこまで進み、どんな予言が出たかを見る。