9/3-9/9のアンテナ

AIは未来を予測しない。いまを映す「鏡」である:伊藤穰一

wired.jp

学生時代ちょろっと深層学習とか触れてみたので、一般ピーポーよりは機械学習・AIに対するリテラシーはあると思う。(ディープボルツマンマシンも知ってるぞ)

Deep Zen Goを考えてみると、Deep Zen Goはおそらく人間の手によって「こういう場合はこうしたらいい」というルールを覚え込まされてはいない。(ヒューリスティクス) 機械同士が猛烈な速度で、しかも休みなくずっと囲碁を打ち続けた結果人間に頼ることなく「勝ち方」を覚えていったわけである。その中にはいままで人類が試したことのないパターンも含まれていたはずだ。

しかし、どうなったら「勝ち」なのかという部分は囲碁のルール、つまり大昔の人間が決めたものによって規定されている。Deep Zen Goは、囲碁のルールから導き出されるなかでは最高のパターンを発見しようとしているが、そもそもルールは人間が決めたものである。

教師あり学習だろうが、教師なし学習だろうが強化学習だろうが、最終的にモデルを評価するのは人の意思に依存してしまう。

ボルヘスの「中国の百科事典」を例に上げてみると

中国の動物は以下のように分類されるという。

a、皇帝に属するもの b、香の匂いを放つもの c、飼いならされたもの d、乳呑み豚 e、人魚 f、お話に出てくるもの g、放し飼いの犬 h、この分類自体に含まれているもの i、気違いのように騒ぐもの j、数えきれぬもの k、駱駝の毛の極細の毛筆で描かれたもの l、その他 m、いましがた壷をこわしたもの n、遠くから蝿のように見えるもの

AIが行えることは、あるフレームワークから忠実に演繹を行い、人間には到底踏破しえないパターンを休みなく試してフレームワークのもとで「良い」ものを見つけることである。 というのを正しく理解してAIと仲良くする必要がある。