AIは「意味」を理解しない

AIは神にも征服者にもならないし、シンギュラリティも来ない。
AIが人間のすべての仕事を奪つてしまふやうな未来は来ないが、しかし仕事の多くがAIに代替される社会はかなり近くに迫つてゐる。
その社会は今よりもよほど無駄の少ない、効率の良い社会になる。

問題は、AIに仕事を奪はれた人たちがAIにはできない仕事に就けるかどうか。

そのことに対して
『AI vs. 教科書が読めない子どもたち』
の著者、新井紀子さんは相当深刻な危機感をもつてゐます。

初版は2年前で、現在30万部を超えるベストセラーですから、読まれた方も多いでせう。

新井さんは数学者です。
数学の立場から、AIが全面的に人間を超えることはない、従ってシンギュラリティも来ないと断言する。

理由は、大意次のやうです。

4000年以上の数学の歴史で発見された数学の言葉は、
①論理
②確率
③統計
の3つだけです。
そしてこの3つだけが、科学が使へる言葉です。
従つて、コンピューターが使へるのもこの3つだけ。

私たち人間の知能には、この3つ以外に「意味」といふ言葉があります。
AIは今のところ、そして未来に亘つてこの「意味」といふ言葉を理解できない。

だからコンピューターは、スパコンと言へども所詮「計算機」。
siriやOKgoogleがまるで人間との会話の「意味」を理解してゐるかのやうに答へることがあるのも、実は
「あたかも意味を理解してゐるふりをしてゐる」
に過ぎないのです。

例へば、
「私はソバが好きだ」
といふ文章と
「私は君が好きだ」
といふ文章では、同じ「好き」といふ言葉が違ふ「意味」を持つてゐる。

それを人間なら直観的に分かるのに、AIは理解できない。
それをあたかも理解してゐるやうに見えることがあるのは、論理、確率、統計の言葉を駆使して、それらしい答へを探し出してゐるからです。
あるいは、人間が「教師データ」をAIにインプットすることで、AIはそれをそのまま反復してゐるに過ぎない。

例へば、
「僕は君のことが好きだ」
と打ち明けると、siriは
「誰にでもそんなこと言ふんでしよ」
と答へて人間を驚かせる。

しかしそのウィットの効いた答へは、あらかじめ製作者がインプットした「教師データ」なのです。

「知能」といふ言葉はついてゐるものの、AIは人間によつて入力されたデータ、あるいは過去に作られた膨大な情報に基づいて最適解を算出しようとする能力です。
それはつまり「過去」に基づいてのみ解を出さうとするものであり、決して今までになかつた真に新しいものを生み出すことはできないといふことです。

また、「過去」に依存するものである限り、その「過去」が「邪悪」なものであれば「邪悪」な解を出す。
人間の「価値観」をそのまま反映するのです。

よくSFでAIが人間の思惑を超えて暴走し始めるといふやうな設定がありますが、それも実は人間の思ひの反映に過ぎない。
真に警戒すべきなのはAIではなく、我々人間の価値観だと言へます。

決まつたルールの中だけで動ける将棋や碁のやうなものでは、AIは3つの言葉を最高度に駆使して人間を凌駕し得るし、実際に凌駕しました。

しかし
「私は山口と広島に行つた」
といふ文章の意味が
「私は山口君と広島に行つた」
なのか
「私は山口県と広島県に行つた」
なのか、俄かに判断できない。

人間なら、山口と広島はどちらも県名としてあるし、互いに隣接してゐるから後者の確率が高いと即座に判断できます。
しかしAIがそのやうに判断できるためには、膨大な量の情報を覚えさせる必要があるし、さうしたとしてもなほ、「常識的な」答へを出す可能性は高くないのです。

AIにさういふ限界があるのなら、人間の仕事を奪ひ尽くすことはないのか。
いや、安心はできない。
実は、新井さんたちが今の中高生たちを対象に「読解力」のテストをしたところ、予想以上にその能力が低いことが分かつたのです。

「読解力」とはまさに、「意味」を正確に理解できる能力です。

新井さんが実施したテストの一例を紹介しましょう。

次の文章を読みなさい。 Alexは男性にも女性にも使われる名前で、女性の名Alexandraの愛称であるが、男性のAlexanderの愛称でもある。 この文脈において、以下の文中の空欄にあてはまる最も適切なものを選択肢のうちから１つ選びなさい。 Alexandraの愛称は（　　　　）である。 ①Alex ②Alexander ③男性 ④女性

正答はもちろん①です。
ところがその正答率は、中学生で38％、高校生でも65％と決して高くない。
と言ふより、かなり低い。

つまり6割強の中学生は、教科書の文章を正確に読めてゐない。
これではAIが苦手とする第4の言語「意味」においてさへ、将来の社会人たちはAIと同等か、もしかして劣るかも知れない。
これが新井さんの危機感です。

読解力が低ければ、AIが進出できない分野でさへ人間もその優位性を発揮できない。
仕事にありつけず、失業と貧困の苦しみを味はふ。
このままではかなり暗澹たる未来予想図を描かざるを得ないやうです。

しかし新井さんは必ずしも悲観的でもない。
AIにできない仕事はいくらでもあり得ると、こんなふうに締めくくつてゐます。

重要なのは柔軟になることです。人間らしく、そして生き物らしく柔軟になる。そして、AIが得意な暗記や計算に逃げずに、意味を考えることです。生活の中で、不便に感じていることや困っていることを探すのです。

にほんブログ村