著者は、ハーバード大学でコンピュータサイエンスを学び、現在はデータジャーナリストとして活躍している人物です。データジャーナリストとは、数字の中にストーリーを見出し、数字を使ってストーリーを語るジャーナリストのこと。彼女は、その調査報道活動のために自らコードも書く現役のエンジニアでもあり、大学の教授でもあります。

データーサイエンス界の専門家である著者は、人々がデジタル・テクノロジーについて語る明るい未来と、実際にできることに大きなズレが生じていることに疑問を持ち始めました。そして、多くの人が、「コンピュータは正しく、人間は間違いを犯す」と信じ、「テクノロジーが常に解決策だ」と疑いなく受け入れてしまっていることを懸念しています。そうした「技術至上主義」に潜むリスクを解き明かしていくことが、本書の大きな目的となっています。

著者は、ＡＩを理解していくために「そもそもコンピュータとは何か」という基本的な知識から紐解き、ＡＩがどのように活用されているのかという最新事例まで、ふんだんに紹介していきます。そうした解説と現実を通じて、ＡＩには何ができないのか、ＡＩの理解を誤って使うとどんなリスクが起こりうるのかを理解できる一冊となっています。

＜目次＞

第一部　コンピュータはどうやって動くのか
　　　　第一章　　ハロー、読者のみなさん
　　　　第二章　　ハロー、ワールド
　　　　第三章　　ハロー、ＡＩ
　　　　第四章　　ハロー、データジャーナリズム

第二部　コンピュータには向かない仕事
　　　　第五章　　お金のない学校はなぜ標準テストに勝てないのか
　　　　第六章　　人間の問題
　　　　第七章　　機械学習　－　ディープに学ぶ
　　　　第八章　　車は自分で走らない
　　　　第九章　　「ポピュラー」は「よい」ではない

第三部　力を合わせて
　　　　第十章　　スタートアップ・バスにて
　　　　第十一章　「第三の波」ＡＩ
　　　　第十二章　加齢するコンピューター

新聞や雑誌の記事に目を通していて、ＡＩという言葉をまったく見ない日はない、といっても過言ではありません。先日参加したＡＩをテーマにしたフォーラムには数百人のビジネスパーソンが集まっており、NHKの「あさイチ」（生活情報番組）までもＡＩの特集を組んでいました。今や、ＡＩについて知らない、ビジネスにＡＩを活用していない、ということは「時代遅れ」というレッテルを貼られてしまう、というプレッシャーを感じる人は少なくないのではないでしょうか？

ＡＩ・人工知能という言葉や概念は、ここ数年間で出てきたような新しいものではありません。人間の知能を持ったロボットや人造人間というイメージは、数十年前から映画や小説で描かれてきました。テクノロジーの世界でも、1950年代から始まった「第一次ＡＩ」、1980年代の「第二次ＡＩ」、そして、現在の「第三次ＡＩ」と、その歴史は決して短くなく、それ故に、人々は様々なイメージや概念を持っています。加えて、現在の第三次ＡＩブームでの、ハードウエアの処理能力の飛躍的向上や、「機械学習」「シンギュラリティ」という夢を広げるような新しい概念の登場が後押しして、著者が言うところの「技術至上主義」が、一般社会にまで広がっているのが現状と言えるでしょう。

以下、現在我々がＡＩを活用する場面になった際に、心にとめておきたいと思った、著者の言葉をピックアックしてみます。

●　現存しているのは、「特化型ＡＩ」である。（対して、「汎用型ＡＩ」は、ハリウッド映画などで描かれるような自らの意思をもって行動するもの）「特化型ＡＩ」は純粋に数学的なＡＩだ。「汎用型ＡＩ」のように派手ではないが、驚くほどうまく機能するし、これを使えばいろいろと面白いことができる。しかし、それは「本当のＡＩ」ではない、と考える人は少なくない。（＝現実に対して、非現実的な期待が大きい）
●　コンピュータサイエンティストの業界内では、「汎用ＡＩ」についてすでに1990年代に見切りがつけられている。
●　現在広く普及しているＡＩの一形態である機械学習は、「汎用ＡＩ」ではなく、「特化型ＡＩ」だ。ここでの「学習」とは、あくまで機械がプログラムされたルーティンの自動タスクを行う際の能力を改善することを意味する。決して機械が知識や知恵や行為主体を獲得することではない。しかし、「学習」という言葉のせいで、あたかも機械が行為主体になるような印象を持つ人が少なくない。

●　ある因子が考慮されるためには、それがモデルに組み込まれて、コンピュータが計算できる形で示されなければならない。コンピュータは、自ら手を伸ばして、関連がありそうな追加の情報を見つけることはできない。
●　ビッグデータの世界には、こんな公然の秘密がある。すなわち、「すべてのデータは汚れている」というものだ。ひとつとして例外はない。データは、自ら動き回ってものを数える人々や、あるいは人によって作られたセンサーによって作られる。
●　あらゆるデータは人によって作られる。データは社会的に構築されるのである。データが人以外の何かによって作られるという考えは捨てた方がいい。
●　コンピュータが下した決定は、人間が下したものより優秀あるいは公平であると信じこんでいると、人はシステムに入力されるデータの妥当性を疑うことをやめてしまう。ゴミを入れればゴミが出る。

●　技術至上主義とは、テクノロジーが常にソリューションであるという信念を指す。巧みなマーケティングキャンペーンによって、今でも多くの人たちが、テクノロジーは何か新しいものであり、大きな変革をもたらす可能性を秘めていると思い込まされている。
●　クールなテクノロジーを手に入れたのだから、これであらゆる問題が解決できるなどと思いこまないことだ。限界は存在する。
●　ここで私たちは、根本的な問題に立ち返る。その問題とは、アルゴリズムを設計しているのは人間であり、人間は自らの無意識なバイアスをアルゴリズムに組み込んでいる、というものだ。

現存するＡＩは、使い方によって凶器にもなるし、差別や失敗の助長にもつながる危険性をはらんでいるという、専門家からの指摘は、私たちがこれから向き合っていくＡＩというものの本質を真剣に理解する必要があることを教えてくれます。

もちろん、こうしたリスクの裏側には、その能力を理解してうまく活用したとき、人間にとって大きな価値をもたらす、という希望があります。その希望を現実のものにしていくために、マーケティング的な騒ぎから少し離れて、一度本書を読んでみることは有効でしょう。データーサイエンスやテクノロジーの世界の「内部」のメンバーであり、同時にジャーナリストという第三者としての関りも長年持ち続けている著者の指摘は、世間で喧伝される様々な「言葉」に翻弄されず、「できること」と「できないこと」を明確に理解したうえで、技術をうまく活用していくための羅針盤になっていくはずです。

（2019年11月26日）