20250831 株式会社河出書房新社刊 ユヴァル・ノア・ハラリ著 柴田 裕之訳「21 Lessons ; 21世紀の人類のための21の思考」pp.102-104より抜粋

株式会社河出書房新社刊 ユヴァル・ノア・ハラリ著 柴田 裕之訳「21 Lessons ; 21世紀の人類のための21の思考」pp.102-104より抜粋
ISBN-10 ‏ : ‎ 4309467458
ISBN-13 ‏ : ‎ 978-4309467450

　あなたはアルゴリズムにつきまとう問題の数々を並べ立て、人はけっしてアルゴリズムを信頼するようにはならないと結論するかもしれない。だがそれは、民主主義の欠点をすべてあげつらって、正気の人ならそのような制度はけっして選択しないだろうと結論するようなものだ。有名な話だが、ウィンストン・チャーチルは次のように言っている。民主主義はこの世で最悪の政治制度だーただし。他のすべての政治制度を除けば、と。是非はともかく、人々はビッグデータアルゴリズムについても同じ結論に到達するかもしれない。多くの障害を抱えてはいるものの、それよりましな選択肢はない、と。　

　人間の意思決定の仕方について科学者が理解を深めるにつれ、アルゴリズムに頼りたいという誘惑も強まりそうだ。人間の意思決定をハッキングすれば、ビッグデータアルゴリズムの信頼性が高まるばかりでなく、同時に、人間の感情の信頼性が落ちるだろう。政府や企業が人間のオペレーティングシステムをハッキングすることに成功すれば、私たちは精密誘導の操作や広告やプロパガンダの集中砲火を浴びることになる。私たちの意見や情動を操作するのがあまりに簡単になりかねない。その場合、私たちはアルゴリズムに頼ることを余儀なくされる。めまいに襲われたパイロットが自分の感覚が告げるメッセージを無視して、機械装置を全面的に信頼しなければならないのと同じことだ。

　一部の国や一部の状況では、人々はまったく選択肢を与えられず、ビッグデータアルゴリズムの決定に従うことを強制されかねない。とはいえ、自由社会とされている場所でさえも、アルゴリズムが権限を増すかもしれない。私たちはしだいに多くの事柄でアルゴリズムを信頼したほうがいいことを経験から学び、自ら決定を下す能力を徐々に失っていくだろう。考えてもみてほしい。わずか20年のうちに、何十億もの人が的確で信用できる情報を探すという、非常に重要な任務をグーグルの検索アルゴリズムに委ねるようになった。私たちはもう、情報を探さない。代わりに、「ググる（Googleで検索する）」。そして、答えを求めてしだいにグーグルに頼るようになるにつれて、自ら情報を探す能力が落ちる。そして今日、「真実」はグーグルでの検索で上位を占める結果によって定義される。

　同じことが、目的地までの移動のような身体能力にも起こっている。人々はグーグルを頼りに動き回る。交差点に差しかかると、直感は「左に曲がれ」と告げているのに、グーグルマップは「右に曲がれ」と言う。最初は自分の直感に従って左に曲がり、交通渋滞に巻き込まれ、重要な会議に出席しそこなう。次のときにはグーグルの言うことを聞いて右に曲がり、時間どおりに到着する。こうして、経験からグーグルを信頼することを学ぶ。一、二年のうちに、グーグルマップが言うことなら何にでも、ろくに考えもせずに従うようになり、スマートフォンが故障したら、完全にお手上げとなる。

　2012年3月、オーストラリアで沖の小島に日帰り旅行に出ることにした日本人観光客が、干潮の太平洋に車で突っ込んだ。運転していた21歳の野田ゆずは後に、GPSの指示に従っただけだと述べている。「車で行き着けるとのことでした。道路に導いてくれると繰り返すばかり。そのうち動けなくなってしまいました」。同様の事故は他にもあり、どうやらGPSの指示に従っていて車を湖に乗り入れたり、取り壊し中の橋から落ちたりということが起こっているらしい。目的地まで無事に行き着く能力は筋肉のようなもので、使わないと失われる。配偶者や職業を選ぶ能力にも同じことが当てはまる。