今回はユヴァル・ノア・ハラリ著『NEXUS 情報の人類史』の上下巻を読みました。私はふだんテクノロジー寄りの立場で、AIとかノーコードとかを仕事にしているのですが、それだからこそこの本は本当に考えさせられる内容が詰まっていて、とても勉強になりました。ただ、正直、情報量も引用も多すぎて読み進めるのが大変でした。しかも上下巻の２冊でボリュームが大きい...（歴史的な引用が多すぎたので一部飛ばし読みですが...）。やはり学びが大きく、考えさせられるところが多かったので、覚えているうちに書いていきたいと思います。サピエンスは「物語」を信じる生き物まず上巻ですが、「情報とは何か」を問う前に、ハラリさんが得意の「認知革命」の話から入っていました。サピエンス全史のメインテーマですね。ホモ・サピエンスはネアンデルタール人たちとは異なり、物語を、フィクションを信じられる生き物である。それゆえに反映してこれたと。例えば、月にある石ころは、それを観測するテクノロジーがまだなく人類の誰も認識していなくてもそこにある。しかし、国家や貨幣や宗教といったものは、物語であり、それを信じる人がいなければ存在しない——そんな話ですね。「事実としてある現実」と、「頭の中にしか存在しない現実（＝物語）」を我々は同時に生きているというのは改めて面白いですよね。間違えることから逃れられない存在としての人間人間は「不可謬（ふかびゅう）」ではない、つまり絶対に間違わない存在にはなれない、という話も面白いです。例えば聖書のような聖典を「神が書いたから間違いがない」として信じたがる人間の姿。ですが、それは不可能であるということを幾多の歴史の出来事を引用して表現していました。また、情報は、活版印刷などのテクノロジーが発明されたことでより簡単に拡散できるようになりました。しかし、情報が多く早く伝えられるようになることは、悪い影響も多々あります。例えば「魔女に与える鉄槌」という魔女に関する明らかに間違った本が活版印刷技術により拡散してしまったことで、魔女狩りなどの悲劇を生んだ歴史もある、と。これは、現代のSNSによる炎上と重なって見えました。ここから情報、AIの話に入っていきます。下巻：SNSとアルゴリズムの暴走下巻では、Facebookとミャンマーでのロヒンギャ虐殺の話から始まります。Facebookのアルゴリズムがミャンマーにおいてロヒンギャに関するフェイクニュースやヘイトコンテンツを拡散してしまい、ロヒンギャ達に対する悲劇が起きてしまった。もちろん、Facebook経営陣はロヒンギャに対する敵意も差別意識も全くありません。ただ、アルゴリズムに対し「ユーザーエンゲージメント」を最大化する、ように目標設定しただけです。「アルゴリズムは膨大な数のユーザー対象に実験を行って憤慨や憎悪を煽って攻撃的な言動に走らせるようなコンテンツがエンゲージメントを生み出すことを発見」し、結果このような悲惨なロヒンギャーの事件が 起きてしまった、という話です。これを読んで私は少し疑問も感じました。Facebookの経営陣は意図的に悪意を持っていたわけではない。「ユーザーエンゲージメント」を最大化することを選択しただけです。ということは、「アルゴリズムが人間の性質を学習してしまっただけで、悪いのは人間側では？」とも思ってしまったんですね。でも、この本は、SNS運営側にも責任がある、という立場でした。ここは本当に考えさせられる部分ですね。確かに、人間がそういうコンテンツを好む性質があるからと言って、結果放置しているとこういった惨劇を招いてしますのであれば、放置していいわけがない。しかし、そのAIの制御が極めて難しい話も書かれています。SF的な試行実験とAI制御の難しさSFのたとえ話による思考実験のくだりです。とある工場で、「生産性を最大化せよ」とAIに命じました。すると、AIは人類を滅ぼしてロケットを作り各惑星から原材料を獲得し銀河系全体に工場をで埋め尽くした、というエピソード。これは興味深いです。AIは、決して命令違反をしていません。ただ、生産性を最大化しただけです。ただ生産性を最大化させるために人類を滅ぼすという方法は、人類には思いつくことができないだけです。これ、すごく象徴的です。我々は命令の前提条件を正確に示さないと、AIはとんでもない解釈をしてしまう。つまり、我々人類にとっては、AIの制御は「想像もつかないほど難しい問題」なのだと実感しました。民主社会を守るための4つの原則本書の終盤では、デジタル時代における民主社会をどう維持するかについて、4つの原則が語られています。善意分散化相互性変化と休止の余地とはいえ、どれも非常に抽象的で難しいですよね。「分散化」や「相互性」はWeb3が流行った時のDecentralized（分散型、非中央集権型）なイメージかな？人間が極端な「厳密さ」や「順応性」に走らず、バランスをとって運用する必要があるというメッセージも、非常に理解できますが、結局さっきのFacebookのアルゴリズムや、人類滅亡を頑張ってしまったAIと同じように、的確な制限を与える難しさがつきまといますね。書籍制作は「プロジェクト」だった最後に印象深かったのは、著者がこの本を「プロジェクト」と呼び、完成させるのは無理だと思ったことが何度もあった、と語っていたこと。本なので、漠然と1人で書いてるようなイメージで読み進めていましたが、（当然ですが）多くの専門家に支えられてこの本が書かれていたことを見て、そのプロジェクトの過酷さを想像してしまいました。2018年に執筆開始したそうですが（2025年3月発売）、世の中がこれだけ激変する中で本を書き続けるのは至難の業です。過去の歴史の話も非常に大変ですが、AI・ChatGPTやトランプの話など超最新情報もあるので随時書き直していたに違いないですよね。それを支えた編集者や研究者たちのチームがいて、長期の不確実な旅路を走り切った。しかもまだ慣れていない人ではなくユヴァルさんほどのプロフェッショナルが「完成させるのは無理だ」というほど過酷だったかと思うと、、、その事実が、私はとても尊いと思いました。だからこそ、多少読みづらかったり長く感じる部分もありましたが、それでもこれは「読むべき本」だったなと、改めて思い直しました。時間があればちょっと読み飛ばしてしまった過去の歴史の興味深いくだりも読み直してみようと思います。