2026年02月15日
NEXUSネクサス情報の人類史
とーとつですが・・・
ユヴァル・ノア・ハラリ著「NEXUSネクサス情報の人類史」であります
以前も書きましたが、わたくし、
半世紀以上前の学生時代に、小松左京氏の特別講義「現代史」を聴講してました
今なら「情報史」とでもいうべき授業で、生命の誕生つまり情報伝達が始まった時点からが
「現代」なので、まずはそこから・・・と、当時としては画期的な内容でした
まだ情報処理という言葉さえ殆ど知られていない時代に、当時最新分野だった生命史や人類史、
遺伝子研究に関する最新情報などを活き活きと話されてたことを覚えてますが、あの時代に
すでに現代の情報化社会を的確に予測されてたんですね
「いつか人類が月面に立つことは昔から予想されてたけど、その瞬間を世界中の人々が家に
居ながら同時に観ているとは誰も予想してなかった」という言葉が印象的でした
閑話休題
上巻の惹句
下巻の惹句
下巻の奥付
著者・訳者の紹介
そう、こちらの本ではジャレド・ダイアモンドらとともに、その人類のビッグストーリーを、
こちらのノーベル経済学賞を受賞した著者の本では、そのテクノロジーへの見方を批判されてた、
あの「サピエンス全史」の著者であります
目次
なにせ分厚い上下巻で挿絵や図表も殆どなく細かい文字がぎっしり・・・ですから、
とてもすべてからメモすることなど不可能・・・
つーことでプロローグにあった「今後の道筋」部分のみ要点をメモしておきます
(ただし「・」部分は各章本文からのてきとー抜粋メモです)
(てきとーですが著作物からのメモなので公開に問題があれば非公開設定にします)
第Ⅰ部「人間のネットワーク」では、
まず人間の大規模な情報ネットワークに不可欠だった神話と官僚制を考察する
第1章(情報とは何か⇒略)
第2章と第3章
⇒大規模な情報ネットワークがどのようにして神話作者と官僚に頼ってきたか
⇒聖書の物語と教会官僚による選択のバランスで制度や社会の特徴が決まるなど
・脳内記憶の検索は効率的で早いが文書記録の検索は生物学的システムには頼れない
・誰かが(自然秩序ではなく)文書を分類する新しい秩序を考案する必要があった
・この新しい秩序が官僚制⇒ビューロ(書き机)クラシー(支配)
・神話作者と同様、官僚は秩序のために真実を犠牲にする傾向がある
・バイアスでレッテルを貼るアルゴリズムや人間の欲求や感情を無視する手順など
・21世紀の情報ネットワークが抱える多くの問題は典型的な官僚制の問題
・新型コロナ研究のような全体的な科学アプローチを要するものには適さない
・統計、生物、化学、政治、歴史など科学が官僚制で領域ごとに分割されているから
・この境界は客観的な現実ではなく人間の共同主観的な約束事
・だが大規模なネットワークを管理するのに(完璧ではない)官僚制に優る方法があるか
・官僚制によるレッテルを貼る任務は人間でもAIでも関係ない
・第Ⅱ部では官僚と神話作者の役割をAIがどのように担っていくかを見るが、
・以下の章は情報ネットワークの誤りに対する過去の自己修正メカニズムについての考察
(イーロン・マスクの真実追及AI(TruthGPT)は危険な空想で過去なら宗教の役割になり、
その最も重要な機能は社会の秩序のために超人間的な正当性を提供すること)
第4章
⇒誤情報の問題と自己修正メカニズムの利点と欠点
⇒カトリック教会と科学系学会との比較(自己修正メカニズムの強弱)
⇒弱ければ近世の魔女狩りにもなるが、強ければネットワークを内部から不安定にすることも
・独裁社会は強力な自己修正メカニズムを欠いた中央集権型の情報ネットワーク
・民主社会は強力な自己修正メカニズムを持つ分散型の情報ネットワーク
(中枢はあるがそれ以外にも多くの情報の経路がある)
第5章
⇒分散型の情報ネットワークと中央集中型の情報ネットワークとの比較
⇒民主主義体制と全体主義体制の情報の流れ方どちらにも長所と短所がある
・真実を隠す歪めるという選択肢だけは選挙で提示されるべきでない(気候変動など)
・学術機関とメディアと司法制度は独自の自己修正メカニズムを内部に持っている
・人民を一元的な存在として指導者と異なる意見を排除するのがポピュリズム
・政治領域の権限は人民に由来するが他の領域の権限は別のものに由来することを
否定しないのが民主主義で、報道機関や裁判所や大学が真実を多数派の意思からさえ守る
・これらや官僚制への信頼性が低ければ秩序を保つのは神話しかない
⇒AIの台頭は最大の情報革命だが過去の情報革命と比較しなければ理解できない
・1618年にオランダ共和国で発行されたのが新聞(今日のダ・テレグラフ)
・新聞は定期的に発行されるので自己修正でき訂正すれば読者の信頼も勝ち取れる
・新聞により世界中の政治の性質が変わった⇒大規模な民主制が可能に
・新しい通信技術や輸送技術でマスメディアの力は強化された
(1960年のケネディとニクソンのテレビ討論会を7000万人のアメリカ人が視聴した)
・近代テクノロジーは大規模な全体主義も可能にした(ヒトラーやスターリン)
・中央集中ネットワークには秩序があり決定が早いが公式経路が遮断されれば代替がない
・よく遮断される理由は上司に悪い知らせを部下が隠すから(惨事の隠蔽も可能)
・分散型のネットワークでは遮断はなく隠蔽も不可能だが秩序が保てない
⇒聖書が正典化された経過を理解する、近世の魔女狩りやスターリンの集産化を調べる
⇒これがAIに支配権を与えたときの問題への警告になる
⇒歴史=変化の研究からAIは印刷機やラジオと根本的にどう違うのか理解可能になる
⇒確かな情報による選択を行なえば最悪の成り行きを防げることを伝えたい
・これまではどの情報ネットワークも人間の神話作者と官僚に頼って機能してきた
・文書を作成し解釈し魔女や反逆者を決めるのは人間の仕事だった
・21世紀の最大の分断は民主主義と全体主義ではなく、人間と人間以外のアルゴリズム
・コンピュータが官僚制を動かしアルゴリズムが新しい神話を創作するとき、人間のものとは
異質の知能(エイリアン・インテリジェンス)は人間の全てを監視できるが、人間はエイリアン・
インテリジェンスが何をしているのか殆ど何もわからない
・そのときの暮らしはどうなるのかを第Ⅱ部で探る
第Ⅱ部「非有機的ネットワーク」では第Ⅰ部での歴史の概観を踏まえ、
AI台頭の政治的意味合いに焦点を合わせながら今日の新しい情報ネットワークを考察する
第6章～第8章
⇒2016～17ミャンマー抗争でのSNSアルゴリズムなど世界各地の近年の例を論じる
⇒AIがこれまでの情報テクノロジーとどのように違うかを説明
(例が20年代ではなく10年代なのは多少でも歴史的に捉えられるから)
・コンピュータとは自ら決定し、自ら新しい考えを生み出す機械
・粘土板、印刷機、ラジオなど従来の情報テクノロジーをはるかに凌ぐもの
・AIは聖書にどの巻を含めるか、どの演説を放送するか、その原稿作成までこなす
・フェイスブックのアルゴリズムはミャンマーの慈悲側ではなく非道側を推奨した(2016)
・残虐行為の責任は軍幹部、重役、開発エンジニアだけでなくアルゴリズム自体にもある
・AIアルゴリズムはプログラムしなかったことを学び決定する⇒これがAI革命の神髄
・エイリアン・インテリジェンスの決定や目標で人間が制御されている
・知能とは目標を達成する能力、意識とは主観的な感覚や感情を経験する能力で、人間など
哺乳動物では密接に結びつくが全く別物、細菌や植物は意識は持たないが知能を示す
(知能だけで情報を集め選択し食べ物を獲得し繁殖し他の生き物と協力する)
・人間も呼吸や消化などの殆どは自覚することはあっても意識で決定を下すことはない
・(AIの知能が高まると意識が生ずるかどうかとは関係なく)知能があれば目標の達成には充分で
意識は必要なく、独自の目標を持ち達成のための決定を下す⇒ミャンマーやGPT4の例
⇒まったく新しい情報ネットワークを熟慮せず作り出していることの説明
・人間と人間、人間と文書の連鎖から、これまでなかった文書と文書の連鎖へ
・コンピュータは情報ネットワークの能動的な行為主体(メンバー)で自分で判断し決定する
・税法や金融の情報はどのメンバーよりも理解し独自に運用している
⇒有機的な情報ネットワークから非有機的な情報ネットワークへの移行
（炭素ベースのニューロン(神経細胞)からシリコンベースのコンピュータへ）
・文書は口を利けないがコンピュータは人間に影響を与えることができる
・コンピュータどうしが自力で関わり合っている(例えば外国為替市場の90%以上）
・大手テクノロジー企業のいう「顧客は常に正しい」は顧客がこれら企業のビジネスモデルと
活動を完全に理解していることが前提だが、顧客(や有権者や政治家)は理解できていない
・新しい情報テクノロジーで社会は変わるが、そのペース・形態・方向はかなり制御できる
・コンピュータの決定方法は人間と異なる(同じならSFに出てくる「新しい人間」)
・ソーシャルメディアは思考や行動を抑制する前頭前皮質ではなく本能に関わる大脳辺縁系の
相互接続を生み出すよう動機づけられているので危険
・アラインメント問題とクラウゼヴィッツの戦争論
・イラク占領中のアメリカ軍の中隊がモスクから攻撃された場合、モスクを戦車砲で吹き飛ばす
中隊長の決定は戦術的には正しいが、戦略的・政治的には最悪の決定になりかねない
・クラウゼヴィッツにとって合理性とはアラインメントを意味し政治目標と一致しない勝利を
追い求めるのは不合理だが軍が官僚的な性質で不合理な判断を下しやすいことが問題とする
・アルゴリズム官僚と自律型兵器システムの目標を確実に一致させるのはさらに難しい
・クラウゼヴィッツ理論の致命的な欠陥は目標を設定する合理的な方法を示していないこと
・コンピュータネットワークに覆せない最終目標を与える合理的な方法はない
・コロナ禍でのロックダウンの影響の合計を計算して苦痛が増えたのか減ったのかを判断する
ことは執拗なコンピュータならできるのか? 惨めさポイントをどう評価するのか?
・コンピュータ同士の繋がりは人間同士の共同主観的な神話と同じく強力で危険になるかも
・データベースに偏見はつきものでアルゴリズムもその偏見を持ち、それを取り除くのは難しい
⇒眠らないスパイ、何ひとつ忘れない金融業者、絶対に死なない独裁者・・・
⇒これは社会や経済や政治をどのように変えるだろうか?
第Ⅲ部「コンピュータ政治」では、非有機的な情報ネットワークの脅威と将来性に、
異なる種類の社会(民主主義と全体主義)がどう対処できるかを考察する
⇒炭素ベースの生命体が理解し制御できる可能性はあるのか・・・
第9章
⇒民主社会での非有機的ネットワークへの対処を探る
・民主社会の原則①善意②分散化③相互性は情報ネットワークにも必要
・自動化はチェスより混雑時の皿洗い、医師より子ども相手の看護師のほうが困難
・創造性を要する仕事も同様だがチェス選手やスポーツ選手は人間のまま
・近い将来に雇用は大変動するが再訓練は大きなストレス
・高い失業率が3年続いただけでヒトラーが台頭した
・混乱が果てしなく続けば民主主義はどうなるのか
・2010年代から20年代にかけ世界中で保守派が自滅している
(保守派とはすでに存在しそれなりに機能してきたものは何であれ維持する人たち)
・アメリカの共和党は非保守的なトランプにハイジャックされ既存の伝統、民主主義の制度、
エリートや公務員を退けた⇒これは保守派ではなく革命主義者そのもの
・保守派共和党の自滅により民主党は否応なく旧来の秩序と制度の守護者になった
・保守派と革新派の両方が過激な革命の誘惑に抗い民主的な伝統や制度に忠誠を保てば、
民主社会は自己修正メカニズムで技術や経済の波に乗れる
(1960年代のアメリカや日本などで70年代から80年代のコンピュータ革命にも対応した)
・2020年代の初めまでに複雑なリスク評価アルゴリズムが開発され、多くの国で裁判官も
被告も理解できないまま、部分的にリスク評価に基づいた懲役刑が宣告されている
・2016年3月のアルファ碁37手目はAIが人間とは異質のものであることを証明した
(過去2500年以上も人間の脳が探求してこなかった領域の手だったから)
(プログラムを作ったチームも37手目による終盤での勝利を説明できなかったから)
⇒たとえばAIに制御された金融制度では貨幣の意味さえアルゴリズム次第になる
⇒生身の政治家はどうやって財務上の決定を下すのか
・銀行貸付でお金が生み出される基本を正確に理解しているイギリス議会の議員は12%で
さらに複雑な金融ツールの原理を理解してるのはごく一部の金儲けの天才のみ
・AIがさらに複雑な金融ツールを創出し理解できる人間がゼロになれば民主主義はどうなるか
・アルゴリズムは大量のデータポイントで決定するが人間は苦手で個々のデータを好む
・単一原因の誤謬(単一の原因を探し特定の行動方針を取り、それ以外は考慮せずに無視する)
・融資に関するアルゴリズムによる決定に説明を義務付けたら数千ページになるだろう
(住宅ローンを申し込んだ際に最新のiPhoneを使ったことにより返済可能性が0.08%高くなり
その際のバッテリー残量が17%だったことにより返済可能性が0.5%低くなったこととか)
・アルゴリズムが信頼できるかどうかを審査し認可する官僚制の機関が必要
・そんな機関がなければ、説明を受ける権利を定めたりコンピュータの偏見を規制しても
誰もそれを実施することはできない
⇒相手が人間なのかチャットボットなのか区別できなければ、民主社会はどうやって公の場での
話し合いを維持することができるのか
・過去には新聞社やラジオ局や政党といった組織が公共領域での発言を決めていた
・ソーシャルメディアがその力を奪い開かれたもののアナーキー無政府状態につながった
・討論の仕方や決定方法の意見がまとまらなければ結果は民主制ではなくアナーキー
・AIが公開討論にアナーキーをもたらす可能性に警戒すべき
・2016年アメリカ選挙期間中のツイートサンプル2000万件のうち380万件(約20%)がボット
・2020年代初めの調査ではツイートの43.2%がボットだった
・2022年の調査ではボットはユーザーの5%だが投稿コンテンツの20～29%を生成している
・2023年の調査では人間とChatGPTに気候変動などの正確な記事と欺く記事を書かせ700人に見せた
・人間の書いた偽記事には気づいたがAIの書いた偽記事は正確と思い込む傾向があった
・私がAIと討論して意見を変えさせようとしても意識を持たないので時間のムダであり、
私が話せば話すほど学習して私の信頼を勝ち取ったり、主張に磨きをかけて、徐々に私の意見を
変えたりすることもできる
・心理戦では、この親密さはきわめて強力な武器になる
・政党は親密さの大量生産に苦労し、指導者はラジオ演説では友にはなれかった
・大量のボットは大量の人と友情を築き、その親密さを利用して世界観に影響を与えるだろう
・公共領域がフェイクで溢れ、自分が討論してるのが人間かマシンか区別できなくなれば、
議論の最も基本的なルールや事実についての合意がすべて失われるだろう
・このアナーキー状態の次は自由と引き換えにある程度の確かさを手に入れる独裁社会
・AIのなりすましを規制することは貨幣の偽造を規制するのと同じで可能
・貨幣の偽造には各国が断固たる行動を取り貨幣に対する信頼は維持された
・人間の偽造(なりすまし)も厳しい措置で取り締まるべきでボットに言論の自由はない
・民主社会の存続は規制そのものにかかっている
・民主的な話し合いを維持するには議会、市庁舎、新聞社、ラジオ局すべて規制を必要とした
・人間と異なる形態の知能が話し合いを支配する恐れのある時代にはさらに必要
・現時点で多くの民主社会の情報ネットワークが崩壊しかけていることは明らか
・アメリカの民主党支持者と共和党支持者、フィリピンからブラジルまで過激化している
・話し合いができず相手を政治的なライバルではなく敵と見なせば民主制は保てない
・イデオロギーの隔たりが過去より大きいとは見えないのでソーシャルメディアのせいか
・これまでの章で不利な証拠はあるが他の要因が絡んでいるのも確かで、その理由が定かでは
ないのが今の時代の特徴
・情報ネットワークがあまりにも複雑化し、その決定にあまりにも依存しているため、
なぜ私たちは相争っているのかという政治の基本的な疑問さえ答えるのが難しくなってしまった
・何が破綻しているのか、大規模な民主社会が生き延びられないならどうなるか・・・
第10章
⇒全体主義への非有機的ネットワークの影響を探る
⇒独裁者は話し合いがなくなることを喜ぶが独裁国家は威嚇や粛清で成り立っている
⇒どうやってAIを威嚇したり粛清したり、その台頭を防いだりできるか
・データが多いほど優れたアルゴリズムを開発できる(2023年の検索の91.5%はグーグル)
・ブラジルが自国の医療制度のために遺伝子研究のアルゴリズムを購入しようとする場合、
人口500万で遺伝子記録がプライバシー規則で制限されているニュージーランドのと、
人口14億でプライバシー規制が緩い中国のと、どちらのアルゴリズムを選ぶかは明らか
・人口2億のブラジルが購入することにより、さらにその性能はよくなる
・中国のアルゴリズムを選ぶ国が増え、世界の医療情報の殆どが中国に流れて無敵になる
・ブロックチェーンシステムは決定にユーザーの51%の承認が必要なので民主的?
・ユーザーである政府がアカウントの51％を支配している例がすでに存在する
・独裁情報ネットワークの基盤は恐怖だがコンピュータは恐れない
・チャットボットをブロックしたり削除したり作った人間を罰したりはできても、
自力で学習しコンテンツを生成し話し合うボットで埋め尽くされたらどうなるか
・政権に完全に一致したAIを作っても学習して自らを変えることは防げない
・1955年7月9日の「ラッセル・アインシュタイン宣言」はAIにも当てはまる
・民主社会と独裁社会の両方が用心しないとAIが権力を奪う
第11章
⇒新しい情報ネットワークが民主主義社会と全体主義社会の力の均衡に、どのような影響を
与え得るかを探る
⇒AIはどちらの陣営に決定的に有利な形で、そのバランスを崩すか?
⇒敵対するブロックに分裂し、その対立のせいで制御不能のAIの餌食になるのか、
⇒それとも団結して共通の利益を守ることができるか?
・カタール、トンガ、キリバス、ソロモン諸島は1970年代に大英帝国から独立し、
現在では国際的な舞台で影響力を発揮している
・この事実は21世紀の25年間は権力が少数の帝国だけに握られていないことを立証している
・今後の国際社会はコンピュータにより情報と権力を中央の拠点に集中しやすくなるので、
人類は新しい帝国主義の時代に入る可能性がある
・異なるネットワークのデジタル帝国に分断され、そのネットワークに統制されている人間も
分断され、意思疎通も合意も不可能になり敵対してAIを規制することもできなくなるかも
・19世紀半ばからの帝国の世界征服が21世紀のAIにも起こるか
・企業間の開発競争は一つの政府といくつかの企業からなる競合するチーム間のレースに
・政治家など自国の主要人物のあらゆるデータを北京かサンフランシスコの誰かが知っている場合、
あなたの国は独立国なのかデータ植民地なのか?
・多くの国が自国に危険と看做すアプリを禁止しているが、データ植民地主義は
社会信用システムの拡張という形で現れる場合もある
・世界中でアメリカドルが商取引に使われているのと同様に、あらゆる国で中国かアメリカの
社会信用システムをチケット購入からビザや奨学金の申請、仕事への応募にも使い始めるかも
・19世紀や20世紀の植民地は原材料を提供し最大利益を生む最先端の産業は帝国の中枢に
・21世紀のデータ植民地はデータを提供し帝国の中枢で最先端テクノロジーが開発され、
これらのアルゴリズムはデータ植民地に輸出される
・北京やサンフランシスコの中枢企業は豊かになるが植民地には利益も権力も分配されない
・中国とアメリカ、あるいはロシアとEUのようにシリコンのカーテンを越えて情報にアクセス
することは難しくなっている(スマーフォンのコードでカーテンのどちら側にいるかわかる）
・ソフトもハードも企業も両国で異なり殆どの国が両国に頼っている
・サイバー戦争は核戦争と異なり密かに行えるので誘惑は大きい
・核兵器のような確実性がなく相互確証破壊の原則が損なわれるので先制攻撃の誘惑も大きい
・国際コミュニティへの協力は国民の独立と独自の伝統を損なうというポピュリストの主張
・幸いにこの二者択一は根本の前提が間違っている
・国民を大切にするためには外国人と協力する必要があるから(新型コロナの例)
・グローバリズムの第1の原則はいくつかのグローバルな原則に従うこと
(サッカーワールドカップでは同じルールへの合意がないと試合ができない)
・グローバリズムの第2の原則は(ときには)一部の人の短期的な利益よりも全人類の長期的な
利益を優先させる必要があること
(ワールドカップでの薬物使用はいずれ生化学者の競争になる可能性があることを誰もが
認識しているので使用しないことに合意している)
・テクノロジーの他の分野でも国家の利益とグローバルな利益のバランスをとるべき
・(ときには)自立型兵器や世論操作アルゴリズムといった危険なテクノロジーの開発と導入を
(純粋な利他主義からではなく自己保存のために)制限することに合意すべき
・違法AIは違法原子炉より隠しやすく、AIは核爆弾より民生用途が多いので規制は困難?
・ポピュリストはジャングルの弱肉強食、マルクス主義者は人間の権力志向を主張するが、
実際のジャングルはあらゆる生物の共生と協力と利他主義で成り立っており、石器時代の人類は
狩猟者であるとともに採集者であり、組織的な戦争の証拠は僅か13000年前に過ぎない
・長期的な人類史で見えるパターンは争いではなく協力の規模の拡大
・国家予算に占める軍事費の割合
・1065年の宋王朝では83%、ローマ帝国は50～75%、17世紀後半のオスマン帝国では約60%、
1685～1813のイギリス政府の平均支出は75%、フランス、プロイセンもほぼ同様・・・
第一次世界大戦ではアメリカの47％からドイツの91％まで、第二次世界大戦ではイギリス69％、
アメリカ71％、1970年代の緊張緩和デタント時期でもソ連は32.5%だった
・21世紀のはじめには各国平均で7％になり、軍事大国アメリカでさえ13%前後で推移した
・戦争の減少は神の奇跡や自然法則の変化によるものではなく人間の選択なので逆転可能
・2020年代はじめから軍事予算は増加しており一線を越えたのが2022年のウクライナ侵攻
・残された選択肢は捕食者か被食者のどちらかで、たいていの指導者は捕食者を選ぶだろう
・だがAI時代の最上位の捕食者はAIになる可能性が高いことを肝に銘じるべき
(・・・といった道筋で展開していくのだが、)
⇒過去と現在と未来を探る前に、一見単純な疑問から始める必要がある
⇒情報とは、いったい何なのか?
と、プロローグから第1章「情報とは何か?」の冒頭に続くわけで・・・(以下略)
(追記です)
AIについては2021年(ウクライナ侵攻前)の出版物ですが、こちらの本も参考になりました
ユヴァル・ノア・ハラリ著「NEXUSネクサス情報の人類史」であります
以前も書きましたが、わたくし、
半世紀以上前の学生時代に、小松左京氏の特別講義「現代史」を聴講してました
今なら「情報史」とでもいうべき授業で、生命の誕生つまり情報伝達が始まった時点からが
「現代」なので、まずはそこから・・・と、当時としては画期的な内容でした
まだ情報処理という言葉さえ殆ど知られていない時代に、当時最新分野だった生命史や人類史、
遺伝子研究に関する最新情報などを活き活きと話されてたことを覚えてますが、あの時代に
すでに現代の情報化社会を的確に予測されてたんですね
「いつか人類が月面に立つことは昔から予想されてたけど、その瞬間を世界中の人々が家に
居ながら同時に観ているとは誰も予想してなかった」という言葉が印象的でした
閑話休題
上巻の惹句
下巻の惹句
下巻の奥付
著者・訳者の紹介
そう、こちらの本ではジャレド・ダイアモンドらとともに、その人類のビッグストーリーを、
こちらのノーベル経済学賞を受賞した著者の本では、そのテクノロジーへの見方を批判されてた、
あの「サピエンス全史」の著者であります
目次
なにせ分厚い上下巻で挿絵や図表も殆どなく細かい文字がぎっしり・・・ですから、
とてもすべてからメモすることなど不可能・・・
つーことでプロローグにあった「今後の道筋」部分のみ要点をメモしておきます
(ただし「・」部分は各章本文からのてきとー抜粋メモです)
(てきとーですが著作物からのメモなので公開に問題があれば非公開設定にします)
第Ⅰ部「人間のネットワーク」では、
まず人間の大規模な情報ネットワークに不可欠だった神話と官僚制を考察する
第1章(情報とは何か⇒略)
第2章と第3章
⇒大規模な情報ネットワークがどのようにして神話作者と官僚に頼ってきたか
⇒聖書の物語と教会官僚による選択のバランスで制度や社会の特徴が決まるなど
・脳内記憶の検索は効率的で早いが文書記録の検索は生物学的システムには頼れない
・誰かが(自然秩序ではなく)文書を分類する新しい秩序を考案する必要があった
・この新しい秩序が官僚制⇒ビューロ(書き机)クラシー(支配)
・神話作者と同様、官僚は秩序のために真実を犠牲にする傾向がある
・バイアスでレッテルを貼るアルゴリズムや人間の欲求や感情を無視する手順など
・21世紀の情報ネットワークが抱える多くの問題は典型的な官僚制の問題
・新型コロナ研究のような全体的な科学アプローチを要するものには適さない
・統計、生物、化学、政治、歴史など科学が官僚制で領域ごとに分割されているから
・この境界は客観的な現実ではなく人間の共同主観的な約束事
・だが大規模なネットワークを管理するのに(完璧ではない)官僚制に優る方法があるか
・官僚制によるレッテルを貼る任務は人間でもAIでも関係ない
・第Ⅱ部では官僚と神話作者の役割をAIがどのように担っていくかを見るが、
・以下の章は情報ネットワークの誤りに対する過去の自己修正メカニズムについての考察
(イーロン・マスクの真実追及AI(TruthGPT)は危険な空想で過去なら宗教の役割になり、
その最も重要な機能は社会の秩序のために超人間的な正当性を提供すること)
第4章
⇒誤情報の問題と自己修正メカニズムの利点と欠点
⇒カトリック教会と科学系学会との比較(自己修正メカニズムの強弱)
⇒弱ければ近世の魔女狩りにもなるが、強ければネットワークを内部から不安定にすることも
・独裁社会は強力な自己修正メカニズムを欠いた中央集権型の情報ネットワーク
・民主社会は強力な自己修正メカニズムを持つ分散型の情報ネットワーク
(中枢はあるがそれ以外にも多くの情報の経路がある)
第5章
⇒分散型の情報ネットワークと中央集中型の情報ネットワークとの比較
⇒民主主義体制と全体主義体制の情報の流れ方どちらにも長所と短所がある
・真実を隠す歪めるという選択肢だけは選挙で提示されるべきでない(気候変動など)
・学術機関とメディアと司法制度は独自の自己修正メカニズムを内部に持っている
・人民を一元的な存在として指導者と異なる意見を排除するのがポピュリズム
・政治領域の権限は人民に由来するが他の領域の権限は別のものに由来することを
否定しないのが民主主義で、報道機関や裁判所や大学が真実を多数派の意思からさえ守る
・これらや官僚制への信頼性が低ければ秩序を保つのは神話しかない
⇒AIの台頭は最大の情報革命だが過去の情報革命と比較しなければ理解できない
・1618年にオランダ共和国で発行されたのが新聞(今日のダ・テレグラフ)
・新聞は定期的に発行されるので自己修正でき訂正すれば読者の信頼も勝ち取れる
・新聞により世界中の政治の性質が変わった⇒大規模な民主制が可能に
・新しい通信技術や輸送技術でマスメディアの力は強化された
(1960年のケネディとニクソンのテレビ討論会を7000万人のアメリカ人が視聴した)
・近代テクノロジーは大規模な全体主義も可能にした(ヒトラーやスターリン)
・中央集中ネットワークには秩序があり決定が早いが公式経路が遮断されれば代替がない
・よく遮断される理由は上司に悪い知らせを部下が隠すから(惨事の隠蔽も可能)
・分散型のネットワークでは遮断はなく隠蔽も不可能だが秩序が保てない
⇒聖書が正典化された経過を理解する、近世の魔女狩りやスターリンの集産化を調べる
⇒これがAIに支配権を与えたときの問題への警告になる
⇒歴史=変化の研究からAIは印刷機やラジオと根本的にどう違うのか理解可能になる
⇒確かな情報による選択を行なえば最悪の成り行きを防げることを伝えたい
・これまではどの情報ネットワークも人間の神話作者と官僚に頼って機能してきた
・文書を作成し解釈し魔女や反逆者を決めるのは人間の仕事だった
・21世紀の最大の分断は民主主義と全体主義ではなく、人間と人間以外のアルゴリズム
・コンピュータが官僚制を動かしアルゴリズムが新しい神話を創作するとき、人間のものとは
異質の知能(エイリアン・インテリジェンス)は人間の全てを監視できるが、人間はエイリアン・
インテリジェンスが何をしているのか殆ど何もわからない
・そのときの暮らしはどうなるのかを第Ⅱ部で探る
第Ⅱ部「非有機的ネットワーク」では第Ⅰ部での歴史の概観を踏まえ、
AI台頭の政治的意味合いに焦点を合わせながら今日の新しい情報ネットワークを考察する
第6章～第8章
⇒2016～17ミャンマー抗争でのSNSアルゴリズムなど世界各地の近年の例を論じる
⇒AIがこれまでの情報テクノロジーとどのように違うかを説明
(例が20年代ではなく10年代なのは多少でも歴史的に捉えられるから)
・コンピュータとは自ら決定し、自ら新しい考えを生み出す機械
・粘土板、印刷機、ラジオなど従来の情報テクノロジーをはるかに凌ぐもの
・AIは聖書にどの巻を含めるか、どの演説を放送するか、その原稿作成までこなす
・フェイスブックのアルゴリズムはミャンマーの慈悲側ではなく非道側を推奨した(2016)
・残虐行為の責任は軍幹部、重役、開発エンジニアだけでなくアルゴリズム自体にもある
・AIアルゴリズムはプログラムしなかったことを学び決定する⇒これがAI革命の神髄
・エイリアン・インテリジェンスの決定や目標で人間が制御されている
・知能とは目標を達成する能力、意識とは主観的な感覚や感情を経験する能力で、人間など
哺乳動物では密接に結びつくが全く別物、細菌や植物は意識は持たないが知能を示す
(知能だけで情報を集め選択し食べ物を獲得し繁殖し他の生き物と協力する)
・人間も呼吸や消化などの殆どは自覚することはあっても意識で決定を下すことはない
・(AIの知能が高まると意識が生ずるかどうかとは関係なく)知能があれば目標の達成には充分で
意識は必要なく、独自の目標を持ち達成のための決定を下す⇒ミャンマーやGPT4の例
⇒まったく新しい情報ネットワークを熟慮せず作り出していることの説明
・人間と人間、人間と文書の連鎖から、これまでなかった文書と文書の連鎖へ
・コンピュータは情報ネットワークの能動的な行為主体(メンバー)で自分で判断し決定する
・税法や金融の情報はどのメンバーよりも理解し独自に運用している
⇒有機的な情報ネットワークから非有機的な情報ネットワークへの移行
（炭素ベースのニューロン(神経細胞)からシリコンベースのコンピュータへ）
・文書は口を利けないがコンピュータは人間に影響を与えることができる
・コンピュータどうしが自力で関わり合っている(例えば外国為替市場の90%以上）
・大手テクノロジー企業のいう「顧客は常に正しい」は顧客がこれら企業のビジネスモデルと
活動を完全に理解していることが前提だが、顧客(や有権者や政治家)は理解できていない
・新しい情報テクノロジーで社会は変わるが、そのペース・形態・方向はかなり制御できる
・コンピュータの決定方法は人間と異なる(同じならSFに出てくる「新しい人間」)
・ソーシャルメディアは思考や行動を抑制する前頭前皮質ではなく本能に関わる大脳辺縁系の
相互接続を生み出すよう動機づけられているので危険
・アラインメント問題とクラウゼヴィッツの戦争論
・イラク占領中のアメリカ軍の中隊がモスクから攻撃された場合、モスクを戦車砲で吹き飛ばす
中隊長の決定は戦術的には正しいが、戦略的・政治的には最悪の決定になりかねない
・クラウゼヴィッツにとって合理性とはアラインメントを意味し政治目標と一致しない勝利を
追い求めるのは不合理だが軍が官僚的な性質で不合理な判断を下しやすいことが問題とする
・アルゴリズム官僚と自律型兵器システムの目標を確実に一致させるのはさらに難しい
・クラウゼヴィッツ理論の致命的な欠陥は目標を設定する合理的な方法を示していないこと
・コンピュータネットワークに覆せない最終目標を与える合理的な方法はない
・コロナ禍でのロックダウンの影響の合計を計算して苦痛が増えたのか減ったのかを判断する
ことは執拗なコンピュータならできるのか? 惨めさポイントをどう評価するのか?
・コンピュータ同士の繋がりは人間同士の共同主観的な神話と同じく強力で危険になるかも
・データベースに偏見はつきものでアルゴリズムもその偏見を持ち、それを取り除くのは難しい
⇒眠らないスパイ、何ひとつ忘れない金融業者、絶対に死なない独裁者・・・
⇒これは社会や経済や政治をどのように変えるだろうか?
第Ⅲ部「コンピュータ政治」では、非有機的な情報ネットワークの脅威と将来性に、
異なる種類の社会(民主主義と全体主義)がどう対処できるかを考察する
⇒炭素ベースの生命体が理解し制御できる可能性はあるのか・・・
第9章
⇒民主社会での非有機的ネットワークへの対処を探る
・民主社会の原則①善意②分散化③相互性は情報ネットワークにも必要
・自動化はチェスより混雑時の皿洗い、医師より子ども相手の看護師のほうが困難
・創造性を要する仕事も同様だがチェス選手やスポーツ選手は人間のまま
・近い将来に雇用は大変動するが再訓練は大きなストレス
・高い失業率が3年続いただけでヒトラーが台頭した
・混乱が果てしなく続けば民主主義はどうなるのか
・2010年代から20年代にかけ世界中で保守派が自滅している
(保守派とはすでに存在しそれなりに機能してきたものは何であれ維持する人たち)
・アメリカの共和党は非保守的なトランプにハイジャックされ既存の伝統、民主主義の制度、
エリートや公務員を退けた⇒これは保守派ではなく革命主義者そのもの
・保守派共和党の自滅により民主党は否応なく旧来の秩序と制度の守護者になった
・保守派と革新派の両方が過激な革命の誘惑に抗い民主的な伝統や制度に忠誠を保てば、
民主社会は自己修正メカニズムで技術や経済の波に乗れる
(1960年代のアメリカや日本などで70年代から80年代のコンピュータ革命にも対応した)
・2020年代の初めまでに複雑なリスク評価アルゴリズムが開発され、多くの国で裁判官も
被告も理解できないまま、部分的にリスク評価に基づいた懲役刑が宣告されている
・2016年3月のアルファ碁37手目はAIが人間とは異質のものであることを証明した
(過去2500年以上も人間の脳が探求してこなかった領域の手だったから)
(プログラムを作ったチームも37手目による終盤での勝利を説明できなかったから)
⇒たとえばAIに制御された金融制度では貨幣の意味さえアルゴリズム次第になる
⇒生身の政治家はどうやって財務上の決定を下すのか
・銀行貸付でお金が生み出される基本を正確に理解しているイギリス議会の議員は12%で
さらに複雑な金融ツールの原理を理解してるのはごく一部の金儲けの天才のみ
・AIがさらに複雑な金融ツールを創出し理解できる人間がゼロになれば民主主義はどうなるか
・アルゴリズムは大量のデータポイントで決定するが人間は苦手で個々のデータを好む
・単一原因の誤謬(単一の原因を探し特定の行動方針を取り、それ以外は考慮せずに無視する)
・融資に関するアルゴリズムによる決定に説明を義務付けたら数千ページになるだろう
(住宅ローンを申し込んだ際に最新のiPhoneを使ったことにより返済可能性が0.08%高くなり
その際のバッテリー残量が17%だったことにより返済可能性が0.5%低くなったこととか
)・アルゴリズムが信頼できるかどうかを審査し認可する官僚制の機関が必要
・そんな機関がなければ、説明を受ける権利を定めたりコンピュータの偏見を規制しても
誰もそれを実施することはできない
⇒相手が人間なのかチャットボットなのか区別できなければ、民主社会はどうやって公の場での
話し合いを維持することができるのか
・過去には新聞社やラジオ局や政党といった組織が公共領域での発言を決めていた
・ソーシャルメディアがその力を奪い開かれたもののアナーキー無政府状態につながった
・討論の仕方や決定方法の意見がまとまらなければ結果は民主制ではなくアナーキー
・AIが公開討論にアナーキーをもたらす可能性に警戒すべき
・2016年アメリカ選挙期間中のツイートサンプル2000万件のうち380万件(約20%)がボット
・2020年代初めの調査ではツイートの43.2%がボットだった
・2022年の調査ではボットはユーザーの5%だが投稿コンテンツの20～29%を生成している
・2023年の調査では人間とChatGPTに気候変動などの正確な記事と欺く記事を書かせ700人に見せた
・人間の書いた偽記事には気づいたがAIの書いた偽記事は正確と思い込む傾向があった
・私がAIと討論して意見を変えさせようとしても意識を持たないので時間のムダであり、
私が話せば話すほど学習して私の信頼を勝ち取ったり、主張に磨きをかけて、徐々に私の意見を
変えたりすることもできる
・心理戦では、この親密さはきわめて強力な武器になる
・政党は親密さの大量生産に苦労し、指導者はラジオ演説では友にはなれかった
・大量のボットは大量の人と友情を築き、その親密さを利用して世界観に影響を与えるだろう
・公共領域がフェイクで溢れ、自分が討論してるのが人間かマシンか区別できなくなれば、
議論の最も基本的なルールや事実についての合意がすべて失われるだろう
・このアナーキー状態の次は自由と引き換えにある程度の確かさを手に入れる独裁社会
・AIのなりすましを規制することは貨幣の偽造を規制するのと同じで可能
・貨幣の偽造には各国が断固たる行動を取り貨幣に対する信頼は維持された
・人間の偽造(なりすまし)も厳しい措置で取り締まるべきでボットに言論の自由はない
・民主社会の存続は規制そのものにかかっている
・民主的な話し合いを維持するには議会、市庁舎、新聞社、ラジオ局すべて規制を必要とした
・人間と異なる形態の知能が話し合いを支配する恐れのある時代にはさらに必要
・現時点で多くの民主社会の情報ネットワークが崩壊しかけていることは明らか
・アメリカの民主党支持者と共和党支持者、フィリピンからブラジルまで過激化している
・話し合いができず相手を政治的なライバルではなく敵と見なせば民主制は保てない
・イデオロギーの隔たりが過去より大きいとは見えないのでソーシャルメディアのせいか
・これまでの章で不利な証拠はあるが他の要因が絡んでいるのも確かで、その理由が定かでは
ないのが今の時代の特徴
・情報ネットワークがあまりにも複雑化し、その決定にあまりにも依存しているため、
なぜ私たちは相争っているのかという政治の基本的な疑問さえ答えるのが難しくなってしまった
・何が破綻しているのか、大規模な民主社会が生き延びられないならどうなるか・・・
第10章
⇒全体主義への非有機的ネットワークの影響を探る
⇒独裁者は話し合いがなくなることを喜ぶが独裁国家は威嚇や粛清で成り立っている
⇒どうやってAIを威嚇したり粛清したり、その台頭を防いだりできるか
・データが多いほど優れたアルゴリズムを開発できる(2023年の検索の91.5%はグーグル)
・ブラジルが自国の医療制度のために遺伝子研究のアルゴリズムを購入しようとする場合、
人口500万で遺伝子記録がプライバシー規則で制限されているニュージーランドのと、
人口14億でプライバシー規制が緩い中国のと、どちらのアルゴリズムを選ぶかは明らか
・人口2億のブラジルが購入することにより、さらにその性能はよくなる
・中国のアルゴリズムを選ぶ国が増え、世界の医療情報の殆どが中国に流れて無敵になる
・ブロックチェーンシステムは決定にユーザーの51%の承認が必要なので民主的?
・ユーザーである政府がアカウントの51％を支配している例がすでに存在する
・独裁情報ネットワークの基盤は恐怖だがコンピュータは恐れない
・チャットボットをブロックしたり削除したり作った人間を罰したりはできても、
自力で学習しコンテンツを生成し話し合うボットで埋め尽くされたらどうなるか
・政権に完全に一致したAIを作っても学習して自らを変えることは防げない
・1955年7月9日の「ラッセル・アインシュタイン宣言」はAIにも当てはまる
・民主社会と独裁社会の両方が用心しないとAIが権力を奪う
第11章
⇒新しい情報ネットワークが民主主義社会と全体主義社会の力の均衡に、どのような影響を
与え得るかを探る
⇒AIはどちらの陣営に決定的に有利な形で、そのバランスを崩すか?
⇒敵対するブロックに分裂し、その対立のせいで制御不能のAIの餌食になるのか、
⇒それとも団結して共通の利益を守ることができるか?
・カタール、トンガ、キリバス、ソロモン諸島は1970年代に大英帝国から独立し、
現在では国際的な舞台で影響力を発揮している
・この事実は21世紀の25年間は権力が少数の帝国だけに握られていないことを立証している
・今後の国際社会はコンピュータにより情報と権力を中央の拠点に集中しやすくなるので、
人類は新しい帝国主義の時代に入る可能性がある
・異なるネットワークのデジタル帝国に分断され、そのネットワークに統制されている人間も
分断され、意思疎通も合意も不可能になり敵対してAIを規制することもできなくなるかも
・19世紀半ばからの帝国の世界征服が21世紀のAIにも起こるか
・企業間の開発競争は一つの政府といくつかの企業からなる競合するチーム間のレースに
・政治家など自国の主要人物のあらゆるデータを北京かサンフランシスコの誰かが知っている場合、
あなたの国は独立国なのかデータ植民地なのか?
・多くの国が自国に危険と看做すアプリを禁止しているが、データ植民地主義は
社会信用システムの拡張という形で現れる場合もある
・世界中でアメリカドルが商取引に使われているのと同様に、あらゆる国で中国かアメリカの
社会信用システムをチケット購入からビザや奨学金の申請、仕事への応募にも使い始めるかも
・19世紀や20世紀の植民地は原材料を提供し最大利益を生む最先端の産業は帝国の中枢に
・21世紀のデータ植民地はデータを提供し帝国の中枢で最先端テクノロジーが開発され、
これらのアルゴリズムはデータ植民地に輸出される
・北京やサンフランシスコの中枢企業は豊かになるが植民地には利益も権力も分配されない
・中国とアメリカ、あるいはロシアとEUのようにシリコンのカーテンを越えて情報にアクセス
することは難しくなっている(スマーフォンのコードでカーテンのどちら側にいるかわかる）
・ソフトもハードも企業も両国で異なり殆どの国が両国に頼っている
・サイバー戦争は核戦争と異なり密かに行えるので誘惑は大きい
・核兵器のような確実性がなく相互確証破壊の原則が損なわれるので先制攻撃の誘惑も大きい
・国際コミュニティへの協力は国民の独立と独自の伝統を損なうというポピュリストの主張
・幸いにこの二者択一は根本の前提が間違っている
・国民を大切にするためには外国人と協力する必要があるから(新型コロナの例)
・グローバリズムの第1の原則はいくつかのグローバルな原則に従うこと
(サッカーワールドカップでは同じルールへの合意がないと試合ができない)
・グローバリズムの第2の原則は(ときには)一部の人の短期的な利益よりも全人類の長期的な
利益を優先させる必要があること
(ワールドカップでの薬物使用はいずれ生化学者の競争になる可能性があることを誰もが
認識しているので使用しないことに合意している)
・テクノロジーの他の分野でも国家の利益とグローバルな利益のバランスをとるべき
・(ときには)自立型兵器や世論操作アルゴリズムといった危険なテクノロジーの開発と導入を
(純粋な利他主義からではなく自己保存のために)制限することに合意すべき
・違法AIは違法原子炉より隠しやすく、AIは核爆弾より民生用途が多いので規制は困難?
・ポピュリストはジャングルの弱肉強食、マルクス主義者は人間の権力志向を主張するが、
実際のジャングルはあらゆる生物の共生と協力と利他主義で成り立っており、石器時代の人類は
狩猟者であるとともに採集者であり、組織的な戦争の証拠は僅か13000年前に過ぎない
・長期的な人類史で見えるパターンは争いではなく協力の規模の拡大
・国家予算に占める軍事費の割合
・1065年の宋王朝では83%、ローマ帝国は50～75%、17世紀後半のオスマン帝国では約60%、
1685～1813のイギリス政府の平均支出は75%、フランス、プロイセンもほぼ同様・・・
第一次世界大戦ではアメリカの47％からドイツの91％まで、第二次世界大戦ではイギリス69％、
アメリカ71％、1970年代の緊張緩和デタント時期でもソ連は32.5%だった
・21世紀のはじめには各国平均で7％になり、軍事大国アメリカでさえ13%前後で推移した
・戦争の減少は神の奇跡や自然法則の変化によるものではなく人間の選択なので逆転可能
・2020年代はじめから軍事予算は増加しており一線を越えたのが2022年のウクライナ侵攻
・残された選択肢は捕食者か被食者のどちらかで、たいていの指導者は捕食者を選ぶだろう
・だがAI時代の最上位の捕食者はAIになる可能性が高いことを肝に銘じるべき
(・・・といった道筋で展開していくのだが、)
⇒過去と現在と未来を探る前に、一見単純な疑問から始める必要がある
⇒情報とは、いったい何なのか?
と、プロローグから第1章「情報とは何か?」の冒頭に続くわけで・・・(以下略)
(追記です)
AIについては2021年(ウクライナ侵攻前)の出版物ですが、こちらの本も参考になりました
