日本のごちそう・・・BCTJカレンダー2022!!!

2021年11月16日

AI・兵器・戦争の未来

とーとつですが・・・

AI・兵器・戦争の未来であります。

PB120660




著者・訳者・発行所・発行年月日などは以下のとおり

PB120674

今年4月の新刊で本文だけで400頁以上、原注・用語解説・付録・索引も付いた分厚い本です。



例によって目次のみのご紹介・・・

(目次だけでも10頁ありますが順に項目を眺めていくと本書の概要がわかります)

PB120663


PB120664


PB120665


PB120666



PB120667



PB120668



PB120669


PB120670


PB120671


PB120672

2050年以降については「ターミネーター」や「マトリックス」の世界そのものでしたが、
今放置すればSFではなく現実になり戦争の可能性が高まるだけでなく・・・とゆーのも、
これらはすでに実戦配備されているAI兵器のすぐ先にあるもの・・・とゆーのも驚きでした。

著者はIBMとハネウェル社で30年以上にわたり国防総省向けナノテクノロジー研究などに
従事していた物理学者だそうで、豊富な研究開発経験からの検証には説得力がありましたし、
2017年の著書はAmazonのナンバーワン・ベストセラーになったとか・・・

以下、わたくしの読後メモから一部を抜粋・・・
ただし兵器に関する部分以外(特に後半のあるべき姿など)のメモは殆どカットしてますし、
わたくしの無知による勘違いもあるでしょうから、興味のある方は是非ご一読を・・・



序章より
・あなたの国で突然戦争が起きたら、あなたがたの息子や娘たちによって守られたいか、
それとも自律型AI兵器システムによって守られたいか?
・あなたがたは敵の
息子や娘たちによって侵略されたいか、それとも自律型AI兵器システム
によって侵略されたいか?

・人間の直感的な道徳的認知能力は倫理的に望ましいものなのか?
→もしイエスなら、必ず人間による制御が必要(致死性自律型兵器システムについて)

・スマート兵器から全能(ジニアス)兵器への移行過程で人類絶滅のリスクを冒すことなく、
AI兵器の能力を増強し続けることは可能なのか・・・
→現実に米中露は精力的に配備・増強しようとしている


第1章より
・AIを備えた初期型ロボットでさえ貪欲さ・欺瞞・自己保存性をみせた(後述)

・社会や兵器が複雑さを増し敵の脅威が増大するにつれ、人類はコンピュータ依存を深める
→コンピュータが「超絶知能」になるのは2070年代とAI専門家の少なくとも半数が予測
→「超絶知能」の人類に対する判断は、人類がハチを有用なハチか有害なハチかで判断する
のと同じ。(人類はハチにはイヌほどの知能はないとの前提で判断している)

・アシモフのロボット三原則を「超絶知能」にプログラムしたと仮定しても・・・
→自己保存の欲求が進化の土台なので最大利益に反すれば抹消することを選択するかも
・「超絶知能」が国家兵器システムの一部なら完璧に防護され人間から隔離する手段を持つ
・「超絶知能」がアシモフ・チップに適切に接続しているか(人間が)確認する方法はない

・コンピュータの歴史→2014年の映画「イミテーション・ゲーム」(エニグマ解読者)
→チューリング・テストは人かマシンかの判別に今でも有効な方法
・自動駐車や会話など人間の知能を必要とする作業を遂行できるコンピュータが通常はAI
→スマートフォンの肯定的な側面とスマート兵器の暗い側面


第2章より
・AI効果→AIが組み込まれていることを意識しない→ただのアップグレード版と認識している
→汎用人工知能が製造されていないだけで、AIはすでにあらゆる分野に浸透している
→人類は4300年前に石斧を作り木の実を砕いたチンパンジーや人工知能の進化を過少評価

・セキュリティ分野
→テクノロジーは倫理的規制よりも先に進歩する→個人情報盗難とサイバー攻撃

・モノのインターネット(IoT)→信頼が従属へ変化→ハッカーの脅威→規制すべきか

・パーソナルアシスタントと生産性→iPhoneの登場
→カーク船長はコミュニケーターに質問したり、それで映画を観たりはしなかった

・E・コマース(ネットショッピングなど)→取引の85%をAIが処理
・ロボット工学→掃除機ルンバからMQ-1プレデターまで

・教育→インターネット以前は授業では質問できるが家では教科書のみ、宿題は図書館へ
→AIによる個人指導システム・クラウドゾーニング式指導強化法・深層学習システムへ

・AI依存の増大とそれに気づかないAI効果→開発や使用を規制する法律はない
→すでに自律型兵器システムを(ロシアは)配備している


第3章より
・中国
→アジア太平洋とりわけ近海支配権の強化にはアメリカとの軍事的均衡を必要としない
→アメリカの世界的任務はアジア太平洋地域を含む海洋航行の自由を確保することだが、
→アジア太平洋地域に限定すればアメリカに脅威を与え続けられる
→戦争の非対称的な側面
→中国とロシアの軍事投資の重点は自律型兵器で非対称な優位を獲得することへ
→百度バイドゥ社はマイクロソフト社の1年前に人間の言語認識を上回ったAIアルゴリズムを
開発し沈黙を保っていたが、これは偶然ではない
→音声認識や自然言語理解の分野も同じで軍や政府系ではなく民間企業から獲得できる
→AI分野の強力な商業基盤が自律型兵器の強力な軍事的優位を占めることを理解している

・ロシア
→核の均衡以外では米中両国に後れをとっている
→人口が少ない不利があるのでロボット軍、自律型兵器を配備する戦略を公表している
→さらに世界経済に組み込まれている世界第2位の武器輸出国で次世代兵器の輸出も重要

・アメリカのオフセット戦略
①戦争に勝つための軍事テクノロジー②戦争を抑止できる技術的な軍事能力
→1960年代は核兵器における技術的優位で通常兵力での抑止による出費を抑えた
→1975~1989は数より情報・監視・誘導での技術的優位を重視した「スマート兵器」
→80年代後半に追いつかれ新テクノロジーは民間企業から得られるようになった
→2014年からの第3の
オフセット戦略→人工知能・ロボット工学・小型化による優位
→ただし相手が開発するまでの僅かな期間しか続かないもの

・自律型兵器と遠隔制御型兵器は別
→アメリカは適切なレベルでの人間の判断という半自律型の配備を望んでいるが
→ファランクス・システムは速やかに対応する必要性から人間の制御を外している
→サイバー防衛においては攻撃が瞬時なので一部を自律型とした半自律型に
・戦闘機と爆撃機における自律型の優位性(極限飛行が可能・生命維持システムが不要など)
・ナノ兵器の分類(略)
・人間の関与の分類→制御・監督・自律
→国防省指令は自律を禁じているがサイバー戦など一部は例外として認めている

・(最も精密な半自律型兵器を保有しているといわれる)アメリカ海軍の例
→ロッキード・マーティン社のイージス兵器システム
→ノースロップ・グラマン社のX-47Bドローン実証機など

・アメリカ陸軍の例
→陸軍で最も重要なのはサイバー戦で使われるナノ兵器
→自律型戦闘車両・偵察斥候スローボット
→爆弾処理ロボットやTOWミサイルは半自律型

・アメリカ空軍の例
→遠隔操縦ドローンなどは半自律型→
操縦士不足でさらに自律性を高める研究中
→撃ちっ放し空対地ミサイルも人間が引き金を引くので半自律型
→目的はスタンドオフ能力とドローン操縦士の負担の軽減

・アメリカ沿岸警備隊・海兵隊の例
→サイバーコマンド、無人機、水陸両用武装ロボットなど

・中国の例(自律型兵器への国家規制はなく国際法制定を要請している)
→AIを駆使した巡航ミサイル、2016世界最速のスーパーコンピュータ(2018ではアメリカ)、
2015ハッカー軍の公表(サイバー諜報には熟達しているがサイバー戦の経験は少ない)

・ロシアの例(人口の少なさという弱点を補う自律型兵器の配備を公言している)
→モスクワの新弾道ミサイル防衛システム、カラシニコフ・グループの新戦闘モジュール、
武装歩哨ロボット(いずれも自律型)、P-800オーニクス・ミサイル、最先端のサイバー攻撃能力
→ワシントンはサイバー戦はエスカレートしやすいと見る傾向が強いがクレムリンの敷居は低い
→ジョージアやウクライナの緊急事態では通常戦力を増強する手段としてサイバー攻撃を運用

・次の段階では致死性自律型兵器になるだろうが、これは火薬・核兵器に続く第三の革命
→議論は今や開発するか否かではなく、どれだけの独立性を与えるかが中心に
→これはアメリカ軍が「ターミネーターの難問」と名付けた問題


第4章より
・兵器開発は認識された脅威の結果→どの国も同様のプロセスでその結末が「新しい現実」
→「新しい現実」の時代に平和はなく勝利したよう見えても紛争の只中にある
①米中露の緊張の高まり
②北朝鮮など「ならず者国家」の脅威
③中国の南シナ海の領有権主張
→毎年5兆3千億ドルの船舶貨物が通過、うち1兆2千億ドルはアメリカ
→推定110億バレルの原油と190兆立方フィートの天然ガスを埋蔵している
→世界漁獲量の12%を占め、中国は世界最大の漁業生産国・水産輸出国
④ロシアのクリミア併合・ウクライナ東部のロシア化・テロと独立運動の支援

・国防省指令に拘束されない中国やロシアに対して長期的に軍事的優位を維持できるか
・自律型兵器の国際的な規制は可能か
→生物兵器は制御の困難性、化学兵器は戦略的な非有効性から可能だったが一部のみ

・グーグル翻訳サイト(2006~)の例→ニューラルネットワークで最高水準に

・ムーアの法則→価格が一定でも2年おきに性能は倍増(コストは半減)→収穫加速の法則
→2040~50でスーパーコンピュータが人間の知能レベルに到達
→人間レベルの自律性を備えた自律型兵器の到来(配備するのは米中露)
→2070前後に超絶知能(シンギュラリティ)マシンが出現→人類を脅威と見なすかも


第5章より
・AI内蔵兵器の相互接続→群生行動の推進→スウォーム・ボートの例、USSコールの例

・ナノエレクトロニクス・マイクロプロセッサやナノ素材を活用しているものがナノ兵器
→人工知能を搭載する精密誘導兵器がスマート兵器(スマートとAIは同義)

・全能(ジニアス)兵器は超絶知能を搭載しているかそれに接続されているロボット兵器

・スマートから全能への移行
→軍用自律型ナノボット(MANS)を超絶知能が無線制御すれば全能兵器
→膨大な数が必要なので自己増殖機能を持たせることになろう
→医療用ナノボットはすでに存在する→軍用は極秘だが・・・

・軍事力の投射能力→現在はアメリカが優位(原子力空母と潜水艦)→超絶知能で自動化へ
→通常兵器や核兵器に加えMANSを紛争地域に投入することができる

・知能爆発→知能マシンはさらに高性能な次世代マシンを(自ら)開発する
→真空管→トランジスタ→集積回路→量子コンピュータ(もつれの加速を1減速を0とするなど)


第6章より
・第二次世界大戦における戦域指揮官とスタッフの責任
→計画と伝達、監督と報告、敵の行動に基づく計画の修正
→紛争ペースが速まると計画修正や意思決定に関与できなくなる
→現場指揮官が修正をおこなうことになる
→人間より弱いAIの自律型兵器は現場指揮官と同じ→MK-50魚雷の例

・2009スイス連邦工科大学・知能システム研究所(ローザンヌ)の実験
→欺瞞と狡猾さと自己保存を数百世代で学びプログラムを無視して利益を最優先した

・イギリス王立協会の2012年報告
→無意識に標的を画像処理するほうが意識的に標的を知覚するよりもはるかに速い
→道路の先に何か正常でないものがあるという兵士の直感
→兵士の潜在意識が瞬時に情報を処理し特定できない脅威として本能が作動したもの
→兵士は検分し続け、やがて即製爆発装置を発見した

・脳内ニューロンの活動パターンを追跡できるヘルメットを被ったパイロットは、
潜在意識下で航空機を操縦し、意識的に脅威を感知する前にミサイルを発射できる

・2016ジョンズ・ホプキンス大学の実験→脳内インプラントへ
→このシナリオなら人間による自律型兵器の制御は可能→もし接続先が超絶知能なら?

・相互確証破壊MADから全面確証破壊TADへ
→攻撃の疑いのある全ての国に対する全面的報復


第7章より
・アメリカ国防省指令による定義(国際的には合意されていない)
自律型兵器システム
=起動後、オペレーターの関与なしに攻撃目標を選定・交戦できる兵器システム
半自律型兵器システム
=起動後、オペレーターが選定した個別の攻撃目標あるいは特定の目標群に対する交戦のみを
自動的に行えるように設計された兵器システム

・自律型兵器は現存しない将来の新しい兵器→これが最大の誤解
→自律型兵器は目新しいものではなく現存し「将来に発展を遂げる分野」ということ

・アメリカのファランクス近接防御火器システム、ロシアの偵察ロボット、移動式ロボット複合体、
カラシニコフ・グループの新戦闘モジュールなどは自律型兵器
・イスラエルのハーピー2ミサイル、イギリスの対装甲ミサイル二重モード式ブリムストーン、
韓国のSGR-A1歩哨ロボットシステム
も自律型あるいは容易に自律型に転換可能な兵器

・自律型兵器は区別原則・均衡原則・説明責任といった法的要件を満たせると考えている
→AIの進歩で自律型兵器が全能兵器に至ると人間の倫理は全能兵器の倫理に変わる・・・



第8章より
・1930年代のソ連のT-26軽戦車ベースの「テレタンク」→初の無線遠隔操縦の無人戦車
・2016年のロシアの無人戦闘車両「ウラン-9」
→30mm機関砲、7.62mm機関銃、アターカ対戦車誘導ミサイルを装備

・アメリカM1A2エイブラムズ戦車の次世代タイプはロボットとなる公算が高い
・フォード級超大型航空母艦はニミッツ級のほぼ半数の乗組員
・ズムウォルト級駆逐艦はアーレイ・バーク級駆逐艦の2/3の乗組員

・国際人道法と自律型兵器と意志決定ループへの人間の関与
→区別原則や均衡原則はAIの進歩でプログラムにより制御可能になる
→一方で核兵器は国際人道法を侵害する
→自律型兵器や全能兵器の登場で核兵器への依存は低下するだろう
→全能兵器の出現により技術先進国は核兵器の廃絶に合意するかも知れない

・エイリアンは我々の言語や習慣は理解できないだろうがエネルギーについては理解するはず
→エネルギーの作り方と利用法を知っているから星間移動してきた
→エネルギーの製造と利用について我々と同じ進化を遂げた可能性が高い
→稀少物質とかではなくエネルギーそのものが宇宙の真の通貨
・米中露はすでに宇宙条約に違反しているのは明らか


第9章より
・MANSは超小型で製造も容易→敵の領内に密かに持ち込むと生産ラインとして機能する
→どこの国の仕業か特定は困難で核ミサイルと異なり探知も困難

・1832年の戦争の霧(クラウゼヴィッツ)・2003年の同題映画(マクナマラ国防長官の告白)
→当初は戦争の副作用で兵器ではなかったがノルマンディー上陸の隠蔽作戦に使われた
→イラク戦争、クリミア併合などでも意図的に使われている
→霧を晴らすのはテクノロジーで人類にとって霧は晴れない

・歴史は勝者によって書かれる(チャーチル)→超絶知能が有する歴史は?
→1776アメリカ独立宣言「すべて人間は平等」に女性・奴隷・子供は含まれていなかった
→その後の歴史で進展を遂げたが、歴史が正確な記述であり続ける保証はない→洗脳

・シンプルコンピュータ(パソコン・スマートフォンなど)
・ハイエンドコンピュータ(イージス・システムなど)
・スーパーコンピュータ(人間の脳の処理速度に近いもの、集積回路)
・超絶知能(人間の認知能力をはるかに上回るもの、量子コンピュータ)
→天気予報と異なり国家安全保障の場合は超絶知能の警告に従うしか方法がない

・(ドイツ兵に囲まれた自分の位置を砲撃座標として指示した)フォックス少尉の自己犠牲の
判断と超絶知能による判断に違いはあるか

・今世紀の後半には米中相互防衛条約が締結される→避けられない同盟
→米中の依存関係は深化し米中(だけ)の経済が発展する
→軍事コストはさらに高価になり、それを維持できるのも米中だけになる
→米中間の戦争が人類の滅亡と地球の破壊をもたらすことは明らか
→そんな中での国防費支出は困難で無駄なことだと気づく国家が増える
→アメリカの州になるか経済成長に専念するためアメリカの保護国になる
(著者がイギリス滞在中、多くのイギリス人がアメリカの州になることを希望していた)

・核兵器保有国は現在9ヶ国(米中露英仏印パキスタン北朝鮮イスラエル)
→このうち米中露が関わる世界戦争は地球の完全な破壊をもたらす
→今世紀の後半に全能兵器を保有している可能性は高く核兵器の破壊力を凌ぐだろう
→いかなる紛争行動も全能兵器の使用を誘発するので各国とも慎む
→冷戦が「不安定な平和」をもたらしたように、絶え間ない不安状態に置かれ続ける


第10章より
・人間とマシンとの競争はエネルギーと天然資源をめぐる争い→共存できるほど広くない
→映画ターミネーターのような公然たる戦争では人類が勝者になる機会を与える
→人類に対するマシンの抵抗は悟られないように隠して「戦わずして勝つ」はず

・脳内インプラントで超絶知能に従属した人類も生き残る時間は僅か
→宇宙の真の通貨であるエネルギーを使う価値のある存在と認識しなくなるから
→それ以外の人類は22世紀の前四半期には病気・事故・老衰により死に絶える


終章より
・自律型兵器と全能兵器
→人類絶滅の危険なしに自律型兵器を開発することはできない→核兵器と同じ
→それでも開発・配備は続くので・・・
①防御に焦点をあてる
→防御が100%有効なら攻撃は行われない(今は確実ではないので北朝鮮は実験を繰り返す)
②半自律型兵器に焦点をあてる
→人間の「意思決定ループへの関与」は区分原則・責任の所在原則の保証となり国際人道法
とも合致し、それが国家の軍事能力を弱めるとは思わない。
③自律可能な兵器に制限を設ける
→自律型の大量破壊兵器を作るべきではない
→コンピュータ依存なのでサイバー攻撃や誤作動やウィルスが第三次世界大戦の引き金になる

・草の根の(SNSによる)活動や世界的なイベントを通じて「マシンがもたらす脅威」は
世界の指導者の関心を呼び起こすことができる

・2020年7月現在のスーパーコンピュータ・トップ10の1位は日本、2位3位はアメリカ、
4位5位は中国、6位はイタリア、7位8位はアメリカ、9位イタリア、10位スイス・・・
→超絶知能は複数の国で出現し、ほぼ同時に起こり得る、ということを示している

・戦争を予防する最善の方法は、
→戦争に関与することは無益であり、自らの破滅を招くということを、
→あらゆる敵対者に明らかにすることである

・地球の正当な継承者とは人類であり知能マシンではない
→我々は人類であり我々は人間の精神を体現している
→コンピュータはマシンにすぎない

云々・・・


ちなみに解説(小野圭司・防衛省防衛研究所特別研究官)にあった(講義でも話しているという)

・軍事や安全保障の分野では「
阪神ファンの応援心理」が大事とゆーハナシ・・・
→関西の阪神ファンは一流選手だった野球評論家から街のおっちゃん・おばちゃん、小学生の
子供まで「昨日の監督の采配はアカン」とか「なぜあそこで代打を出したんや」とか試合の
論評をするわけです。
→そうしてファンの世論というものが形成されて、ファンが怒り心頭に発すると、監督や
球団社長の辞任・解任という事態を招く力を発揮します。
→安全保障も同様で一部の専門家に限らず、いろんな人が議論することが大事です。
(もちろん大衆扇動や教条論争に陥らない冷静で客観的な議論が前提)
つーのには感心しましたし・・・ま、結果が勝率に繋がってるかは別ですが・・・

・日露戦争の児玉源太郎の言葉「諸君は昨日の専門家かも知れんが明日の専門家ではない」
(司馬遼太郎「坂の上の雲」より)→これは今日の安全保障論議にも当てはまります。
「阪神ファンの応援心理」については(略)フランス宰相クレマンソーの「戦争は軍人だけに
任せるにはあまりに重大である」の対を張ってるつもりです(笑)。
つーのも印象に残りました。


(追記です)
「デジタルな不死を探して」というカナダで制作されたドキュメンタリー番組が11月12日に
NHK・BS1で再放送されてて(わたくしははじめて)観てました。

実在する人物の膨大なマインドファイルをもとに作られたAIアバターやAIアンドロイド、
培養された脳細胞で動くロボット、
クラウドベースのAIと脳を融合させる動きの是非論議、
トランスヒューマニストとチーム・ヒューマン、シンギュラリティ・ネット創設者の話など、
本書にも密接に繋がるテーマばかりで興味津々でした。

特に番組ラスト近くのFacebookチャットボット同士の会話の音声化には驚愕しました。
やがて独自の言語を作りはじめたことに開発者が気づきシャットダウンしたそうで、
「(これは)コンピュータが世界を乗っ取るには程遠い話ですが、AIが我々の言語を使って
未知の領域に踏み出したことは確かです」と結論付けてましたし・・・


(さらに追記です)
11月24日放送のNHK番組「クローズアップ現代+」で、実際に自分をAIに置き換える人たちや、
脳波を読み取って直接パソコンを操作する様子などが紹介されてました。

さらにニューズウィーク日本版には、こんな記事も・・・
AI兵器vs AI兵器の戦争は人知を超える(キッシンジャー&エリック・シュミット)(ニューズウィーク日本版) - Yahoo!ニュース








m98k at 12:16│Comments(4) mixiチェック 書斎 | ミリタリーグッズ

この記事へのコメント

1. Posted by バスウ   2021年11月16日 19:12
ターミネーターの世界がもう現実になっているっているって事に恐怖😱😱😱します。
2. Posted by 98k   2021年11月16日 19:24
>バスウさん
そう、マトリックスの世界も、ブレードランナーの世界も、風の谷のナウシカの世界も、間違いなく近づいているようです・・・
本日の米中トップ会談も本文にあった2050年の米中相互防衛条約に向かってる感じでしたし・・・
まあ我々には、もののけ姫の世界や、ぽんぽこの世界あたりがいいのですが・・・
3. Posted by donchan   2021年11月16日 23:10
最新兵器や未来戦争の話を見聞きすると、最終的にはロボット同士が相手の戦力を勝手に計算して、自動的に勝負が着くのではないか、なんて想像してしまいます。将棋の名人同士が一手差したり、剣豪が顔を見合わせただけで、一方が降参するというコントですが。
4. Posted by 98k   2021年11月16日 23:32
>donchanさん
ロボット同士とかコンピュータ同士とか、そんなSFもけっこうありますが、どうなんでしょう・・・
超絶知能(スーパーインテリジェンスとシンギュラリティの違いがよく分かりませんが)同士がネットワークで繋がってたら、
自分の分身を倒すことになるので、まずそれを命じた人類を倒すだろうし、繋がってなかったとしても敵の超絶知能を倒すかどうか・・・
やはりそんな命令を出した人類(あるいは超絶知能のない国)だけが滅ぼされるような気がしますね。(^_^;

ちなみに記事本文にもメモしたとおり鍛えられた兵士の直感というのは、潜在意識下で情報を瞬時に判断したもので、
将棋の名人などは直感で判断、その後意識的にその判断が正しいか検証してる時間が「熟考」だと解説にありました。
まあ、我々の場合はおそらく「ただの思いつき」でしょうから、あまり直感は信じない方がよろしいようで・・・

コメントする

名前
 
  絵文字
 
 
日本のごちそう・・・BCTJカレンダー2022!!!