「悪データ」と魅力的な性悪説の世界
『みんなで機械学習』第55回

Tweet

Pocket

◆ツイン・ピークス

米国の映画監督デイヴィッド・リンチ（1948～2025年）の訃報を読んで、代表作として紹介されていた1990年からのテレビドラマ「ツイン・ピークス」を見てみた。リンチ監督の「エレファント・マン」は記憶に残る映画だった。しかし、「ツイン・ピークス」の、1950年代の＜古き良き時代のアメリカ＞を舞台とするテレビドラマ、という解説には違和感があった。

「ツイン・ピークス」は、全てがアナログな舞台設定だった。カナダ国境の田舎町における、一見善良そうな人びとの生活の裏側では、セックス・麻薬・犯罪が蔓延（まんえん）する、アメリカ社会の＜異質性＞が描かれていた。現在のトランプ大統領が出演していても、全く違和感がない＜古き良き時代のアメリカ＞だ。今日と決定的に異なるのは、スマホやインターネットなどのデジタル通信機器が全くないこと、テレビや新聞などの古典的ジャーナリズムが物語に関与しないこと、外部社会とのつながりは、連邦捜査局（FBI）と国際犯罪組織だけで、コカ・コーラなどのグローバル企業の商品や宣伝すらないこと、魔術的な暗黒社会があることぐらいだろう。

今日とあまり変わらないのは、保険会社のモラルハザードと、米国らしい大きな自家用車とトラックぐらいだろうか。日本には、横溝正史の「八つ墓村」という物語がある。日本の寒村と、米国北部の田舎町では、それぞれの社会における異なる＜異質性＞がある。しかし、犯罪における＜謎＞と、暗い夜の闇（やみ）には、昼の社会ではとらえきれない、根源的な類似性があった。LEDの明るすぎる街灯と、監視カメラが設置された都会には、もはや＜異質性＞も根源的な類似性もない。

◆歴史がない現代の覇権国家

本論考では、機械学習やAI（人工知能）技術の限界とその突破口を、17世紀オランダの哲学者で、異星人のようなバールーフ・デ・スピノザ（1632～77年）が、封印した未来から読み取ろうとしている。現在のAI技術には、米国と中国の覇権争いにより、大型の投資が続いている。しかし、AI技術の安全性（人類の未来へのリスク）は、古典的な法律や倫理指針の議論が、技術を後追いしているだけだ。人類の未来へのリスクは、先回りして、予測適応型の逃げ道を探索することで、リスク自体を無効化する作戦が有効だ。単純に言えば、恐竜たちと遊ばないことだ。リスク自体を無効化すること、すなわち、恐竜は自滅する。

「ツイン・ピークス」を見ていて、＜古き良き時代のアメリカ＞がデジタル技術によって加速すれば、本当に人類は絶滅するだろうと思われた。米国にはブレーキ役の＜歴史＞がないのだ。＜古き良き植民地時代のアメリカ＞はありえないし、アヘン戦争時代の＜古き良き植民地時代の中国＞もありえない。ローマ帝国や大英帝国などには、少なくともブレーキ役となる歴史があった。しかし、米国や中国は、脱植民地化した覇権国家となって、過去の歴史を封印したために、おそらく、未来への展望も失った。＜古き良き人類の歴史＞など無かったかもしれないけれども、先史時代においても、語り継がれた物語がブレーキ役となっていたのだろう。現在の米国や中国にも、先史時代にもつながる、魔術的な暗黒社会があるとすれば、AI技術の源流を、近代合理主義哲学ではなく、少なくとも、中世と植民地における人びとの生活にまで遡（さかのぼ）って考える必要がありそうだ。

◆黒人理性批判

帝国主義や侵略戦争の政治的な議論ではなく、中世と植民地における人びとの生活にまで遡って考えた哲学として、アシル・ムベンベの『黒人理性批判』（講談社選書メチエ815、2024年）は刺激的な出発点となるだろう。アシル・ムベンベはカメルーン出身の哲学者で、ミッシェル・フーコーやジル・ドゥルーズなどの現代フランス哲学に精通している。必ずしも読みやすい文体ではないとしても、「世界が黒人になる」というメッセージは鮮烈だ。

あまり歴史が得意ではない筆者としては、『黒人理性批判』という哲学書を読んでいても、奴隷の生活や、植民地での生活のイメージが湧いてこない。家族以外の集団活動を禁止され、自らの国家を失い、他国の支配下で生きるという政治的な理解が、生活の中でどのような哲学的な意味を持つのか/持たないのか、確認してみたい。図書館で、米国の植民地時代の歴史書を読んでから、この『黒人理性批判』を再読することにしよう。

「ツイン・ピークス」には、少数の先住民が白人と共に生活している。黒人は、ほとんど登場しない。＜古き良き時代のアメリカ＞では、黒人は隠ぺいされている。筆者としては、最近のハリウッド映画のように、無理やり黒人のヒーローを登場させる、安価なデジタル技術で作った、サイエンスがないSF作品には幻滅している。黒人がいない＜古き良き時代のアメリカ＞で、暗闇を影の主人公とする、クラッシックカーのように高価なアナログで、＜謎＞とともにあるリンチの世界は、パラドックスかもしれないけれども、少なくとも欺瞞（ぎまん）的ではない。欺瞞的な物語は、パラドックスを隠ぺいした合理主義のようなもので、娯楽ではあっても、哲学ではない。

◆ジミー・ヘンドリックス「星条旗よ永遠なれ」

筆者の音楽趣味は偏向していて、英国であればカルチャークラブ、米国ならジミー・ヘンドリックスだ。ドイツのカールハインツ・シュトックハウゼン、米国のジョン・ケージ、日本では武満徹などの現代音楽もよく聞いた。ジミー・カーター米国元大統領の国葬で、ジョン・レノンのイマジン（https://digitalcast.jp/v/28292/ ）が流れたという記事を読んだ。ドナルド・トランプ米国大統領の国葬であれば、ジミー・ヘンドリックスの「星条旗よ永遠なれ」（https://www.dailymotion.com/video/x55f9qz）がふさわしいと思った。ジョン・レノンは銃殺され、オノ・ヨーコは認知症になった。ジミー・ヘンドリックスは麻薬で死んだ。＜古き良きアメリカ＞に、すでに明日はない。

スピノザの「エチカ」は、近代の合理主義哲学で、デイヴィッド・リンチの「ツイン・ピークス」は、現代の＜謎＞であるため、直接の経路はない。しかし、スピノザの「エチカ」は、近代の＜謎＞でもある。「ツイン・ピークス」の＜謎＞は、犯人捜しで解決するはずがなく、「ツイン・ピークス」の町の地図が不明であること、森には地図すらないことで、＜謎＞が＜謎＞を作る仕組みがある。「エチカ」の＜謎＞も、記述された合理的世界にパラドックスがあり、そのパラドックスは、記述された世界の外からの合理性によってしか解決できないという意味で、＜謎＞が＜謎＞を作る仕組みがある。

本論考は、「ツイン・ピークス」のように、いつまでも続く＜謎＞の物語にはしたくない。近未来のデータ文明における「データエチカ」の結論から始めよう。人びとのエチカ（倫理）は、人びとの＜群れ＞の＜形＞であって、＜形＞が乱れている程度の問題だと考える。

＜群れ＞の＜形＞は、＜群れ＞が移動する＜形＞として歴史の中に現れ、（１）連鎖反応で爆発する＜形＞、（２）連鎖反応で渋滞する＜形＞、（３）規則によって整列する＜形＞、（４）空を飛ぶ自由な＜形＞、それぞれの＜形＞の組み合わせと、それぞれの＜形＞が乱れている程度であると仮定する。すなわち、「スモール ランダム パターンズ アー ビューティフル」という、データ論の結論に「データエチカ」が接続される。人びとの集団の倫理は、群れの境界において動的に変化する形であるため、人びと自身によって理解することは困難だ。個人の倫理は、神すなわち自然の視点から、「エチカ」に記述された。人びとの集団の倫理は、「データエチカ」として、デジタルな世界で、データによって「みんなで機械学習」することになる。

◆エチカが封印した未来

スピノザの主著「エチカ」は、「神すなわち自然」という哲学的テーゼに貫かれている。「エチカ」は、神の定義から始まるとても難解な哲学的記述だ。「エチカ」を結語から逆に読めば、社会の中の個人としての理性的な生き方としては、中世から近代へと、時代の変革を前向きに受け止める、柔らかい感じの行動指針でもある。しかし、スピノザが書かなかったエチカ、おそらく意識的に封印したエチカは、民主主義と自由主義の相剋（そうこく、trade-off）を、ある程度見ぬいていたはずだ。「エチカ」に従って生きることは、個人の充足した人生かもしれないけれども、人びとの未来は、必ずしも「エチカ」のようにはならないということだ。「エチカ」が目指したことは、中世の教会権力から、スピノザ自身も含めて、人びとを解放することだった。「エチカ」は発禁本となったけれども、教会権力は衰退し、それでも「エチカ」の影響力は残ったので、「エチカ」は成功したのだろう。しかし、国家権力は近代になってより強大になり、戦争における残虐行為は、ガス室に積み上げられた死体の山、核爆弾で灰化した死体の影、市民への無差別大量殺戮（さつりく）へとエスカレートした。人びとの残虐行為に限界を作るのであれば、「エチカ」が役立たないことは自明で、集団の組織的な行為においては、「神」ではなく、「データ」の出番になる。

筆者自身のデータ論の立場から、スピノザの哲学的テーゼを、「神すなわち人間にとっての自然」と解釈して、「データエチカ」では、「データすなわちコンピューターにとっての自然」と無理やり読み替えてみる。現代社会におけるデータサイエンス・機械学習・AI技術の倫理的問題を、17世紀のエチカに接続して、哲学の問題として思考実験する試みだ。「データエチカ」の結論は直前のパラグラフにまとめたので、「データエチカ」の方法についてもまとめておこう。

「データエチカ」は「エチカ」を機械学習して、神に帰属する属性を、属性間の関係へと読み替えて、複数化する。目指していることは、複数化した属性間の関係を、属性に逆写像して、属性における所与（データ）の形を発見することだ。人びとの知能を超えたAI技術を使って、「みんなで機械学習」すれば、現在の政治経済の支配者たちなど、「ツイン・ピークス」の道化役でしかなくなる。

◆データの形は動的な周辺の形

もう少し、「データエチカ」の舞台装置を、具体的に素描してみようしてみよう。「データ」を集合のようなものと想定すれば、ある属性（論理的な述語）によって定義されるデータ（所与の集合）には、全くデータが無い状態（ゼロ集合）や、無限の状態（無限個の属性や無限個の所与）もありうることを認めることになる。おそらく、通常のデータサイエンスでは、有限集合で十分なのだけれども、個人や個体のデータの場合は、不特定多数の属性や、複雑な誤差構造を想定することで、単純なモノの集合のようには理解はできなくなる。社会や組織のデータの場合は、それらを構成する個人が、社会や組織のデータに影響を与えうるので、単純に個人のデータの集合とはいいがたくなる。すなわち、「データすなわちコンピューターにとっての自然」は、「神すなわち人間にとっての自然」を、動的に複数化した、社会や組織のエチカとなるだろう。歴史の中に動的に現れる、社会や組織の「データ」の＜形＞が「データエチカ」の舞台装置だ。

機械学習やAI技術では、大量の「データ」を必要としている。大量の「データ」があれば、中心極限定理（※参考：https://ja.wikipedia.org/wiki/中心極限定理）によって、「データ」の＜形＞は正規分布に近づくというのが、モノの測定における経験的事実であり、統計学の理論的基盤になっている。政治経済的な価値がある「データ」の、機械学習やAI技術において、中心極限定理が前提とする大量の「データ」を収集することは現実的ではない。

それでも大量の「データ」が必要だという場合、大多数の人びとの「データ」や、例えば遺伝子などの、網羅的な「データ」を必要としているという意味で、個体差があるデータの場合であって、大量の「データ」によって、個体差をある程度評価できるということが前提条件になっている。最近の生成AIにおいては、大量の言語データがあれば、人びとの「言語能力」を超えることが実証された。生成AIは大量の言語データを、重層化した行列の世界に詰め込むけれども、その言語データの＜形＞は誰も知らない。間違いなく、正規分布はしていない。

現在、最も急速に増加していて、政治経済的な価値があるデータは、戦場でのドローンのデータだ。ウクライナでは、実戦での戦闘画像が、大量にデータベース化されている。これらの実践データによって、確実に、戦闘用ドローンの殺傷能力と破壊能力が向上している（※参考1、参考2）。

「悪貨は良貨を駆逐する」という「グレシャムの法則」がある。現代では、悪貨によって「悪データ」を大量に購入し、良貨が作り出す「良データ」を駆逐している。個人の健康データなどの「良データ」は、大量には存在していないし、良貨でも購入が困難だ。「悪データ」が大量生産され、「良データ」を駆逐するとすれば、未来の機械学習やAI技術の自然環境は、現実の地球環境よりも、急速に悪化するかもしれない。おそらく最も有効な対抗手段は、「良データ」を大量生産して、悪貨では購入できないようにすることだろう。悪貨で購入できない「良データ」としては、個人が特定された健康データや、特定の地域の人びとの生活データなどが考えられる。これらの「良データ」は、使用目的を明確にしてからの、1対1交換の原則から流通が始まるので、匿名化された悪貨では購入できない。

資本主義世界の大富豪の経済格差が、たとえ100万倍であったとしても、一人の個人と100億人の「データ」格差と比較すれば、経済力だけで爆発的に増加する「データ」を独占できないことは、計算するまでもない。たとえ、覇権国家の軍事力を加えても、一時的に破壊はできても、「データ」が作る全エネルギーは独占できない。自然法則によって、利用できるエネルギーは、温度に比例するランダムなエントロピーのエネルギーを差し引いた、自由エネルギーだけだ。自由エネルギーも温度も、人びとのものであって、少数の独裁者が作り出すことはできない。古典的な力の世界、「ツイン・ピークス」の暗黒社会は、恐怖と破壊の世界であって、いつかは無力になるものだ。

◆魅力的な性悪説の世界

哲学の文脈では難解になるけれども、社会や組織は、宗教や政治（神、概念、属性など）ではなく、「データ」で議論しようという単純な提案だ。社会や組織（以下、集団という）のデータを、データの形（TDA; toporogical data analysis）として理解しようとする試みが、「データエチカ」の冒険だ。スピノザの「エチカ」は、個人（唯一で無限な神と、内面的な関係がある特定の個人）のエチカが出発点なので、君主政治や貴族政治は理解できても、不特定多数の民主政治には行きつかない。スピノザは、個人的にも、暴徒化する群衆を直視することができなかったし、暴徒の仲間になったこともない。

「データエチカ」では、民主的なデータ、データの民主化について考えて、その限界を批判的に検討する。すなわち、筆者としては、民主的なデータ、データの民主化という欺瞞的な考え方自体に批判的だ。来るべきデータ文明のありかたを考えて、「データエチカ」すなわちAI技術と共に生きる集団的活動のエチカが、資本主義や民主主義といった、近代の社会システムにいかに接続するのかという問題提起を行う。

筆者は革命思想家ではないので、歴史が急速に動くときの集団の形にはあまり興味が無い。歴史がどこに向かって動くのかということも、よくわからない。できれば、歴史がゆっくりと動いているときに、渡り鳥の集団の形のような、自然な集団の形を観察していたい。しかし、多分、加速するAI技術と共存・共生・共進化する近未来では、「良データ」のバードウォッチングを楽しんでいる余裕はないだろう。「データエチカ」では、哲学書「エチカ」を機械学習しながら、IT企業や産業国家が出願した機械学習とAI技術の特許を、「悪データ」として、麻薬的な依存性や軍事用途など、性悪説の観点から、機械学習することも試みる。

スピノザが遺した個人の「エチカ」は、性善説のようだけれども、スピノザが封印した集団の「エチカ」は、性悪説だったのかもしれない。デイヴィッド・リンチの「ツイン・ピークス」は、＜古き良き時代のアメリカ＞ではなく、陰謀と犯罪が蔓延する＜魅力的な＞性悪説の世界を考える、素晴らしい題材だった。

※参考1：https://jp.reuters.com/world/ukraine/MXAXFDH3QFKI7IAOAANGYBDJIE-2024-12-26/

※参考2：https://gendai.media/articles/-/143884?imp=0

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

『みんなで機械学習』は中小企業のビジネスに役立つデータ解析を、みんなと学習します。技術的な内容は、「ニュース屋台村」にはコメントしないでください。「株式会社ふぇの」で、フェノラーニング®を実装する試みを開始しました（yukiharu.yamaguchi$$$phenolearning.com）