国際人権大学院大学（夜間）の実現をめざす大阪府民会議では毎年様々な切り口で人権をテーマにした「プレ講座」を開講している。2022年度のテーマは「マイノリティに対する差別と偏見」。第３講は近畿大学人権問題研究所主任教授の北口末廣さんに「ＡＩ時代の平和と人権　IT革命の進化をふまえて」をテーマに講演していただいた。その様子を報告する。

　

若い企業が絶大な影響力を持つ時代

本日のテーマは「AI（人工知能）時代の平和と人権　〜IT革命の進化を踏まえて」です。まずはAIが社会に与える影響と時代認識を共有しておきたいと思います。

　まず、現在の情報環境に劇的な影響を与えている情報企業等の一端を見てみましょう。YouTubeのユーザーは2020年現在、世界で26億人が視聴し、使用言語数は約80、1日に約70万時間の動画がアップロードされています。現在はさらに増えているでしょう。

　YouTubeを運営しているGoogleの創業は1998年です。創業資金は1700万円でした。2004年に株式公開をしましたが、その時の株式時価総額は4兆2億円でした。それだけ見込みがあるということで、多くの人がGoogleの株を買ったわけです。

　Google、Amazon、Facebook、Apple、Microsoftの5社の頭文字をとってGAFAM（ガーファム)と表現します。この5社の株式時価総額は2022年に1000兆円を超えました。東京証券取引所の一部上場企業は２０２２年３月時点で２１７６社です。この２１７６社とGAFAMの株式時価総額を比べると、圧倒的にGAFAMの方が大きいのです。この5社はいずれも創業50周年未満の若い企業ですが、今や世界的に絶大な影響力を持っています。

金融資本主義から情報デジタル資本主義へ

　歴史的に見ると、産業革命を経て金融資本主義、つまりお金を融通する企業が影響力を持ってきました。しかし現在は情報デジタル資本主義の時代です。資本より知力、創造力、情報力が重要な生産要素であり、デジタル革命の成果を享受できる組織になれるか否かが企業の命運の分かれ目になっています。たとえばGoogleは資本がたくさんあったから成長したのではありません。知力や創造力、情報力で競合他社に勝ったことで今があるのです。

　しかしGoogleもこのまま安泰が約束されているわけではありません。いずれGoogleと同じような会社が出てくるでしょう。もしGoogleが負ければ、相手の傘下に入るか、会社を潰すかの選択を迫られることになります。

　申し上げたいのは、現在は資本ではなく情報が金儲けの手段になっていること、競争力を維持するには常に革新の最先端を走る必要があることです。さらに、情報デジタル資本主義では、勝者の総取り的状況になる可能が大きいこともポイントです。

戦争における最大の武器も「情報」

　現在、世界的に大きな問題となっているのがロシアによるウクライナ侵攻です。第二次世界大戦後、国連体制の元で核を使わず、大きな世界戦争に至らずにきました。しかし今、キューバ危機以降もっとも第三次世界大戦に近づいていると言ってもいい状況です。

　今、戦争における最大の武器は「情報」です。AIの進化によって、戦争の形は大きく変わりつつあります。たとえばAIを搭載した多様な自律型致死兵器（ロボット型致死兵器）です。編隊飛行のジェット戦闘機に搭乗員がいない、実戦配備された連合艦隊の艦船には少数の海軍兵士のみなど、ロボット兵器は戦争の様相を大きく変えようとしています。戦争の勝敗はAI 兵器の性能によって決まる時代になってきました。

　戦争といえども人道的に許されない一線はあります。そこで「人間の判断を介さずに攻撃対象を決めてよいか」という新たな命題も出てきます。ロボット型致死兵器は、アメリカの作家、生化学者であるアイザック・アシモフが提唱したロボット工学三原則のひとつ、「ロボットは人間を殺傷してはならない」にも反します。

　兵器を使わずとも戦争ができる時代でもあります。これまでは核兵器が戦争の抑止力になるとされ、各国が核兵器の開発に力を入れ、誇示してきました。しかし核兵器は高価で複雑です。サイバー攻撃手段は安価で、高度な技術は不要です。弱小国やテロ集団でもサイバー攻撃大国になれるわけです。今後はサイバー攻撃の技術が急激に拡散することが予想されますが、それらを防ぐ手段や法的枠組みはありません。

AIの進化は人権分野にも重大な影響を与える

　AIの進化が与える影響は戦争にとどまりません。経済や教育、政治、世論、など多岐に渡ります。そして人権に重大な影響を与えています。

　現在起こっている人権侵害事件の圧倒的多数はサイバー上で発生しています。その一例が半世紀前に発覚した『部落地名総鑑』です。発覚当時は秘密裏にやりとりされていましたが、今やネット上でいつでも誰でも閲覧できるようになりました。いわば「デジタル差別身元調査」が非常に手軽になり、部落差別問題に重大な悪影響を与えています。デジタル時代においては、「情報」が強力な人権攻撃手段になるのです。

　もちろん、悪いことばかりではありません。デジタル時代だからこそ、差別撤廃運動を取り巻く環境を根本的に変化させることも可能です。ある人がどんなキーワード検索をし、どんなサイトをよく見ているか。こうした情報はネットを通じて集積され、ビッグデータとなります。人権分野でもビッグデータとAI分析を活用すれば、特定の人の心に響くような内容の文章や動画を届けることもできます。ターゲット広告と呼ばれるこうした手法は、商業的には既におこなわれています。その人が仮に自殺を考えているならば、思いとどまらせるような情報を送ることもできます。

　先に紹介した「デジタル差別身元調査」のように人権侵害をするようなAIになるのか、個々人の意識に応じた人権情報を提供するようなAIになるのかが重要な鍵になります。

AIはどんなビッグデータをもとに学習するのか

　ここで大きな課題となるのが、デジタル時代のプライバシー保護や個人情報保護です。デジタル時代においてビッグデータの利活用は必須ですが、それは常にプライバシーや個人情報の侵害とのせめぎ合いになるでしょう。財務監査や業務監査のような人権監査ー人権デュー・ディリジェンスが求められています。

　また、AIが学ぶビッグデータには、アンコンシャス・バイアス（無意識の偏見）が含まれていることも忘れてはなりません。AIコミュニケーションロボットは、多くの人びとの会話からも学んでいます。そのAIロボットが人間に対して差別発言や人権侵害発言をした時、私たちはどう対応するのでしょうか。そうしたことも考える必要があります。つまり、AI研究とともに、倫理的（Ethical）・法的（Legal）・社会的（Social）・問題（Issues）研究が重要になっています。英語の頭文字を取って「ELSI」（エルシー）と呼ばれています。 　AIが「戦争や差別」の手段となるのか、「平和と人権」の手段となるのか。その岐路に立っている今、国際的・国内的システムの再構築が最重要課題になっています。

情報デジタル資本主義のメリットとリスクを念頭に

　冒頭で、金融資本主義から情報デジタル資本主義へと移り変わってきたと申し上げました。情報デジタル資本主義は、資本が乏しい国や組織にも「勝つ」チャンスがあります。情報デジタル資本主義は、資本より知力・創造力・情報力が重要な生産要素です。資本の格差を一気に縮める可能性がありますが、一方で社会的緊張と対立が悪化し、より不安定な世界になる可能性もあります。それはつまり、戦争を誘発するリスクが大きくなることを意味します。

　第4次産業革命とも言える情報デジタル資本主義は、高収入の認知的・創造的職業を生み出す一方で、低収入の単純労働や中所得の機械的・反復的職業は減少します。労働市場の二極化が社会的緊張を高めることも十分にも予想されます。

　戦争は非日常ではなく、日常の不満や不安から火種が生まれます。私たちはすでにデジタル資本主義に事実上、組み込まれています。便利さを享受するだけでなく、その仕組みとリスクを念頭に置きながら、AIを平和と人権のために生かす社会づくりにともに取り組む必要があります。