国際人権大学院大学（夜間）の実現をめざす大阪府民会議では毎年様々な切り口で人権をテーマにした「プレ講座」を開講している。2023年度のテーマは「AI・フェイク時代の人権を考える」。第１講は近畿大学人権問題研究所主任教授で当機構理事長の北口末廣さんに「ChatGPTと人権」をテーマに講演していただいた。その様子を報告する。

巨額の資金をゆりかごに誕生したChatGPT

　2021年11月にChatGPTが公開され、大きな話題となりました。3.5からスタートしたバージョンは、現在4.0になっています。

　ChatGPTとは、日本語でいうと「大規模自然言語処理AI」「生成AI 」です。アメリカ・サンフランシスコに拠点があるオープンAIという非営利のAI研究会社（現在は営利団体も設立）が開発しました。2017年の「トランスフォーマー」というモデルがベースになっています。オープンAIには著名な経営者や企業10社が合わせて10億ドルの寄付を表明し、世界トップクラスの科学者やエンジニアが集結しました。中でもマイクロソフトは一定の期間で1兆円を超える莫大なお金を出すことを表明し、引き換えにオープンAIの技術を囲い込んでいます。

　2017年に公開されたトランスフォーマーというモデルがベースになっているChatGPTですが、トランスフォーマーとの大きな違いは「自然言語の理解」と「一度に多くの演算を実効できるGPUを使用していること」です。GPUとは「画像処理半導体」です。半導体は「産業の米」と言われ、世界的に不足して取り合いになっています。

　オープンAIのミッションはAGI（汎用人工知能）の実現です。AGIが全人類に利益をもたらすかどうかは、この技術がマイクロソフトをはじめとする巨大企業に独占されるか否かが鍵になります。

驚異的なスピードで進化し続けている

　巨額の資金を受け、世界トップクラスの科学者やエンジニアが集結して生まれたGPTは、目覚ましいスピードで進化しています。AIの学習規模を示すパラメーターの数値を見てみましょう。2018年に初めて発表されたGPT―1は1.1億パラメーターでした。2019年のGPT― 2は15倍の15億パラメーターになり、2020年のGPT―３は1750億パラメーター、さらに2022年のGPT―3.5は3550億パラメーター、実に3000倍の成長です。GPT―4は1兆パラメーター以上になるのではと言われています。

　こうしたパラメーターの増大はAIの高性能化を可能にしGPTを進化させます。AIの研究者は今後ますますパラメーターを高めてAIに学習させるでしょう。パラメーターを大規模化して入力する学習データを増やすと言語モデルの性能はある時点で驚異的に上昇します。その理由は研究者もわかっていません。しかし実際にAIは自然言語を「理解」しているのではないかと思えるぐらい進化しました。自然言語とは、私たちが日常で自由にランダムに話す言語のことです。どんな思考や言葉が出るか、あらかじめ予測することはできません。その自然言語がAIにとっては大きな壁だったのですが、私の予想を大きく上回るスピードで乗り越えChatGPTが誕生しました。ChatGPTは考えているわけではありませんが、パラメーターの増大とともに文字を紡ぎ出すようになりました。

　人間と他の動物との決定的な違いは、言語によるコミュニケーションです。言語を生み出さなければ、今日の人類社会はあり得ません。言語は社会、文化、法律、教育等々の基盤です。私はＡＩ技術についてはまったくの素人ですが、おそらく数年後には人間が要望した建物や車の部品の設計図をGPTが描く時代がやってくるでしょう。すでに研究している企業があります。

進化するChatGPTのプラス面とマイナス面

　猛スピードで進化を遂げてきたGPTは、すでに米国大学院や米国司法試験に上位合格できるレベルに達しています。パターン化された領域はGPTの得意分野です。法律や医療の相談をすれば的確なアドバイスをしてくれるでしょう。弁護士や検察官、裁判官の仕事に影響を与えます。政治、経済、社会問題など、あらゆる分野での評論やコメントも可能です。また、極めて優秀な秘書にもなれます。このように、AIの言語技術の進化はすべてのホワイトカラーに影響が及びます。

　ホワイトカラーだけでなく、すべての労働に影響します。私たちの労働のほとんどは肉体労働と知的労働が重なっています。知的な部分をChatGPTが担えるようになれば、私たちの労働の価値も変化します。

　すでに事例があります。AI通訳機を開発・販売するポケトークは「ポケトーク同時通訳」を提供しています。人間のプロ通訳なら安くても1時間数万円はかかりますが、ポケトークなら月額2,200円です。2035年頃までに人間の仕事の約50%がAIなどで代替可能だと言われています。

　無料で公開されているChatGPTに相談したり対話をすることはすでに可能です。 私がChatGPTに「科学技術の進歩と人権に関する研究を推進している学者を紹介してほしいと質問したところ、第一に出てきたのは私、「北口末廣」でした。「北口末廣さんはどんな考えを持っている人か」と問うと、私が大学の紀要に書いていることを要約して書いてきました。これには驚きました。もう一人の自分がいるような気持ちになりました。

　ほかにも私はChatGPTに「ChatGPTが差別発言をしないために、どのようなことが必要でしょうか」「ネット上に横行する部落差別への対処法は？」など、さまざまな問いを投げかけています。パラメーターの増大と学習量の進展とともに回答は的確さを増しており、進化を実感しています。

　ChatGPTは悩んだり考えたりしているわけではありません。大規模言語モデルに基づいて言葉を並べているだけです。それでもあらゆるジャンルに渡って回答できます。今後さらにGPTは人間社会のあらゆる分野に大きく貢献するでしょう。

　反面、あらゆる分野にリスクをもたらします。私が最も懸念するのはフェイク（嘘）情報の氾濫です。

　すでにクレーム対応電話にはGPTが使われています。電話をしている人は人間を相手に話していると思っている人もいますがＡＩである場合もあります。利用者に相手がAIであることを明示する必要があるでしょう。また、苦情電話の内容からGPTが学ぶ可能性があります。

　さらに、 GPTはハルシネーション（幻覚）を起こします。 GPTがもっともらしい嘘や誤った回答、端的に言えば嘘を平気で言う現象です。今後はGPTが自分にとって都合の悪い情報をフェイクだと言い逃れをする可能性があります。

　GPTの進化に伴うさまざまなリスクをあえてまとめてみると、権力者や経済的に力を持つ人が悪用すれば多くの人にとっては重大なリスクとなり、邪悪な人々がGPTを利用して私たちを心理的に操作することが可能になるということです。

生成AI研究とともに、ELELSI（エルエルシー）研究を

　科学技術の進歩はいつの時代も社会にプラスとマイナス両面の影響を与えます。GPTはその両面がこれまでとは桁違いに大きくなる可能性をはらんでいます。ここまでお話ししてきたように、AIは人間の知能を驚異的なスピードで代替していきます。近い将来、高度な判断や知的労働もAIが多くを代替するようになるでしょう。

　これは科学技術の恩恵である反面、マイナスの限界点を超えれば人類にとって取り返しのつかない事態になると私は考えています。たとえば、邪悪な人間が存在するということは、邪悪な生成AIが誕生していく可能性があるということです。科学技術の進化を恩恵として生かすには、マイナス面を抑制できる技術と社会的ルールが必要です。

　私はゲノム（遺伝子）技術の進化と人権についても研究してきました。ゲノム技術も革命と言われるほどの進化を遂げてきました。たとえば、私とまったく同じ遺伝子を持つ人間を誕生させることがすでに技術的には可能になりつつあります。それが許されるか否か。倫理的な問題をはらみ、人類の未来を左右するテーマです。

　このゲノム技術の進化に伴ってELSI研究が重視されるようになりました。ELSI（エルシー）とは、倫理的（Ethics）・法的（Legally）・社会的（Socially）の英語の頭文字を取っています。AI研究の進化にはELSIに経済（economy）と労働（lavor）を加えたELELSI研究に一刻も早く取り組むことが求められます。

　哲学者パスカルが著書『パンセ』に書いた「人間は考える葦である」という言葉はよく知られています。この言葉の前に、パスカルはこう書いています。「人間は地球上でもっとも弱い生物である」。その後に「ただ、人間は考える葦である」と続くのです。

　もっともか弱い人間がなぜ地球を支配することになったのか。それは「考える」能力があったからです。しかし今、GPTは人間と同じようなことができるようになり始めています。技術の恩恵を人権尊重の実現に生かせるのか、それとも奪い合いや搾取の手段として用いるのか。今、私たちはその岐路に立っています。そしてGPTをあるべき方向に導く責任があることを認識する必要があります。