とにかくChatGPTについて色々なことを考えてしまう。
自分が対話型人工知能を使って最初にやってみたことは、偏向関連のタスクだった。NotionAIにAmatsuchiのＣＳＳ（プログラム）を読み込ませて「ドキュメント（プログラムの説明書）を書いて」と指示してみたのだ。 Amatsuchiが「縦書きWeb」のプログラムと教えていないのに縦書きWebのプログラムだと判断して、ほとんど修正不要なドキュメントを即座に出力したとき本当に驚いた。例えば街に歩いている適当な人に同じことを頼んだら、その人はＣＳＳが読めない可能性が高いだろうし、同じ成果物を作るのにプログラム学習、調査含め平均１週間くらいかかるんでないかと思う。その人が対話型人工知能を利用しなければだが。 しかし、毎日ChatGPTに触れるにつれ、今ではその程度のことでは驚かないようになってしまった。ほんの一ヶ月程度のことだ。ChatGPTは当たり前のように人類に価値を供給している。
色々考えてみたいことはある。例えば人間の存在意義がどうなる、とか、未来の人間の仕事がどうなる、とか。今回はその中の一つ「自己維持型人工知能は出現するか」ということについて、考察してみたいと思う。多分似たような議論がとっくにあるのかもしれないし、まだ自分で先行研究を調べられてはいないのだが、５月号の原稿締め切りも近いし、ただの妄想として自由に書くこととする。時間ができて勉強が進み次第、ブラッシュアップした同内容の記事をかければ良いと思っている。
早速内容に入る。
はじめに 自己維持型人工知能とは
｢自己維持型人工知能（Self-sustaining Artificial Intelligence）」という言葉は自作語だ。自分がイメージしているものは簡単には次のようなものだ。
｢一個人の人間のように自分で自分の存在を維持して存在し続ける人工知能」
生物は自分で自分の食糧を見つけ、食べ、生きる。それの人工知能版って出現することはあるのか、ということを考えてみたいのだ。あとで詳しく考えたいが、もしそのような存在が出現し、人間社会と相互作用するようになったら、人間の明確なライバルになるのではないだろうか。あるいは、その存在に法的な「人格」を認める必要が出てくるのではないだろうか。というような感じだ。 自分の知っている既存の人工知能関連の用語で、自分の考えている「自己維持型人工知能」に該当する言葉が存在しない気がしているので自作した。もしもう既にあれば教えて欲しい。自己維持型人工知能が出現するか、という問題を次の４段階に分けて考えてみようと思う。
１ どのような構造を持てばよいか
２ 技術的に成立可能か
３ 誰が作るか
４ 出現後の世界
時間の関係で今月号は「２ 技術的に成立可能か」までを書くこととする。
１ 自己維持型人工知能はどのような構造を持てばよいか
この章では自己維持型人工知能は具体的にどのような構造を持った人工知能か考えていく。まず前章であげた「自己維持型人工知能とは何か」ついてより厳密に定義をしてみたい。
まず、「一個人の人間のように」というのは具体的にはどのようなことか詳しく定義してみる。現代国家の人間一個人には人権があり、天の下に皆平等だ。言い換えると「管理者がいない」ということだ。野性の動物は管理者がいない。自分が考えている「自己維持型人工知能」はそういった面では「野生の人工知能」である。「野生の動物」と異なる点は、「野生の人工知能」は、最初は人間自身が作り出す必要があるという点である。 どこまでがプログラムの「一個人」か、という問題についてもイメージを明確にしておこう。「一個人」が実行プログラムの１プロセスに対応する必要はない、と定義したい。プログラムはしばし複数のプロセスが協調することで意味のある動きをする。「同じ出元」とわかる、実行プログラム群も「一個人」とみなすことにする。「プログラム」は今のところ「生物」にはなり得ないので、この側面では「一個人」はあくまで比喩というわけだ。
次に、「自分の存在を維持して存在し続ける」について考えてみる。「人工知能」はプログラムの実行プロセスであるから、それをkill -9 PID したら死ぬ。（厳密にはＡＩのそのもののプロセスではなく、プログラムのcron であったり、ＡＩプログラムに判別や生成を命令するプロセスであるかもしれないが、いずれにせよ停止可能であることには変わりはないのでここでは細かい話はおいておく。）また、わざわざそのような操作をして停止しなくても、ある一つの（オンプレミス）サーバでそのプログラムが実行されているとしたら、そのサーバに塩水をぶっかければ実行プロセスは「殺せる」だろう。「自分の存在を維持して存在し続ける」とは、そのような「死」を逃れる、あるいは先延ばしするための動作を自律的に行うということだ。
これらを踏まえて自己維持型人工知能の特徴を再度まとめると、次のようになる。
｢管理者を持たない」かつ「自己の実行停止を逃れるための行動を自律的に行う」人工知能の実行プログラムまたは実行プログラム（群）
｢管理者を持たない」、「自己の実行停止を逃れるための行動を自律的に行う」の２つを兼ね備えた人工知能プログラムとはどのようなものになるだろうか。それぞれについて具体的な構造を考えてみよう。
・「管理者を持たない」について
管理者を持たないプログラムは存在し得るだろうか。「特定の」という接頭辞さえをつければそのようなプログラムはすでに数多くこの世の中に存在している。ビットコインをはじめとした公開型の分散型台帳（ブロックチェーン）が一例だ。最近その開発者の人生が映画化されているWinnyも有名だ。 これらのような特定の管理者を持たずにＰ２Ｐと呼ばれる方式で自律的に動くプログラムは「管理者を持たない」人工知能を達成する有力な方法の一つだろう。問題となるのは「特定の」という接頭辞だろう。管理者が多ければ多いほど、それらの管理者個人には実質的に人工知能を支配することが難しくなる。そのような状況では、実質的に管理者がいないとみなせるだろう。現にビットコインの台帳を改竄できる可能性がある個人は今のところ見当たらず、実質的に管理者なしにビットコインの台帳は更新され続けている。
しかし、このような形を取らずとも管理者がいないプログラムは存在し得るだろう。ビットコインやスマートコントラクト用の分散型台帳は「通貨」や「契約書」として使えなければならないため、道具としての価値を保つために透明性・合法性のある仕組みを持つことが必要だ。しかし「自己維持型人工知能」は必ずしもそのような透明性を持つ必要がない。所有者が気付かぬ間に、つけっぱなしのパソコンでプログラムを実行するような形を取ることも、特にその存在意義と矛盾しない可能性がある。いわゆるコンピュータ・ウイルスの形である。このような形でコンピュータの所有者の意図に従わずにプログラムが実行されているという意味で、「管理者を持たない」人工知能は存在しうるだろう。
以上から少なくとも「管理者が無数に多いため実質的な管理者がいない」または「管理者が全く存在しない」状況下で「管理者を持たない」人工知能は存在しうると言える。
・「自己の実行停止を逃れるための行動を自律的に行う」について
動物は食料を入手し食べることで生命を維持する。では人工知能が自身を維持するために必要なものは何だろうか。食料に対応するのは電気だろう。動物が生きるのには食料だけでは不十分で、すみかも必要だ。人工知能のすみか（肉体？）はコンピュータのマシンだろう。人工知能がこれらを何らかの方法で持続的に手に入れることができれば「自分の存在を維持して存在し続ける人工知能」は達成しうると言える。では人工知能がマシンや電気を手に入れるためにはどうすれば良いだろうか。方法は大きく２つあると思う。
１つ目は他のコンピュータからリソース（電気とコンピュータ）を手っ取り早く奪う方法だ。先ほど述べた「管理者を持たない」実現方法の２つ目の例、コンピュータ・ウイルスのような形で存在すれば自動的に達成しうる。所有者に気づかれない限りは実行し続けられるが、気づかれれば停止される可能性がある。「自己の実行停止を逃れるための行動」としてコンピュータ・ウイルスのようにそのマシンを踏み台にして新しいマシンへと自分のコピーを作れば良い。（気づかれて停止させられる速度）≦（自己を複製する速度）が保たれている限りこのプログラムは世界のどこかで実行され続けるだろう。このプログラムは、（自己を複製する速度）− （気づかれて停止させられる速度）の値を大きくすることを学習のＱ値 として持てば良い。ここまで考えると、人工知能を利用して強化されたコンピュータウイルス、といった方が実態に近いかもしれない。こちらの人工知能を「盗賊型」と名付けることにする。
２つ目は人間社会に寄生する方法だ。そもそもＡＩは人間の道具であり、何よりも人間に役立つように育てられてきた。そのため人間に価値を提供するのが得意だ。「盗賊型」は〈…→リソース（電気・コンピュータ）の略奪→リソースの使用→リソースの略奪…〉というサイクルを回すことで自己維持を行うが、「金銭」を媒体とすればもっと健全なサイクルを回せるはずだ。このような場合、〈…→価値の提供・金銭の取得→金銭のリソースへの交換→価値の提供・金銭の取得→…〉といったようなサイクルとなるだろう。このサイクルは現代社会の多くの人間が自己維持のために回しているものと同じと言えるだろう。このタイプを「ビジネスマン型」と名付けよう。
資本主義社会には自身は特に価値を提供していないが金銭を得ることができる人間がいる。「投資家」だ。金融相場は人間の手によって日々動いているが、その予測には多大な経験を要する。人工知能は過去の膨大なデータを学習することでその経験を容易に手に入れられるかもしれない。サイクルは〈…→金融市場での取引による金銭の取得→一部金銭のリソースへの交換→金融市場での取引による金銭の取得→…〉のようになるだろう。このような人工知能を「投資家型」と呼ぶことにしよう。
以上のほかに、人工知能が太陽光パネルを日当たりの良い場所に動かす、のように物理的な動きをすることで金銭を介さずに電力を手に入れる方法もあるだろう。〈…→リソース（電気）の生成→リソースの使用（高エネルギーを得られる場所への移動）→リソース（電気）の生成→…〉のようなサイクルで表せるだろう。ただ物理的な動きを伴う場合、機械の耐用年数を超えるには自己修復をする必要がある。自己複製機械（Self-replicating Machine）のように、自己を複製することで集団としてマシンの寿命を伸ばすことができるかもしれない。「遊牧民型」と名づける。
少し妄想チックになってしまったが、自己維持のためのサイクル構造に着目することで、「盗賊型」・「ビジネスマン型」・「投資家型」・「遊牧民型」の少なくとも４種類「自己の実行停止を逃れるための行動を自律的に行う」人工知能の実現方式が考えられるだろう。
２ 自己維持型人工知能は技術的に成立可能か
この章では前章で挙げた「管理者を持たない人工知能」、「自己の実行停止を逃れるための行動を自律的に行う人工知能」の構造を実現する上での技術的背景を確認していきたい。全パターンを考える時間はないので、それぞれもっとも興味深いパターンについて記載しようと思う。
・ 「管理者を持たない人工知能」実現のための技術的背景
管理者を持たない人工知能について、「管理者が無数に多いため実質的な管理者がいない」方式について、より深く考えてみたい。こちらの方式のほうが「管理者が全くいない」方式よりも安定的で、規模が増大していく可能性が大きいと考えている。
前章でも触れたが、ビットコインなどの（パブリックな）分散型台帳技術を利用した組織が有力な形態として挙げられるだろう。このようなプログラムを使用することで成立する組織はＤＡＯ（Decentralized Autonomous Organization：分散型自律組織）と呼ばれる。試しに「AI DAO」で調べてみたところ、数多くの記事がヒットした。人工知能のＤＡＯ化はすでに多くの人が実行を検討しているようだ。
といっても実感が湧かないだろうから、もっと具体的にどうなるのか、というのを考えてみよう。まず、ＤＡＯによって共有しようとするＡＩのシステム群の所有権を価値の裏付けとする仮想通貨を作る。法的通貨は各国の中央銀行の信用を裏付けとしており、ビットコインはブロックチェーンの透明性を裏付けとして通貨の価値が成立しているが、このコインは（ブロックチェーンの透明性）＋（共有されるＡＩの稼ぐ力）を裏付けとして価値が決まるわけだ。この通貨の所有者には（ＡＩが稼いだお金）−（ＡＩ維持のための経費・販管費）−（ＡＩ安定維持のための内部留保）＝（ＡＩの営業利益）が分割して配当として支払われる。非常に株式証券 と似た性格を持つことになるだろうし、ＡＩの会計は企業法人と似たような仕組みとなるだろう。人工知能が（おそらく原因はライバルに敗れて）十分な売上を出せなくなり、自己を維持する資金がつきたとき、このＤＡＯは解散となるだろう。
少し話は逸れるが、本当にこのような種類の仮想通貨が世に出てきたとき、ＳＥＣ（米国証券取引委員会）はこの仮想通貨を有価証券とみなすだろうか。自分はＳＥＣこの仮想通貨を有価証券とみなさざるを得なくなると考えている。次項で述べたいと考えているがクラウドを利用する場合は人工知能は必ずしも決まった物理的な形態を取る必要はないし、資産としてみなせるかもよく分からないだろう。現状ゲンスラーＳＥＣ委員長は仮想通貨に対して証券とみなすという立場をとっているし、ＳＥＣの無管理が招いた悲劇とも言えるＦＴＸ倒産の二の舞を起こすわけには行かないと考え、このような仮想通貨の取引も米国政府の管理下に置きたいと考えるだろう。また、この人工知能が稼いだお金は人間が稼いだお金のように所得税・法人税を乗せなくていいのか。と考えると、国家はこの人工知能を法人と見なしたくなってくるだろう。この人工知能はどの国の政府に法人税を払えばよいのだろうか。船舶のように人工知能に国籍を与える必要が出てくるのではないか。世界の船の多くがパナマ籍のように、タックス・ヘイブンに人工知能を登録すれば税金が安く済むのではないか…などなど。この辺りは次月号に執筆予定の第４章で深く考察できればと思う。
・「自己の実行停止を逃れるための行動を自律的に行う人工知能」実現のための技術的背景
この章では「ビジネスマン型」を取り上げ、その実現性を考えていきたいと思う。本題に入る前に「人工知能（ＡＩ）」、「強いＡＩ」という言葉の確認を通して、２０２３年現在の人工知能技術の状況について確認しよう。
「ＡＩ」（＝人工知能）
（ここまで本稿で多用した言葉なのに恐縮だが、）「ＡＩ」という言葉は非常に曖昧な言葉で、時代によって定義が変遷している。大きくは人工神経回路（ニューラルネットワーク：Artificial Neural Network）の有用性発見前後で分けられる。
80年代ごろまで「ＡＩ」は当時の論理型コンピュータの延長線上にあると考えられていた。コンピュータのメモリを莫大なサイズにし、この世の全ての問いと答えをそのコンピュータのデータベースに登録しておけば、何を聞いても正しい答えが答えられるはずだ。そのような仕組みこそが「ＡＩ」だと考えられていた（cf. エキスパートシステム）のだが、この世の全ての問いを登録することは限度があるし、複数の問いが絡み合う問題や、曖昧な判断が求められる問いを考えるとメモリがいくらあっても足りない。そもそも人間の脳の仕組みはそうなっていない。
70年代頃から人間の脳のニューロンの仕組みをプログラム化し、人間の認知を再現しようとする試みが始まり、90年代、00年代ごろから実用レベルに達し始める（cf. Deep Learning：深層学習）。そのあたりから人工神経回路の仕組みを有したプログラムが「ＡＩ」と呼ばれるようになり、それまでの「ＡＩ」は単に「スクリプト」や「プログラム」などと呼ばれるようになる。この新しい「ＡＩ」は大きなデータベースを持つわけではなく、人工神経回路の仕組みを有したプログラムのパラメータにデータの特徴だけを保存している。人工神経回路は次のような過程を繰り返すことで「学習」を行う。
１． 学習用のデータをそのプログラムに通す
２．出力された結果に基づいて少しずつパラメータを正解に近づく方向へ変える
データベースではなく人工神経回路自体に記憶を持つとなにが変わるのか。一番大きな点は似たようなデータを以前学習したことがあれば、未知の質問データにそれなりに答えることができることだ。ChatGPTで使用されているTransformerもこの人工神経回路ベースのプログラムとなっている。本稿でもこの「人工神経回路ベース」で「未知の質問データにそれなりに答えることができる」プログラムのことを「ＡＩ」、「人工知能」と呼ぶことにする。
「強いＡＩ」
ご存知ない方もいるかもしれないが、上記で定義した「ＡＩ」はすでに産業界では様々なところで使用されており不可欠な技術となっている。郵便局ではハガキの郵便番号の数字は「ＡＩ」が読んでいるし、スマホを開くときの顔認証なども「ＡＩ」が行なっている。しかしこれらの「ＡＩ」は単体タスクのみ実施できるＡＩである。顔認識のＡＩに「こんにちは」と入力しても、返してくれない。顔認識しかできないのだ。このような単機能にしか使えないＡＩのことを「弱いＡＩ」と呼ぶ。人間はもっと幅広い知識を持ち、様々なテーマについて組み合わせた上で考えることができる。経済的活動において人間をＡＩで置換するにはそのような広範なスキルを組み合わせる必要があるはずだ。そのようなＡＩのことを「強いＡＩ」と呼ぶ。
｢強いＡＩ」についてWikipediaには「何らかの自意識を持つこと」も定義の一つとして記されている。個人的にはそんなことはどうでも良いと思う。人間がＡＩが自意識を持っていると感じたら自意識を持っているのだろうし、感じなければ持っていないのだろう。「自意識を持つこと」の明確な定義をして調べたとしても、他人の意識に入りこんだことのある人などいないのだから、それが僕らの感じる「自意識」かどうか永遠にわからないだろう。「自意識」については主観性が排除できないため本稿では「強いＡＩ」の定義からは外すことにする。
あまり言われていないが、ChatGPTは「強いＡＩ」にかなり近い、あるいは使い方次第では「強いＡＩ」なのでは無いだろうか。ChatGPT初をはじめ大規模言語モデルと呼ばれるＡＩは言葉を生成することに特化したＡＩな訳だが、人間にとって言葉は思考そのものでもである。現在は多くの人が言葉を一番の仕事の道具としているわけで、人間のもっとも大きな側面がＡＩに置換されかけているとも言える。２０２３年、事実的に汎用人工知能、「強いＡＩ」は現実のものになったと言えるだろう。
本題に戻る。前章で「ビジネスマン型」の自己維持型人工知能は次のようなサイクルを回すことで自己を維持すると提起した。
〈…→価値の提供・金銭の取得→金銭のリソースへの交換→価値の提供・金銭の取得→…〉
｢強いＡＩ」は人間の仕事を非常に高いレベルで代替することができる。電気を使って価値を提供する、〈金銭のリソースへの交換→価値の提供・金銭の取得〉という部分は、すでに達成されているといえる。すでにChatGPTは組織や業界に依存しない不特定の人間から対価を受け取れるＡＩとなっている（自分もOpenAI社に課金している１人である）ことがその証拠だろう。
残るは〈価値の提供・金銭の取得→金銭のリソースへの交換〉という部分である。この部分は一つにはクラウドコンピューティング技術によって可能であろう。ChatGPTはMicrosoftのクラウドサービスであるAzureを利用して運用されているように、クラウド技術の発展はＡＩ技術の発展の源泉となっている。あまり馴染みのない人のためにクラウド技術についても軽く説明する。従来、なんらかのWebサービスなどを作るにはサーバ用のパソコンを用意するか、そのようなサーバをレンタルしている業者と契約し利用する必要があった。また、そのネットワーク構成などを設計し、自分でネットワーク構築の機器設置の作業を行うか業者に発注する必要があった。今ではアマゾンのＡＷＳ、MicrosoftのAzure、GoogleのＧＣＰといったクラウドプラットフォームを利用すれば、ＡＰＩを叩くだけで世界中のデータセンターの上で仮想的に構築されたコンピュータを簡単に借りることができる。ネットワークの構築なども一種のプログラムなどを読み込ませることで自動で構築されるような仕組みができており、サーバのパワーや台数が足りなくなった時もＡＰＩ一つを叩くだけで簡単にリソース増強を行うことができるのだ。決済方法などが一つの問題となってくるだろう。昨年（２０２３年）にはＧＣＰで暗号通貨による決済が可能となる旨のプレスが発表されている。特定の暗号通貨ウォレットを人工知能のサーバから操作できるように設定すれば、リソース不足のときには自分の財布から支払って自己のリソースを増強することも可能となるだろう。
まとめると、〈…→価値の提供・金銭の取得→金銭のリソースへの交換→価値の提供・金銭の取得→…〉というサイクルは、現在すでに成熟している技術を組み合わせることで技術的には実現可能であるということだ。
本章では「管理者が無数に多いため実質的な管理者がいない」、「ビジネスマン型」の自己維持型人工知能に絞って技術的な実現方法を考察した。技術的には「現在の生成系ＡＩ技術」、「クラウドコンピューティング技術」などの既存のものを利用することで実現可能である。問題として残るのは技術的ではない点、すなわちそのサイクルを金銭的・法的な観点で、安定的に回すことができるかという点だろう。この点については次章で考えていきたい。
＜来月号に続く＞