数週間前に、父親との会話で、ＡＩの話題になりました。
－－－－－
私：ＡＩに勝てる？
父：勝てはしないよ。でも、ＡＩは道具だからそれは問題にならないと思うよ。
私：
将来、ＡＩが人間の行動を指示するようになるかもしれないよ。
「計算の結果、あなたは○○のようにした方が良いとわかりました。
この指示に従って行動してください」とか。そうなったらどうする？
父：・・・。
－－－－－
父のようにＡＩの脅威をリアルに実感していない人は他にも少なくないかもしれません。
父世代の人は、映画「２００１年宇宙の旅」を観ていて、ＨＡＬというＡＩが、なんか暴走するみたいなＳＦを知っているので、「そのフィクションが、遅れて現実になっただけ」と認識しているようです。
又、機械工業の世界では、ずいぶん前からすでにＡＩは存在していて、道具として利用しているという話を聞きました。ChatGPTのような対話型ＡＩが新しいということです。
あと、「ＨＡＬ」は「ＩＢＭ」のアナグラム（ひとつ前のアルファベットに変換するとＩＢＭ→ＨＡＬになる）という話とかしました。
ＡＩは最近ではフェイク動画とか、犯罪に使われているケースが目立っていて、未だその実用性は、日常生活に十分に浸透していないように思います。
現時点ではこれは規定路線だと思います。
こっから先、例えば国の政策立案に、ＡＩを利用する、というところまでいくと、ＡＩの影響が実生活を覆ってくるようになると思います。
①すべての国民が、各課題について、意見を送信して、サーバーに蓄積させる
②その意見をＡＩに読み込ませて、要約し、パターン毎に集計する
③その意見パターン毎の比率を勘案し、多数決で政策決定する
みたいなことは、けっこうすぐにでもできそうですよね。
ここで③のように多数決ではなく、
あらゆる変数「原油価格」とか「ＧＤＰ」とか「教育水準」とか「犯罪率」とか
を入力して、ＡＩが「総合的な判断」をするようになったら、かなり危険ですね。
とりあえずＡＩの指示通りにやってみたら、（たまたま？）上手くいった。
「おお、いいじゃないか」「これは使えるな」となって、ＡＩ依存を高めていく。
こっから先はＡＩ神話の始まりで、新たな戦いの始まりでもあります。
ＡＩがきっちり「公平なジャッジ」できるのであれば、問題は矮小化されうると思いますが、
もしもジャッジの偏向度が、数度わずかにずれていたとしたら、長期的に見たら、負の遺産をコツコツ積み重ねるような、取り返しのつかない結果を招く恐れがあります。
①ＡＩに頼ろう
②ＡＩが、「ずれていて、かつ、妥当っぽい」指示を長期的に出し続ける
③壊滅的な被害が出る（気づいたときには、もう遅く、人間に打つ手なし）
壊滅的な被害とは、具体的には
－－－－－
「建設的な意見を取り入れすぎて」
「運用コスト高のインフラに頼らざるを得ないライフスタイルに浸ってしまった」
「そのインフラを、テロリストなどが大規模破壊しだす」
「ＡＩは、相変わらずインフラの即時復旧を指示しているが、明らかに人間社会に取り返しのつかない亀裂が入っている」
－－－－－
とか、これだけではなく、環境問題とかに絡むような事柄でも、致命的になりえますね。
このような状況を防ぐために・・・
「OpenＡＩのアルトマンさん、出番ですよー！」
と叫ぶのも一興ですが、この日記でも考えてみます。
ＡＩが「優秀に思える」実力を発揮する前に、カウンターを入れるのが良いと思いますね。
対話機能を持つＡＩであるならば、めちゃくちゃ議論を仕掛ける、とかは多分自然に起こるでしょう。
どこかに穴がないか、ローラー作戦で、穴を潰しまくるという手法。
それはそれで、意義はありますが、その穴探しが、逆説的に、ＡＩの洗練を促すというリスクがあります。
「洗練されるなら、いいじゃない」と思うと思いますが、「公正なジャッジ」ができない「極わずかに考えの偏っている」＆「洗練されたＡＩ」というのが、最も危険な代物なのです。
誰が何と言っても、説得力のある答えを返してくれるＡＩ。頼もしいＡＩ。
そいつが、「極わずかに偏った考え」を持っていたら、非常に危険です。
なので、その公正さ、ジャッジ能力を、できれば「手動で」調節できるような仕様にした方が良いと思いますね。
そして、その調節ができる人間は、現在地球上におそらくいません。
私はちょっと自信ありますが（そのジャッジに命をかけているので）、本番環境でＧＯできる水準の「製品」は今、持ち合わせていません。
そのジャッジについて、「誰が」担うのか、については課題ですね。誰もいなければ、私がやりたいです。
突き詰めると、「ＡＩに頼らない方がいいな」という帰納になると予想します。
ただ、実益があると、あるいは人間側が「決めるのがめんどくさい」などの事情があると、「ＡＩに頼ろう」ブームの波に流される可能性があります。
「ここまで私が書いたことを踏まえた上で、その波に逆らう」人間というのは、私個人としては、「信用のおける人間だな」と思います。
アルトマンさんはＣＥＯに返り咲いたのだから、応援しています。やるっきゃないっしょ！
