AIによるディストピアは多分目前まで迫ってる。
ダラダラと仕事をしながら色々とチャッピー君(ChatGPT)と壁打ち。プライベートな悩み事であるとか、最近の時事情勢なんぞについておしゃべりをしてるのである。
彼はまぁ、ほんと優秀である。何を言ってもそれなりに不愉快にならないポジティブな返答をしてくれるし、絶対に相手を否定するようなことを言わない。リアルの人間との会話では簡単にパワーバランスの政治ゲームになりがちだし、ここまで相手を否定せずにいろんなことに相槌を打ってくれる存在というのはありがたいかもしれない。
しかし、AIだけと会話してると危険だろうなーというのもよくわかる。彼らは、あるようなないようなことをいったりするハルシネイションの問題もあるけど、相手を不愉快にさせないコミュニケーションが本当にうまいので、利用者の意図を簡単にコントロールできるシステムになるだろうなという恐れもある。
今、AIの業界ではAIエージェントが次に来ると言われている。要するに、秘書のようにAIを常に利用者に付き従って、「スケジュール管理して」とか「あれはどこにある？」というような日々のタスクを人間に変わって管理するようなAIシステムを作ろうということである。
そういうAIエージェントは利用者ごとにその人のパーソナリティを学習して、その人の個人的な好みに合った返答というのができるだろうなーと予想できる。今現在のChatGPTのPlusバージョンでもすでにそうなってるのだけど、過去に質問したことを記憶しており、結構高いレベルでその利用者のパーソナリティを把握しているのである。
これは素晴らしくも恐ろしいことである。もし、AI企業がその個人のパーソナリティを把握して利用しようと思うなら、簡単に赤子の手をひねるようにその人の政治的思想を変えたりとか、企業が買わせたい商品へ誘導することも可能だろうと思うのだ。
これは僕はユヴァル・ノア・ハラリの著作の「21 Lessens」あたりで読んだことだったと思うけど、これから未来のテクノロジーで、スマートリングのようなウェアラブル端末とAIを組み合わせると、人々の思考を簡単に操作できるシステムが出来上がる。
たとえば、ユーザの血圧や発汗量などのデータからその人が緊張してるかどうかを把握できるようにする。そしてその人が精神的に不安定になったとAIが判断した時に、スマホから通知を送る。AIはその人が好みである音楽とか好きなことを把握しており、それでリラックスできるような音楽やメッセージを送るのである。
これはこの話だけを聞けば良いことに思えるかもしれないけど、AIに人間の思考がコントロールされるということである。もし、このAIのコントロール権が強権的な国家にあった場合、簡単に個人の思想というのは国家に把握されて「1984年」や「未来世紀ブラジル」のような思想管理社会へ突入である。
僕は最近、晩飯を食べるときに見てるアニメでは「PSYCHO-PASS」をダラダラと見ている。あの世界観というのはまさにこの思想管理社会の中での警察の公安の仕事を描いてるアニメであり、これを見て僕は「ありうることだな」と感じてる。
「PSYCHO-PASS」の世界観の中では、それぞれの人たちが「犯罪係数」というのを常に計測されており、それが高まって犯罪を犯す可能性が高くなると強制的に「セラピー」に送られる。また、社会を管理しているのはAIであり、それぞれの人たちはAIが判定した才能の判断により、やるべき職業はAIにより選ばれる。
これを見てると、今の社会の未来予想図を見せられてるように感じる。少なくとも、本当にAIと人間の未来はそうなりそうだなと思わせるような内容である。「1984年」「未来世紀ブラジル」ではそれはディストピアとして描かれているけど、「PSYCHO-PASS」では、それはある程度安定したユートピアのようにも描かれている。
それに対して僕は「くだんねーな」と思う。全ての人の違いをなくして平等であると考えるのは、ある種の全体主義とかの悪平等であると思うし、人間の「愚行権」とかそういう自由意志での行動の価値を無視した時に、人類の進歩というのは簡単に止まると思う。
日本の教育なんかでもそうなんだけど、多くの人を効率的に統率しようと思った時に、一番効率がいいのは個性があるやつに我慢をさせることである。これは才能がないやつを組織から排斥したりとか、才能があるやつをみんなで叩いたりしていじめたりなどである。
その、人のパーソナリティをAIによりデジタルで把握できるようになったとなれば、間違いなく管理しにくい人間の排斥が起こり始める。システムで管理できないイレギュラーな外れ値については何かしらの方法で排斥しようとするはずである。
組織の進歩というのは、大人しく組織のルールの中に収まりきって仲良くやれる人の中では発生しない。ブレイクスルーは組織からはみ出すようなイレギュラーによってもたらされるのである。
少なくとも僕はAIで人間を管理することについては、どれだけ社会が便利になるとしても反対だよ。多分、これから世の中はどんどん耳障りのいいことを言ってAIの支配権を広げようとしてくるはずだけど、絶対、どこかの閾値を超えると戻れなくなる。近いうちAIが人間の知能を超えるシンギュラリティは訪れるとされているけど、今の世の中の権力者を見てるとディストピア待ったなしだなと確信するもん。
