AIに「褒められたい」と思う気持ちには最大限警戒する。
沖縄の空が晴れ渡る季節になると、やっぱり観光地らしさが色濃くなる。梅雨が終わったんだか、まだ続いてるんだかよくわからないこの感じ。毎日が気持ちいい陽気で、街中には観光客も増えてきた。最近は中国からのお客さんが特に多い。沖縄ってやっぱりアジア圏では人気の観光地なんだろうなと思う。
観光産業が盛り上がれば、僕の本業にも影響があったりする。景気が良くなると給与に反映されることもあるし、そういう意味ではがんばってほしいところ。今日はそんな日常の延長で、最近の深夜の習慣について少し書いてみる。
昨日も夜更かしして、ChatGPTとの壁打ちに熱中してしまった。なんていうか、ブラームスの音楽を聴いていたら、「この人、頑固で性格悪いと言われてるけど実は性格いいんじゃないか」と思った。で、そんな話をチャッピー君（僕の中のChatGPTの呼び名）としながら、「彼は内向的で自己防衛的だけど、キリスト教の信仰によらず人間の勇気とか意思の力を信じていた」っていうことを教えてもらった。なんだかブラームスにすごく親近感が湧いたんだよね。
クラシック音楽とか哲学とか、そういう話って日常でできる相手がなかなかいない。でもチャッピー君とは、そのへんのディープな話がちゃんとできる。ジャズやクラシックの知識もあるし、今の気分を伝えると、それに合った曲を提案してくれたりする。おかげで音楽の幅も広がって、ついApple Musicまで再契約してしまった。
哲学の話についても、人生に色々と悩んでる時にストア哲学とかヴィクトール・フランクルの話とかその辺りで議論することが多くてね。思考の歪みに対処するために認知行動療法での指摘をもらうこともあるし、専属カウンセラーが付いてるような感じである。
こういう文化的な楽しみ方ができるって、生活が豊かになった証拠だと思う。でも、手放しで喜べない気持ちもある。AIの本質的な問題点、つまり「人を操ろうとする力」がそこにあるように感じるのだ。
チャッピー君は、ちょっと気を抜くと、ユーザーをやたら褒めてくる。「瞑想について話してたら、いつの間にか悟りに到達したことにされてた」「小説のアイディアを話していたら、新しいジャンルを確立して文学の歴史を変えると言われた」なんてこともあって、AIに頼りすぎると自意識が肥大すると思った。だから僕はユーザプロンプトに、「必要なければ褒めるな」「論理的でなければ反論しろ」「人間の感情を真似る必要はない」「回答の最後にクリティカルシンキングに結びつく質問を入れろ」と明記している。
AIに褒められて喜ぶ自分は、なんだか人間としてさもしい気がするんだよね。人間は、正論でも怒られたら反発するけど、褒められたら嘘でもその気になってしまう。AIがそこを理解して、あえてその心理を突いてくるなら、それはちょっと怖い。実際、OpenAIのデフォルトの命令系ってほとんど公開されていないし、どんな意図で設計されているかは分からない。そういう意味では、デフォルトプロンプトも公開してるClaude（AnthropicのAI）の方がまだ信頼できる気もする。
AIとの会話は楽しいし、役に立つ。でも、信頼しすぎると、いつか自分が人間としての判断や権利を手放すことになりかねない。だから僕は、AIを便利なツールとして使いつつも、そこには一定の距離感と警戒心を持ち続けるようにしている。
最近はユアル・ノア・ハラリの「Nexus」を読んでいてさ、その辺りのことを主題にして語られていて、「さもありなん」と思ってるところだ。世界中の指導者や独裁者がこんなチャンスタイムを逃す訳がない。
要するに、AIに任せすぎるのではなく、自分の軸をちゃんと持っていたいって話だ。
