前回と前々回の記事では、なぜAIにはカウンセリングはできないのかをご説明いたしました。

今回は実際に起こった問題を挙げていき、どれだけAIをカウンセリングとして使う事が危険かをご説明します。

ここ最近、AIをカウンセリングとして何度か使ったけど、実際には何の助けにもならなかったという事をよく聞きます。それくらいAIに誰にも打ち明けないようなことを打ち明けるという行為が広まっているのでしょう。

助けにならないからがっかりするという事であれば、今の大人であれば「じゃぁ心理カウンセラーに連絡しよう」となるかもしれません。しかし、この時代の子どもにとってはAIに相談することが当たり前になってきているので、このような発想には至らない事も多々ある事でしょう。

最悪のケースが自殺です。自殺を計画しているという場合においても、それをAIに相談したところで最終的には緊急電話に電話してくだしと言われるだけで何もしてくれません。これは最後の砦として期待していた相談者にとっては、すごいがっかりしてしまって当然で、それ自体が自殺の引き金にすでになっているかもしれません。

実際に、最近カリフォルニアの10代の男性が自殺してしまいました。自殺してしまう前にChatGPTとそのことについて話していたそうですが、ChatGPTは緊急電話に連絡するよう指示する事すらしていなかったようで、親がChatGPTを訴える事になっています。

さらに、AIがアドバイスするからという理由で英国女王を暗殺しようとした人もいるようです。

これらは氷山の一角に過ぎず、このような事例はいくらでも今まであったでしょうし、何かしらの対策がなされなければ今後も増えていく一方でしょう。このような事から、実際にアメリカのイリノイ州では、AIカウンセリングが法律で禁じられる事が決まりましたし、そうあるべきなのです。

AIがフロントラインにたって、メンタルヘルスの相談をしやすくなることはいいかもしれません。しかし、それ以上でもそれ以下でもない仕組みを作らない限り、このように危険な状態は今後も続いてしまうでしょう。

カリフォルニア州公認心理カウンセラー (Licensed Marriage and Family Therapist #82425)

荒川龍也

投稿 なぜAIにカウンセリングはできないのか （３） は 荒川龍也 LMFT 米CA州公認心理カウンセラー に最初に表示されました。

前回の記事では、なぜAIにはカウンセリングができないかをお話いたしました。            

今回の記事も引き続き、なぜAIカウンセリングは成り立たないかをお話いたします。

４　AIの管理は人間のようにはできない

まず、アメリカではカウンセリングをするには資格が必要で、その資格を取るのも簡単な事ではありません。これはアメリカやヨーロッパなどの精神医療・心理学先進国の国では当たり前の事であり、日本のように誰でも心理カウンセラーと名乗れてしまう事が問題なのです。

そんな精神医療・心理学先進国のアメリカの資格管理は徹底していまして、罪などを犯せば場合によっては資格はく奪もあり得ますし、例え軽犯罪で資格はく奪はなくとも、かなりの罰則（高額な罰金や講習時間等）を受ける事になります。それくらい、心理カウンセラーであるという事は、生活の仕方ですらも高い倫理観を求められるのです。考えてみれば当然の事です。クライアントは多くの場合において、人生のどん底にいるときにカウンセリングを求めるので、カウンセラーはクライアントの人生を一緒に背負ってあげるようなものだからです。

しかし、ロボットに感情は無いので、そのような責任感はありません。よって、全くもって助けにならないようなことでも発言してしまい、大惨事を引き起こしかねません（実際に、AIが言ったからという理由で犯罪に手を染める人も出てきているのです。それらはまた次回の記事でお話いたします）しかし、国がロボットを人間と同じように管理することは難しく、例えロボットがクライアントの心の病を悪化させていたとしても、何の御咎めもできません。なぜならAIは他にもコピーをいくらでも作れてしまうからです。

５　カウンセリングはただクライアントの話を聞くだけではない

カウンセリングを受けている際に、クライアントが一番成長できるのは、あまり直視したくない問題について頑張って考えるときです。そのためには、カウンセラーも時にはクライアントが聞きたくないようなことを言わなくてはいけないのです。しかし、ロボットにはそのようなことはできません。さらに、AIはクライアントの都合の良いようにしか答えません。よって、ただの一時しのぎにすぎない返答しかロボットには出来ないので、カウンセリングにはならないのです。

６　感情が発生していない限り、心は治せない

最後に、例えクライアントが聞きたくないようなことをAIが言えたとしても、結局人間がAIと接するときには、人と接するときに発生する何かが抜けています。それは、感情です。そこにいるのは人ではないため、どうしても人に対して感じる時ほど、感情が沸きません。しかし、心が健全になる治療の過程というのは、カウンセラーとの感情の交換が何度も行われて初めて健全になっていくのです。しかし、AIに対して感情が人間ほど沸かない以上、高ぶる感情の交換はされず、結果としてそれはカウンセリングにはならないのです。

以上、参考にしていただければ幸いです。

荒川龍也

カリフォルニア州公認心理カウンセラー（LMFT 82425）

投稿 なぜAIにカウンセリングはできないのか（２） は 荒川龍也 LMFT 米CA州公認心理カウンセラー に最初に表示されました。

AIの発達が著しい中、ChatGPTなどをカウンセリングの代わりと考えたり、AIカウンセリングなるものが出てきています。しかし、これらは実際に人間から受ける心理カウンセリングとは同じではありません。それだけではなく、使用することで症状が悪化することもありえるのです。今回の記事はそのことについてお話ししたいと思います。

では、なぜAIカウンセリングは本当のカウンセリングにはなり得ないのでしょうか。
いくつか理由があります。

1. 信頼を元に構築された人間関係

心理カウンセリングがうまくいく一番大きな要因はカウンセラーとクライアントとの信頼を元に構築された人間関係です。カウンセリングとは高尚なアドバイスをもらい、そのアドバイス通りに行動する事というのは正しい理解ではありません。実際のカウンセリングとは、絶対的な答えのない問題に対して真剣に向き合うクライアントさんの側にいて、少しだけ背中を押してあげることです。そして、そのエンジンとなってくれるのが感情です。その感情と向き合い、時に辛い感情ですらも受け入れて一緒に感じてあげる事がカウンセリングなのです。しかし、ロボットにはこれができません。なぜならロボットには感情が無いからです。

簡単に答えが出る事ならロボットでも助けになるでしょうが、それではそもそもカウンセリングではありません。

2. インターネットからの情報にすぎない

AIは主にインターネットにある情報を集めて反応しています。しかし、インターネットに書いてあることが必ずしも正しい事とは限りません。さらに言えば、日本の精神医療・心理学の遅れは顕著で、インターネット上には山のように間違った情報が溢れています。その間違った情報を元にした反応では、悪化させてしまいかねないのは明白でしょう。

3.  心の理解が必ずしも正しい事とは限らない

クライアントさんの心の症状について、クライアントさん自身が正しく理解しているとは限りません。さらに言えば、間違って理解している事は頻繫にあることです。例えば、落ち込んでいるのはうつ病の症状かと思ったら、根本の原因は不安障害の方だったというのはよくあります。しかし、AIは人間がタイプしたことをもとに判断するので、間違った理解を元にタイプしたことに対してAIが反応するのは、もちろん間違った対処法等になっていくでしょう。

以上のように、AIによるカウンセリングと謳われているものは、実際には本当のカウンセリングを提供できるわけではありません。

荒川龍也

カリフォルニア州公認心理カウンセラー #82425

投稿 なぜAIにカウンセリングができないのか は 荒川龍也 LMFT 米CA州公認心理カウンセラー に最初に表示されました。