人工知能チャットボットは心理療法において人間に取って代わることができるか？

これらのチャットボットは、コストと人間の話を聞いて応答する能力の点で顕著な利点があります。しかし、専門家はユーザーデータのプライバシーやAIが生成したアドバイスの正確性といった問題についても懸念を表明した。

コスト - 最も重要な要素

メンタルヘルスのサポートは世界中で大きな課題となっています。世界保健機関（WHO）の推計によると、COVID-19パンデミックが発生する前、世界中で約10億人が不安やうつ病を抱えて生活しており、そのうち82%が低所得国および中所得国に住んでいた。パンデミックにより、精神疾患に苦しむ人の数は世界中で約27%増加しました。

WHOによると、2020年に需要が増加する以前から、精神状態が悪いと診断された人のほとんどは治療を受けていなかった。自国に支援サービスがほとんどなかったり、支援サービスを求める際に偏見に直面したりしたために、治療を受けないことを選択する人も多くいます。

メンタルヘルス治療を必要とする人々にとって大きな障壁となるのは、多くの場合、治療費が高額であることです。米国と同様に、保険に加入していない人の場合、心理カウンセリングのセッションの費用は 100 ドルから 250 ドルの範囲になります。

そういった意味では、メンタルヘルスをサポートできるAI統合型アプリケーションを求める人が多いのも当然です。ブルッキングス研究所によると、健康保険に加入している患者は対面で治療を受けられるが、保険に加入していない患者は、より安価でほぼ24時間いつでも利用できるチャットボットを利用するようになるという。

メンタルヘルスのサポートに特化したデジタルツールは、10年以上前から存在しています。医療分野の情報技術を専門とするジャーナル「International Journal of Medical Informatics」によると、現在この分野では世界中で40以上のAIチャットボットが稼働しているとのことです。

しかし、研究者たちは、AI チャットボットのコストが低い (無料であることもある) ことはユーザーにとって魅力的かもしれないが、人間の専門家とチャットボットの能力の差には注意する必要があると警告している。

例えば、全米摂食障害協会（NEDA）は2023年5月、20年以上人間が運営してきたホットラインを「Tessa」というチャットボットに置き換え始めた。

しかし今月初め、NEDAは、このチャットボットが精神疾患に苦しむ人々に有害なアドバイスを提供したため、Tessaの使用を中止した。テッサさんは、すでに摂食障害を抱えている患者に、体重を減らすようアドバイスしたこともある。

AIへのオープン化が容易

コスト以外にも、匿名性と認知能力の欠如が、多くの人が人間のセラピストよりも AI チャットボットを選択する理由です。

あるユーザーは、チャットボットは単なる大きな言語モデルであり、何かを「認識」することはできないことを理解していると述べました。しかし、これにより、ユーザーは自分自身を表現しやすくなります。

注目すべきことに、2023年初頭に米国医師会雑誌に掲載された研究では、ソーシャルメディアフォーラムから無作為に選ばれた195人の患者を対象に、チャットボットと人間の医師の反応を評価した。その結果、チャットボットの応答は人間の医師の応答よりも「質と共感の両方において大幅に高い」と評価された。

しかし、NEDA のチャットボット Tessa の事例に見られるように、これまでの研究ではチャットボットが良い結果をもたらすことが示されていますが、実際の運用はその逆です。 NEDA はまた、チャットボットは人間が運営するヘルプラインの代わりに使用することはできないことも認めています。

研究者らは、事前に作成された応答を作成して臨床医が編集できるようにするなど、臨床現場での AI 統合チャットボット技術のさらなる調査が必要であると結論付けました。研究によると、AI 搭載のチャットボットを使用すると、医師の対応が改善され、医師の燃え尽き症候群が軽減され、患者の転帰が改善される可能性があることが示されています。

データプライバシーに関する懸念

それでも、オープンソースプロジェクトを支援・開発する非営利団体Mozilla Foundationが2023年5月に発表した調査では、メンタルヘルスチャットボットのユーザーにとってプライバシーの懸念が依然として大きなリスクとなっていることがわかった。

Mozilla Foundation が分析した人気アプリ Talkspace、Woebot、Calm を含む 32 個のアプリのうち、28 個が「ユーザーデータ管理に関する深刻な懸念」があるとフラグ付けされました。さらに、25 個のアプリは、ユーザーに強力なパスワードを要求するなどの基本的なセキュリティ基準を満たしていませんでした。

Mozilla の研究者 Misha Rykov 氏は、これらのアプリを「メンタルヘルス支援アプリを装ったデータ収集マシン」と表現した。保険ブローカー、データトレーダー、ソーシャルメディア企業によってユーザー情報が収集されている可能性は十分にあります。たとえば、Woebot は個人情報を第三者と共有します。

AIの専門家は、AIチャットボットは依然として、従来のチャットボットやユーザーから個人情報を収集するあらゆるオンラインサービスと同じプライバシーリスクに直面していると警告している。彼らは、各国が非倫理的な AI 慣行からユーザーを保護し、データ セキュリティを強化し、一貫した医療基準を確保するための強力な規制をすぐに導入することを期待しています。

深刻な不安やうつ病に苦しむ人が増えている中、AI 搭載のチャットボットは現在のメンタルヘルス危機の解決策にはなりません。しかし、医師や専門家と組み合わせることで、AI チャットボットは精神疾患の治療において非常に役立つツールになる可能性があります。結局のところ、人類は人間に取って代わるのではなく、テクノロジーを使って協力すべきなのです。