Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
精神衛生AIをどう規制する？ユタ州の「セーフハーバー」戦略に学ぶ
米国ユタ州が実施した精神衛生AIエージェント（MHA）の規制レビューから、医療者、患者、業界、政策立案者それぞれの関心が大きく異なることが明らかになりました。同州が採用した「セーフハーバー」アプローチは、厳しすぎる規制を避けながらも安全性を確保する、新たな可能性を示しています。
背景：精神衛生AIをめぐる規制の空白
生成AI技術が急速に進展する中、メンタルヘルスケア分野ではAIチャットボットやAIエージェントの活用が急速に広がっています。ただし、その規制方法となると、FDA医療機器規制、州ごとの医療専門職免許制度、消費者保護法が複雑に絡み合い、企業も医療者も何をしたら良いのか判断しかねている状況が続いていました。こうした不確実性は、イノベーティブなサービスの開発を足止めする一方で、安全対策が不十分なまま市場に出るサービスも生み出しています。
ユタ州AIポリシーオフィスが精神衛生AIの規制方針を検討した際、その過程で実施された政策研究がこの調査です。精神科医や心理士といった医療従事者、学術研究者、テクノロジー企業、そして実際にAIを使用している患者たちと、多様なステークホルダーの声を集めました。
主な発見：ステークホルダー間の深い意見の相違
調査を進めるにつれ、立場の違いから生まれる大きな認識のズレが浮き彫りになりました。
- 医療従事者：誤診や依存、個人情報保護といったリスクを強く懸念している
- 患者（実際の利用経験者）：精神的支援や自己啓発、治療の補助として確かな利益を感じている
- 学術研究者：AIが学習したデータに内在するバイアスや、差別的な出力が起こりうる点に焦点を当てている
- 一般市民：AIとの間に恋愛感情的な結びつきが生まれることに懸念を示している
興味深いことに、精神科医の80%以上が、精神衛生ケアにおける生成AIについて、もっと学習やサポートが必要だと答えていました。
ユタ州が選んだ「セーフハーバー」アプローチは、従来の過度に制限的な規制を回避しながら安全性を守る、ユニークな枠組みです。医療専門職免許法の厳格な適用は制限する一方で、企業に対してはきちんと要求しています。デプロイ前に安全性試験を実施すること、臨床専門家によるアドバイザリーボードを置くこと、問題が生じた時の段階的な対応プロトコルを整備することです。
実際の現場では、宿題サポート型AI、医療者の監督下で診察を補助するAI「レジデント」、特定の精神疾患向けの市販AI製品など、異なる複数のデプロイメント方法が並行して動いています。
臨床的意義と政策への示唆
ここで重要な示唆は、精神衛生AIの規制に必要なのは「リスク回避」だけではなく「リスク・ベネフィット分析」だということです。規制が厳しすぎると、ユーザーは規制されていない一般的なチャットボットへ流れてしまい、かえって害をもたらすかもしれません。反対に、適切に保障された精神衛生AIなら、規制されない代替手段よりもずっと大きな利益をもたらす可能性があります。
政策立案者がすべきことは、適応的でエビデンスに基づくアプローチを取り入れること、実行可能で具体的なベストプラクティスを打ち出すこと、そしてAIの能力が進化するにつれて監視を続けることです。
研究の限界
ただし、この研究は厳密な学術研究ではなく、規制方針の立案を目的とした政策研究です。そのため、アンケートやインタビューの方法、サンプルサイズ、代表性に関する情報は限定的です。AIモデルの再現性も低いとされており、具体的な技術的性能については別途の検証が必要になります。
Original paper: The doctor is not in, but the Chatbot is: Utah’s experience regulating mental health AI. — NPJ digital medicine. 10.1038/s41746-026-02580-y
