要約:
米国ユタ州では、医療人工知能の適用範囲をさらに拡大し、AI システムが患者を直接評価し、治療計画を決定し、特定の条件下で処方箋を発行できるようにしています。新しいパイロットプログラムが開始されるにつれ、ユタ州は米国における医療 AI 規制の最も積極的な実験場の 1 つになりつつあります。
この新しいプロジェクトは、医療 AI スタートアップ Nolla Health によって立ち上げられ、主に軽度から中等度のニキビ患者を対象としています。ユーザーはまずアプリを通じて顔写真を撮り、病歴や個人情報を記入する必要がある。 AIは、患者から提供された医療情報に基づいて、皮膚の状態を分析し、ニキビの重症度を評価し、承認された医薬品のリストから適切な治療計画を選択します。
従来の遠隔医療とは異なり、このプロセスの核心は、AI に最初にスクリーニングを完了させてから医師が最終診断を下すことではありません。代わりに、AI が薬を処方するかどうかの最終決定を行い、患者が指定した薬局に処方箋を直接送信できるようになります。
ただし、このプロジェクトは最初から医師の関与を完全に排除したわけではありません。パイロットの初期段階では、AI が生成したすべての処方箋をユタ州の認可を受けた医師が審査し、署名する必要があります。プロジェクトが進行するにつれて、医師の参加は徐々に減り、最終的には医師による事前審査なしでAIが適格な処方箋を発行できるようになります。
ユタ州当局が発表した試験的合意に基づき、Nolla Health は現在、成人患者の軽度から中程度のニキビのみを治療することができ、処方範囲は指定されたクリームやジェルを含む少数の局所薬に厳しく制限されています。このシステムは重度のニキビの治療には使用できません。また、内服薬やイソトレチノインなどのよりリスクの高い治療オプションを処方することもできません。
患者は身元確認と年齢確認も受けなければならず、処方箋はユタ州の住所にのみ送信できます。重度のニキビのある患者、妊娠中または妊娠を計画している患者、授乳中の患者、免疫システムが低下している患者、関連薬で副作用があった患者の場合、AI システムは自動処方プロセスを停止し、人間の医療従事者に転送する必要があります。
ユタ州がこのような実験を行える理由には、近年州が創設した「AI規制サンドボックス」制度が関係している。このシステムにより、企業は明確に定義された制限内で既存の規制要件の一部を一時的に免除しながら、政府の監督下で人工知能製品をテストすることができます。
これは、同社が無制限の「AI 医療ライセンス」を取得しているのではなく、州政府および関連規制当局との契約を締結した後、特定の製品、特定の疾患、特定のグループに対して期間限定でテストを実施できることを意味します。企業は、協定から免除されない他の法的要件も遵守する必要があります。
実際、ユタ州は今年初めに、AI が自律的に処方箋の補充を処理できるようにした米国初の州となりました。当時、Doctronic は、長期治療を受けた患者に対して、医師の直接の関与なしに一部の慢性疾患薬を再処方できる AI 医療サービスを開始しました。
このプログラムは、一般的に使用される約 190 種類の非規制薬物を対象としていますが、鎮痛剤、注射薬、および ADHD の治療に使用される一部の薬物は含まれていません。患者は本人確認と医療情報の確認を経て、過去の処方箋や患者の現在の状態に基づいてAIが再充填の可否を判断する。
ユタ州の現在の新しい政策は、AI による医療治験が「自動補充」から「最初の処方」にさらに移行することを意味します。 2 つには明らかな違いがあります。再充填は患者が以前に医師によって治療計画を処方されていることを意味しますが、初めての処方は AI が患者の現在の状態に基づいて新たな臨床的決定を下す必要があることを意味します。
これが、Nolla Health プロジェクトが特別な注目を集めている理由です。
ユタ州当局は、Nolla Health に対し、プログラムの初期段階ですべての処方箋を 2 人の認定医師が審査することを義務付けています。プロジェクトが進行するにつれて、監査方法は事後監査と抜き打ち検査に徐々に変更される可能性がありますが、新しい段階に入るたびに、州政府から書面による承認を取得する必要があります。
企業はまた、専門職賠償責任保険に加入し、有害事象の発生後に規制当局に報告する必要があります。同時に、薬局には処方箋が AI システムによって生成されていることを明確に伝え、問題に対処するために関連する医師に連絡できるようにする必要があります。
ユタ州の規制当局はまた、企業に対し、患者データを他の目的で販売または転送しないよう求めており、AI と医師の判断の一貫性の度合いなどの指標を含む、プロジェクト運営に関するデータを定期的に提出する必要があります。
ユタ州政府は、このモデルにより、一般的な低リスクの医療シナリオにおいて AI が医療費を削減し、医師のリソース不足の問題を軽減できるかどうかを検討できると考えています。比較的単純な症状を持つ一部の患者にとって、携帯電話を介して評価を完了し、薬を処方できると、クリニックに行く時間と費用が削減される可能性があります。
しかし、医学界ではこのモデルに関して明らかな論争がありました。
批評家は、一見単純な病気であっても、医師は患者の年齢、病歴、他の薬剤、アレルギー、および薬を処方する際の標準化された質問と回答では簡単に発見できないいくつかの臨床症状を考慮する必要があると考えています。 AI に全面的に依存して判断すると、システムが重要な情報を見逃してしまうと、誤った治療が行われる可能性があります。
今年初め、ユタ州の AI 薬剤補充システムの安全性テストも物議を醸しました。セキュリティ研究者らは、比較的単純な即時ワード攻撃を使用して、関連する AI システムに、特定の薬の用量を誤って増やしたり、危険な薬を推奨したりするなど、誤った医療アドバイスを生成させてきました。このようなテストでは、医療 AI と通常のチャットボットの違いがさらに浮き彫りになります。
医療 AI の最大のリスクの 1 つは、通常のチャットボットからの間違った回答が単に誤解を招く情報につながる可能性があることです。しかし、医療 AI が薬を処方する権限を獲得すると、間違いが現実世界の医療結果に直接つながる可能性があります。
したがって、ユタ州の現在の試験運用では、実際に非常に重要な問題を検討しています。それは、どのような条件下で人工知能が「医師の補助ツール」から「医療上の決定を実行する者」に変わることができるのかということです。
支持者は、AI は必ずしも医師に代わる必要はなく、標準化された反復的で比較的リスクの低いタスクを多数引き受けることができると考えています。たとえば、単純な皮膚疾患の評価、長期にわたる慢性疾患の薬の補充、および明確な臨床ガイドラインに準拠したその他の状況が、AI が医療システムに参入する最初の分野になる可能性があります。
反対派は、一部の症例が単純に見えても、すべての患者が標準モデルに適合すると仮定することはできないと主張しています。特に、AI が処方する権限を持っている場合、システム エラーのコストは、通常の情報の質問と回答のエラーよりも大幅に高くなります。
現在ユタ州では、AI が制限なく「医師になる」ことは許可されていません。 Nolla Health のニキビ治療とこれまでの AI 薬剤補充プロジェクトはどちらも特定の薬剤、特定の患者、特定のプロセスに厳密に限定されており、企業は継続的な監督を受け入れる必要があります。
しかし、産業発展の観点から見ると、ユタ州の重要性は依然として非常に特別です。これまで医療AIは主に画像認識、補助診断、カルテ収集、医師の意思決定支援などに活用されてきましたが、現在ではAIが実際の臨床上の意思決定権限を徐々に獲得し始めています。
これらの試験運用により、厳格な制限と継続的な審査の下で AI がいくつかの低リスクの医療タスクを安全に完了できることが証明できれば、米国の他の州も将来的に同様のモデルを参照して、医療分野での AI 適用範囲をさらに緩和する可能性があります。
逆に、試験運用中に重大な医療ミスが発生したり、システムが攻撃されたり、AI の判断が専門の医師の判断から大きく逸脱したりした場合、ユタ州の実験は規制当局にとって医療 AI の権限を強化する重要な事例となる可能性もあります。
最終結果がどのようなものであれ、ユタ州で進行中の実験は明らかな変化を意味します。医療業界に参入する人工知能の段階は、「医師の仕事を支援する」段階から「限られた範囲内で直接医療上の決定を下す」段階に徐々に移行しています。 AI がこの責任を担うことができるかどうかは、もはや研究室における単なる技術的な問題ではなく、実際の患者や実際の処方箋を通じてテストされるようになるでしょう。
コメント