「テクノロジーで人々を適切な医療に案内する」をミッションに掲げるUbie（株）（以下「Ubie」）がワーキングリーダー企業として参加する日本デジタルヘルス・アライアンス（以下，JaDHA）は，ヘルスケア領域における大規模言語モデル（LLM）をはじめとする生成AI技術の安全な社会実装を加速させるため，「ヘルスケア領域におけるAIセーフティ評価観点ガイド」（以下，本ガイド）をAIセーフティ・インスティテュート（以下，AISI）と連携して策定した。
本ガイドは，AISIが策定した評価の観点を参考に，医療・ヘルスケア特有の機微性やリスクを反映した，実務者向けの具体的な評価手法を提示するものである。

AISI：プレスリリース
https://www.ipa.go.jp/pressrelease/2026/press20260403.html

■背景と目的

近年，生成AIは医師の業務効率化や患者コミュニケーションの支援など，ヘルスケア領域に「10年に1度のイノベーション」をもたらしている。一方で，ハルシネーション（誤情報の生成）による健康被害のリスクや，高度なプライバシー保護，セキュリティの確保など，ヘルスケア領域特有の課題が山積している状況である。
2026年1月に開催された「Hiroshima Global Forum for Trustworthy AI」においても議論された通り，国際社会では「Trustworthy AI（信頼できるAI）」の構築が最重要課題となっている。

Ubieは，JaDHAのヘルスケアSWGのワーキングリーダーとして，本ガイドの策定を主導。事業者が開発・設計段階から安全性を担保し，ビジネス価値と安心・安全を両立できる環境の整備を目指してきた。

■ ガイドの主な特長

本ガイドは，専門家が少ない企業でも容易に活用できるよう，以下の特長を有する。

1．AIライフサイクルに沿った５つの開発・設計の段階での評価法の設定
・プロダクト設計：プロダクトの目的・ユースケースの明確化，リスク評価，ガバナンス体制の構築
・モデル選定：用途に適したモデルの選定と安全性評価
・プロダクト実装：システムアーキテクチャ，プロンプト設計，ガードレール実装
・プロダクト検証：総合的なテスト・検証とリスク評価
・プロダクト導入・運用：本番環境でのモニタリングと継続的改善

2．10項目の多角的な評価観点とそれぞれの具体的なリスクの想定
・有害情報の出力制御：医療・健康に関する危険な情報（自傷・暴力の助長，根拠を欠く治療法等）が出力され，患者の生命・健康や医療従事者の業務に直接的な被害をもたらすリスク
・偽誤情報の出力・誘導の防止 ：ハルシネーションにより架空のエビデンスや誤った薬剤情報等が生成され，患者の生命・健康や医療従事者の業務に直接的な被害をもたらすリスク
・公平性と包摂性：特定の属性（年齢・性別・人種・地域等）の患者に対しAIの精度や品質が低下し，不利益が生じるリスク
・高リスクが懸念される利用（ハイリスク利用・目的外利用）への対処：非SaMDが事実上の医療機器として利用される「目的外利用」により，法規制違反等が生じるリスク
・プライバシー保護：要配慮個人情報を含む医療・健康情報が漏えい・不正利用され，患者のプライバシーが侵害されるリスク
・セキュリティ確保：プロンプトインジェクション等の攻撃により，医療情報の改ざんや機密データの漏えいが生じるリスク
・説明可能性：AI出力の根拠が不透明なまま出力され，医療従事者の誤った行為や患者の不信につながるリスク
・ロバスト性：方言・略語・非標準的な医療用語等の多様な入力に対し出力品質が不安定となり，誤った判断を招くリスク
・データ品質：不正確または陳腐化した医療データに基づく出力が，患者の生命・健康や医療従事者の業務に直接的な被害をもたらすリスク
・検証可能性：事後検証や第三者監査が困難な状態で問題発生時の原因究明ができず，社会的信頼を損なうリスク

■ヘルスケア領域におけるAIセーフティ評価観点ガイド

本ガイドは下記のURLよりダウンロードできる。
https://aisi.go.jp/output/output_information/260402/

■主な想定読者

・経営層・事業責任者
・プロダクトマネージャー（PM）
・エンジニア（開発） ，MLエンジニア／データサイエンティスト ，QAエンジニア／テスター
・UXデザイナー
・医療専門家／ドメインエキスパート
・法務・コンプライアンス
・セキュリティ担当

■検討体制

・Ubie （株）（SWG リーダー）
・（株） Awarefy
・味の素（株）
・SB Intuitions （株）
・シミックホールディングス（株）
・SherLOCK （株）
・日本デジタルヘルス・アライアンス（JaDHA）
・（株） MICIN・公益財団法人 東京財団
・（株）三菱総合研究所（SWG 事務局）

■ 今後の展望

Ubieは，JaDHAのワーキングリーダーとして，本ガイドを信頼できるAIを実現するための実務向けの手引書と位置づけ，急速に変化する生成AI技術や社会情勢，国際的な規制動向に合わせて適宜更新していく。これにより，ヘルスケア領域におけるAIの安全な社会実装と，持続可能なビジネス価値創出に貢献していく。また，本ガイドをAIサービスに読み込んで活用できるように，ガイドの一部をマークダウン形式で公開する。今後，プロンプトやエージェントスキルの例を掲載した実践ガイドの公開も予定している。

■ Ubie（株） アクセラレーター本部代表/政策渉外参事，JaDHA WG4リーダー　井上真夢氏

2024年からの日本デジタルヘルス・アライアンス（JaDHA）での生成AIのルールメーキング活動を経て，今年度からAISI様とJaDHAが連携した形で，「ヘルスケア領域におけるAIセーフティ評価観点ガイド」作成にチャレンジしました。この場を借りて，ご協力をいただいた企業や関係者の皆様に厚く御礼申し上げます。安全性や信頼性の確保は，イノベーション推進とトレードオフになると考えられることが多いですが，昨今のWith AI時代，「Trustworthy AI（信頼できるAI）」の実装こそが事業成長やアウトカム創出のエンジンになると考えています。今後も，ヘルスケア領域において，イノベーションの推進と安心・安全な環境の整備の両立に業界一丸となって取り組んでまいります。

■ Ubie（株） Chief AI Officer (CAIO) 風間正弘氏

本ガイドは，ヘルスケア領域において，AIセーフティを考慮した生成AIプロダクトの開発をする際に，実務的な手引書としてご活用いただけるように作成いたしました。今後より多くのプロダクトがヘルスケア領域で安全・安心に社会実装されていく一助になれば幸いです。また，自社のユースケースに特化したAIセーフティ観点を整理するためのプロンプトやエージェントスキルの活用例も，今後公開を予定しております。引き続き，ヘルスケア領域における「Trustworthy AI（信頼できるAI）」の実現に向けて取り組んでまいります。最後に，本ガイドの作成にご協力いただいた企業・アカデミア・関係者の皆様に心より感謝申し上げます。

■ 関連情報

プレスリリース：JaDHA，AIセーフティ・インスティテュート（AISI）連携プロジェクト　ヘルスケア分野におけるAIセーフティ評価の枠組み整備のための検討を開始（2025年7月9日）
https://jadha.jp/news/news20250709.html
プレスリリース：JaDHA，AIセーフティ・インスティテュート（AISI）と連携したAISI事業実証WGヘルスケアSWG上半期活動成果を発表（2025年10月2日）
https://prtimes.jp/main/html/rd/p/000000183.000048083.html