院内管理AIImplementationandChallengesofAI-BasedSafetySystemsinOphthalmicSurgery田淵仁志*はじめに眼科業務は多岐にわたる.人手不足や保険診療緊縮の折にそれらを機械化して効率性を向上させる取り組みには多くの興味が集まっている.人工知能を用いた眼科用アプリケーションは多岐にわたる.筆者らのチームが取り組んできたものだけでも,各種眼科疾患用画像診断用人工知能(arti.cialintelli-gence:AI)1~3),点眼アドヒアランスAI4,5),問診票を用いた診断能力向上AI(投稿中),画像生成AIによる診断能力向上教育システム6~7),眼内レンズ(intraocularlens:IOL)計算式8~10),手術安全管理AIシステム11~13),疾患/手術説明Q&A自動応答システム(論文投稿準備中),加齢黄斑変性(age-relatedmaculardegenera-tion:AMD)長期臨床管理モニター14)など,多様な眼科業務に合わせるかのようにバラエティは豊かである.今回は,AIに詳しくない方にもわかりやすく,院内で実装しているAIアプリケーションをベースにその意義を解説する.I人間とAIにできることとできないこと最初に理解したいのは,AIと人間には何ができて何ができないのかという点である.基本的に機械化すべき業務とは,人間にはできないがAIにはできることだからである.そんななかで,実はAIにも人間にも絶対にできない二つのことがある.それは,未来予測と境界例の識別である.未来に何が起こるかについては,AIであろうが人間であろうがわからない.未来を予測するタイプのAIは常に非難の的になってきた.ビックデータの重要性が叫ばれるようになったきっかけとされ,Google検索の入力内容によるインフルエンザの発生予測は,事後検証でまったく役に立たないことがわかっている15).新型コロナの発生者数の予測についても桁違いの予測をしていたことは記憶に新しい16).占いビジネスはどんなに時代が変わっても存在し続け,とくに問題になっていないが,これは「未来は予測できると思いがち」な人間特有のバイアスによるものである.そして,もう一つの絶対にできないことは,境界例の識別である.重なりあう2群がある場合に,その重なっている境界例を識別する方法は,別の定義を持ち込んで分離すること以外に存在しない.したがって,極端な差があるような対象だけが分離可能となる.見落としてはいけない疾患について,感度を極限まで上げると偽陽性が多くなるのは当たり前であり,感度を極限まで高めた診断用AIが見落としを防止できるのは確かであるが,その分だけ偽陽性の処理が大きな負担となる.これが,いつまでたってもAI診断実装のボトルネックとなるのである.人間にできない未来予測と境界例の判別を一生懸命にやらせようとしてきたのが,あるいはできるかのようにマーケティングしてきたのがAIビジネスのパターンである.そのほうが投資家からの資金を集めやすいからで*HitoshiTabuchi:ツカザキ病院眼科〔別刷請求先〕田淵仁志:〒671-1227兵庫県姫路市網干区和久68-1ツカザキ病院眼科(1)(3)30910-1810/26/\100/頁/JCOPY表1AIアプリケーションの機能とその機能がカバーする人間の欠点アプリケーション名機能カバーしている人間の欠点点眼瓶センサーAI点眼アドヒアランス自動客観管理・点眼を継続できない・過大に点眼申告をする・医師の推定も当たらないAMD長期臨床管理モニターRPE層の突発的変化の自動同定黄斑体積推移の視覚化・患者の長期にわたる臨床経過を思い出せない・OCT全スライスを診療時間内に把握できない医療安全管理AI顔認証・左右眼・IOL同定・人間はどんなに注意しても左右を間違える・心理的危険環境下では間違いを指摘できない・自分のミスを報告することが心理的にできない患者Q&AAIハルシネーションゼロの自動応答・24時間365時間働けない・頻回のよくある質問回答にストレスを感じる図1点眼瓶センサーAI点眼瓶センサーAIは,どのような形状の点眼瓶も保持できるように設計されたシリコーン製のコンテナ底部に携帯電話の部品である加速度センサーが組み込まれたもので,電池式である.3カ月間電池交換不要で,患者のアドヒアランスを悪化させるような追加作業を極力避けた設計になっている.#2.初診日#3.最終診察日#4.表示切替#1.最終来院日(経過日数)#5.治療間隔(週)#6.侵襲性治療(PDT/硝子体注射)#7.黄斑体積推移とトレンド回帰直線#8.中心網膜厚#9.ランドルト環視力(LogMAR)#10.OCT画像サムネイル図2加齢黄斑変性(AMD)長期臨床管理モニターモニターは左右眼ごとに表示される.侵襲治療のタイミング,黄斑体積,中心網膜厚,視力,OCT像が一目瞭然で提示される.図3眼科手術用の医療安全管理AIシステムは顔認証(a),左右認証(b),IOL認証(c)の三つの認証から構成される.操作・認証・確認がすべてiPad上で完結するように設計されており,院内ネットワークに組み込まれている.a1,b1,c1は認証成功時,a2,b2,c2は認証失敗時の表示である.図4患者Q&Aシステム(白内障周術期用)スマートフォンのLINEアプリに組み込まれた自動応答システムのやり取り例を示す.白内障手術の費用についての質問をすると,あらかじめデータベースに格納された質問リストの中からユーザーの入力内容に近い質問をAIが選択してリスト表示する.そのリストをユーザーが選択すると,あらかじめデータベースに登録された内容が自動応答する.このシステム最大の利点は,AI生成で絶対にゼロにできないハルシネーション(創作,まるで本当かと思うような嘘)を完全回避し,患者のあらぬ誤解を招かないことである.所要時間3:21:362:52:482:24:001:55:121:26:240:57:360:28:480:00:00線形回帰直線*****●データ手入力○データ自動表示050100150200250診察回数図5加齢黄斑変性(AMD)患者の蓄積診察回数に応じたデータ手入力時間の推移X軸はCAMD患者の診察回数で,Y軸は患者の診療情報(視力,黄斑体積,中心網膜厚,OCT画像)をすべて入力するのに必要だった時間である.黒丸は手入力,白丸は長期臨床管理モニターの表示時間である.100.0%90.0%80.0%70.0%60.0%50.0%40.0%30.0%20.0%10.0%0.0%202220232024図6医療安全管理AIの3認証の利用率の変遷は顔認証,は左右認証,はCIOL認証の実施率の変遷を示す.最初のC3カ月はとくに左右認証の利用率が低く,導入初月はC80%を下回った,99%に実施率が到達するのにC3カ月が必要であった.図7多職種による月例のフィードバック会議の様子毎月の多職種協働会議の様子.視能訓練士,看護師,医師がWeb会議と現場のハイブリッド形式で医療安全管理CAIの実施状況(実施率,医療過誤発生率,ニアミス発生率など)の把握と運用方法についての改善活動を継続している.(人)15105012345678910(点)図8手術室看護師18名に対するNPSスコアアンケートNetpromoterscore(NPSスコア)を用いて,眼科医療安全管理CAIを実際に使用し認証している手術室看護師C18名に質問した結果.NPSスコアは「手術室内安全管理システムをほかの人に勧めるか」をたずねるもので,最低点はC1点(まったく勧めない),最高点はC10点(強く勧める)であり,10点とした看護師が過半数であった.(秒)100%7.9%4.3%5.1%14.4%89.9%94.6%80.3%2.2%0.0%0.9%0.2%0.2%2590%80%2070%60%1511.850%40%1030%20%510%0%0顔認証左右認証IOL認証顔認証左右認証IOL認証■1回で認証成功■2回で認証成功図9医療安全管理AIの3認証にかかる平均時間■認証成功に3回以上必要■認証不成立顔認証はC11.8秒(95%信頼区間:2.6秒~21秒),左右認証は3.1秒(95%信頼区間:1.5~4.8秒),眼内レンズ認証はC8.6秒図10医療安全管理AIの3認証における認証回数の分布(95%信頼区間:5.8秒~11.3秒)であった.各認証の認証回数である.3認証すべてにおいてC1回目の認証でC80%以上,2回目の認証ではC94%以上が終了している.(%)10096.797.597.3969696.497.296.196.7(%)95.295.494.294.1952回目で認証成功9087.286.686.385(%)801回目で認証成功75707月8月9月10月11月12月1月2月3月4月6月7月8月1回目(%)87.285.384.484.886.683.485.385.884.286.384.582.1842回目まで(%)96.797.597.3969694.196.495.294.297.296.195.496.7図11顔認証の回数別成功率の月間推移(2023年)毎月の医療安全管理CAIフィードバック会議で使用される定点観測データの一つ.1,2回目での認証成功回数が極端に低下していないかを確認している.3回以上の認証が必要だった患者については個別に認証記録画像を分析し,撮影方法やアルゴリズム変更などの改善の資料とする.abc図12医療安全管理AI用の三つの認証がすべて終了していることを示す認証終了確認アラートシステムa:認証が完全終了していない時点で,タイムアウトモニター(各手術室に視認性のよい場所に天吊りされている患者確認モニター)の外枠が赤く点滅し続ける,Cb:三つの認証がすべて成功終了(すべて正しいことが確認されることを成功としている)すると外枠が緑色で静止する.Cc:タイムアウトモニターの表示内容.(%)0.70.620.60.50.40.30.20.100.420.420.410.210.160.120.15顔認証左右認証眼内レンズ認証3認証全体■導入前1年未実施率(%)■導入後1年未実施率(%)図13認証終了確認アラートシステム導入前後の認証未実施率の変化認証終了確認アラートシステム(点滅アラート)導入前後の認証未実施率の推移.3認証とも低下している.VIII人間とAIは相補的であるYouTubeなどのCSNSプラットフォーム運営会社が運用している不適切動画識別CAIを除いて,AI最大の応用先である自動運転推進派の過激な意見として「人間が運転するよりよほど安全である」というものがある22).この点はすでに丁寧な科学的分析があり,通常の道路事情のときには人間よりも自動運転がよほど安全であることは確かにいえる.居眠りやよそ見などの人間のミスは機械トラブルよりも多いのである.一方で,滅多にないような状況において,自動運転はまったく人間に歯が立たない.交通量が不規則な交差点内での事故は自動運転のほうが多いのである23).交差点内での車の動きは複雑怪奇であり,過去の事象として学習パターン数がどうしても不足しているのが理由である.人間は複雑な状況に入ると,そのこと自体を危険性が高まったと判断して集中力を研ぎ澄まし,対応能力を上げることができる.このようにCAIができないこと,人間ができないことを常に意識してCAI応用・AI利用を進めていけば,よりよい未来が手に入る.文献1)OhsugiCH,CTabuchiCH,CEnnoCHCetal:AccuracyCofCdeepClearning,CaCmachine-learningCtechnology,CusingCultra-wide-.eldCfundusCophthalmoscopyCforCdetectingCrheg-matogenousretinaldetachment.SciRepC7:9425,C20172)MasumotoH,TabuchiH,NakakuraSetal:Deep-learn-ingCclassi.erCwithCanCultrawide-.eldCscanningClaserCoph-thalmoscopeCdetectsCglaucomaCvisualC.eldCseverity.CJGlaucomaC27:647-652,C20183)NagasatoCD,CSogawaCT,CTanabeCMCetal:EstimationCofCvisualCfunctionCusingCdeepClearningCfromCultra-wide.eldCfundusCimagesCinCretinitisCpigmentosa.CJAMACOphthalmolC141:305-313,C20234)NishimuraK,TabuchiH,NakakuraSetal:EvaluationofautomaticCmonitoringCofCinstillationCadherenceCusingCeyeCdropperCbottleCsensorCandCdeepClearningCinCpatientsCwithCglaucoma.TranslVisSciTechnol8:55,C20195)TabuchiCH,CNishimuraCK,CAkadaCMCetal:Real-worldCevaluationCofCnovelCeyeCdropCbottlesensors:cloud-basedCAICsupportCforCeyeCdropCadherence.CHeliyonC10:e34167,C20246)TabuchiCH,CEngelmannCJ,CMaedaCFCetal:UsingCAICtoCimproveChumanperformance:e.cientCretinalCdiseaseCdetectiontrainingwithsyntheticimages.BrJOphthalmolC108:1430-1435,C20247)TabuchiH,NakajimaI,DayMetal:Comparativeeduca-tionale.ectivenessofAIgeneratedimagesandtraditionallecturesCforCdiagnosingCchalazionCandCsebaceousCcarcino-ma.SciRepC14:29200,C20248)YamauchiCT,CTabuchiCH,CTakaseCKCetal:ComparisonCofCvisualCperformanceCofCtoricCversusCnon-toricCintraocularClensesCwithCsameCmaterial.CClinCOphthalmolC12:2237-2243,C20189)MoriCY,CYamauchiCT,CTokudaCSCetal:MachineClearningCadaptationCofCintraocularClensCpowerCcalculationCforCapatientgroup.CEyeVis(Lond)C8:42,C202110)TabuchiCH,CYamauchiCT,CShojoCTCetal:TrainingCdataCsizeandpredicationerrorsintheuseofmachine-learningassistedCintraocularClensCpowerCcalculation.CSciCRepC13:C11348,C202311)MoritaCS,CTabuchiCH,CMasumotoCHCetal:Real-timeCextractionCofCimportantCsurgicalCphasesCinCcataractCsur-geryvideos.SciRep9:16590,C201912)MoritaS,TabuchiH,MasumotoHetal:Real-timesurgi-calproblemdetectionandinstrumenttrackingincataractsurgery.JClinMedC9:3896,C202013)TabuchiH,MoritaS,MikiMetal:Real-timeAIevalua-tionCofCcataractsurgery:aCpreliminaryCstudyConCdemon-strationCexperiment.CTaiwanCJCOphthalmolC12:147-154,C202214)TabuchiH,YamauchiT,NagasawaTetal:Revolutioniz-ingCpatientCmonitoringCinCage-relatedCmacularCdegenera-tion:acomparativestudyonthenecessityande.ciencyofCtheCAMDCVIEWER.Bioengineering(Basel)C10:1426,C202315)KandulaCS,CShamanJ:ReappraisingCtheCutilityCofCGoogleC.utrends.PLoSComputBiolC15:e1007258,C201916)IoannidisCJPA,CCrippsCS,CTannerMA:ForecastingCforCCOVID-19hasfailed.IntJForecastC38:423-438,C202217)林喜男:人間信頼性工学,海文堂出版,198418)DunnCBD,CEvansCD,CMakarovaCDCetal:GutCfeelingsCandCthereactiontoperceivedinequity:theinterplaybetweenbodilyCresponses,Cregulation,CandCperceptionCshapesCtheCrejectionCofCunfairCo.ersConCtheCultimatumCgame.CCognCA.ectBehavNeurosci12:419-429,C201219)QuarantaCL,CNovellaCA,CTettamantiCMCetal:AdherenceCandpersistencetomedicaltherapyinglaucoma:anover-view.OphthalmolTherC12:2227-2240,C202320)Newman-CaseyCPA,CRobinCAL,CBlachleyCTCetal:TheCmostCcommonCbarriersCtoCglaucomaCmedicationCadher-ence:across-sectionalsurvey.Ophthalmology122:1308-1316,C201521)OkekeCCO,CQuigleyCHA,CJampelCHDCetal:InterventionsCimproveCpoorCadherenceCwithConceCdailyCglaucomaCmedi-cationsinelectronicallymonitoredpatients.OphthalmologyC116:2286-2293,C200922)DiLilloL,GodeT,ZhouXetal:Doautonomousvehicles(13)あたらしい眼科Vol.43,No.1,2026C13’C