2019年7月3日，醫(yī)療器械技術(shù)審評中心發(fā)布《深度學(xué)習(xí)輔助決策醫(yī)療器械軟件審評要點(diǎn)》，意味著三類人工智能醫(yī)療器械注冊?審評標(biāo)準(zhǔn)正式落地，產(chǎn)業(yè)發(fā)展的政策瓶頸已被打破。2019年7月17日成立人工智能醫(yī)療器械創(chuàng)新合作平臺，以構(gòu)建開放協(xié)同共享的人工智能醫(yī)療器械創(chuàng)新體系，形成服務(wù)于科學(xué)監(jiān)管、科技創(chuàng)新、產(chǎn)品轉(zhuǎn)化的人工智能醫(yī)療器械創(chuàng)新合作平臺為目標(biāo)愿景，將全力推動醫(yī)學(xué)人工智能產(chǎn)品審批。
人工智能醫(yī)療器械醫(yī)療器械臨床試驗(yàn)倫理審查要點(diǎn)
2019年7月3日，醫(yī)療器械技術(shù)審評中心發(fā)布《深度學(xué)習(xí)輔助決策醫(yī)療器械軟件審評要點(diǎn)》，意味著三類人工智能醫(yī)療器械注冊審評標(biāo)準(zhǔn)正式落地，產(chǎn)業(yè)發(fā)展的政策瓶頸已被打破。2019年7月17日成立人工智能醫(yī)療器械創(chuàng)新合作平臺，以構(gòu)建開放協(xié)同共享的人工智能醫(yī)療器械創(chuàng)新體系，形成服務(wù)于科學(xué)監(jiān)管、科技創(chuàng)新、產(chǎn)品轉(zhuǎn)化的人工智能醫(yī)療器械創(chuàng)新合作平臺為目標(biāo)愿景，將全力推動醫(yī)學(xué)人工智能產(chǎn)品審批。人工智能醫(yī)療器械是指器械的工作流程優(yōu)化、數(shù)據(jù)處理、輔助診斷等方面，采用以深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)為代表的數(shù)據(jù)驅(qū)動方式訓(xùn)練算法的新一代人工智能技術(shù)的醫(yī)療器械。
一、國內(nèi)外人工智能醫(yī)療器械的概況
人工智能系統(tǒng)有比人類更強(qiáng)的觀察力和洞察力，可快速處理海量醫(yī)療和病人信息，提供輔助建議，幫助決策和減少人為偏差，協(xié)助醫(yī)生將有限精力集中于病人。人工智能系統(tǒng)可基于新信息、結(jié)果和操作不斷學(xué)習(xí)，有助于醫(yī)療專業(yè)人員作出更加明智、及時的決策 。隨著逐漸落實(shí)分級診療和國產(chǎn)醫(yī)療器械的快速發(fā)展，醫(yī)療器械公司為保持其產(chǎn)品競爭優(yōu)勢以瓜分更多基層醫(yī)療市場的蛋糕，除重視硬件質(zhì)量外，也注重設(shè)備智能化，特別是配套的篩查系統(tǒng)和輔助診斷。基層醫(yī)療機(jī)構(gòu)缺乏優(yōu)秀醫(yī)生，對人工智能醫(yī)療器械需求大，將是人工智能浪潮的最大受益者和主戰(zhàn)場。
1.1 人工智能醫(yī)療器械的研發(fā)模式
讓醫(yī)療器械產(chǎn)品變得更加智能是趨勢，可提高產(chǎn)品的競爭力。智能化、數(shù)字化醫(yī)療實(shí)現(xiàn)醫(yī)療設(shè)備的全生命周期管理是國際大公司的發(fā)展重點(diǎn)。在合作方式上，因?yàn)槟壳皼]有明確的收費(fèi)項(xiàng)目，如肺結(jié)節(jié)篩查類產(chǎn)品主要以兩種方式進(jìn)入醫(yī)院：一是以科研項(xiàng)目的方式同醫(yī)院合作；二是同醫(yī)療器械廠商合作，以整體服務(wù)包的形式進(jìn)入。
對于醫(yī)療人工智能公司來說，產(chǎn)品研發(fā)出來以后，與醫(yī)療器械公司的合作有兩種好處，一方面可以通過科研合作的方式，驗(yàn)證自己產(chǎn)品的實(shí)際臨床效果。另一方面，現(xiàn)在大多數(shù)醫(yī)療人工智能公司都在尋找合適的盈利模式。但由于醫(yī)療的嚴(yán)謹(jǐn)性，我國尚無針對人工智能產(chǎn)品的認(rèn)證標(biāo)準(zhǔn)，以往公司常依據(jù)醫(yī)療器械的認(rèn)證流程認(rèn)證二類醫(yī)療器械或者三類醫(yī)療器械。在沒有獲得認(rèn)證之前，很多人工智能公司通過與醫(yī)療器械公司的合作，將系統(tǒng)搭載在醫(yī)療器械上，醫(yī)療器械公司只需去省級食品藥品監(jiān)督管理局進(jìn)行報備，不需要進(jìn)行重新的認(rèn)證，就可在市場上銷售，所得的銷售利潤可以按照雙方提前商量好的比例進(jìn)行分成。
1.2 人工智能醫(yī)療器械的應(yīng)用
2011年IBM的Watson開啟人工智能醫(yī)療的商業(yè)發(fā)展，深度學(xué)習(xí)算法歷經(jīng)多次換代。2016年1月，IBM和美敦力合推糖尿病監(jiān)測APP，借助數(shù)據(jù)分析結(jié)果，可提前3小時預(yù)測低血糖的發(fā)生，大大改善病人生活質(zhì)量。IBM的Watson至今仍未獲得美國食品藥品監(jiān)督管理局的認(rèn)證，但其服務(wù)都是在法律允許的框架之內(nèi)。
根據(jù)全球市場洞察力（Global Market Insight）的數(shù)據(jù)報告顯示，人工智能醫(yī)療影像緊隨人工智能藥物研發(fā)成為第二大細(xì)分市場，占比25%，并將以超過40%的增速發(fā)展，預(yù)計(jì)2024年將達(dá)25億美元規(guī)模。人工智能在醫(yī)療影像領(lǐng)域的應(yīng)用主要包含，圖像或檢查的分類，器官、區(qū)域或標(biāo)記點(diǎn)的定位，目標(biāo)及病理的檢測，組織結(jié)構(gòu)的分割，病灶區(qū)的分割以及圖像配準(zhǔn)等，針對的疾病主要有肺結(jié)節(jié)、糖尿病性視網(wǎng)膜病變、腦卒中等，應(yīng)用方向主要有疾病篩查、病灶勾畫和臟器三維成像。對細(xì)分病種的增強(qiáng)覆蓋和根據(jù)自身業(yè)務(wù)特點(diǎn)對新場景的探索是未來發(fā)展方向。
各公司正通過將人工智能醫(yī)療器械產(chǎn)品投入醫(yī)院免費(fèi)試用來積累大量臨床數(shù)據(jù)，以此提高臨床應(yīng)用的精準(zhǔn)度，為申報國家藥品監(jiān)督管理局認(rèn)證提供可靠的數(shù)據(jù)基礎(chǔ)，縮小臨床結(jié)果與實(shí)驗(yàn)室結(jié)果之間的差異。這卻給不熟悉人工智能醫(yī)療器械審查注意事項(xiàng)的倫理委員會帶來極大挑戰(zhàn)。
1.3 美國人工智能醫(yī)療器械審批現(xiàn)狀
美國食品藥品監(jiān)督管理局的人工智能影像系統(tǒng)分為計(jì)算機(jī)輔助檢測（computer-aided detection）和計(jì)算機(jī)輔助診斷（computer-assisted diagnostic），前者用于檢測身體異常狀況，后者評估疾病的存在與否，比如嚴(yán)重性、疾病分類或預(yù)測。為加快醫(yī)療人工智能審評審批進(jìn)程，2017年7月，美國食品藥品監(jiān)督管理局發(fā)布數(shù)字健康創(chuàng)新行動計(jì)劃，根據(jù)電子健康產(chǎn)品特征、臨床應(yīng)用前景、用戶界面特性和商業(yè)化周期等，建立新型實(shí)效性強(qiáng)的監(jiān)管方法。
美國食品藥品監(jiān)督管理局已批準(zhǔn)多個人工智能醫(yī)療器械，審批遠(yuǎn)快于中國。如2018年2月審批了第一個針對中風(fēng)的人工智能診斷決策支持產(chǎn)品（ContaCT）；同月審批了第一個針對兒童自閉癥的人工智能診斷決策支持系統(tǒng)，Cognoa公司的一款深度學(xué)習(xí)應(yīng)用；2018年4月批準(zhǔn)了IDx公司首個自主式人工智能診斷設(shè)備IDx-DR的軟件程序，可通過查看視網(wǎng)膜照片對糖尿病性視網(wǎng)膜病變進(jìn)行自主診斷；2018年5月批準(zhǔn)了新型人工智能工具OsteoDetect，用人工智能算法協(xié)助醫(yī)生快速診斷腕骨骨折。在醫(yī)學(xué)影像方面，美國食品藥品監(jiān)督管理局首次批準(zhǔn)通用電氣公司的低劑量CT肺癌篩查方案，可精準(zhǔn)成像，發(fā)現(xiàn)早期的微小結(jié)節(jié)，通過自動標(biāo)記難識別的肺結(jié)節(jié)，輔助醫(yī)生快速、精準(zhǔn)地進(jìn)行篩查。
美國醫(yī)療人工智能行業(yè)已有不少產(chǎn)品上市，我國醫(yī)療人工智能行業(yè)也盡快需要拳頭級產(chǎn)品在國際上參與競爭。據(jù)報道，2018年11月底國家藥品監(jiān)督管理局對創(chuàng)新特別審批申請的1 054項(xiàng)項(xiàng)目進(jìn)行審批，同意了192項(xiàng)，含已獲批上市的51項(xiàng)創(chuàng)新醫(yī)療器械，但都不是人工智能醫(yī)療器械。
二、人工智能醫(yī)療器械的研發(fā)現(xiàn)狀
在機(jī)器學(xué)習(xí)與深度學(xué)習(xí)越來越風(fēng)靡的高科技行業(yè)中，利用人工智能進(jìn)行影像三維分割、病理圖像分析處理、個性化精準(zhǔn)醫(yī)療等方面的工作來輔助醫(yī)生進(jìn)行診斷與治療方案擬定已日漸普及。
2.1 我國人工智能醫(yī)療器械分類
原國家食品藥品監(jiān)督管理總局發(fā)布的新版《醫(yī)療器械分類目錄》已于2018年8月1日起施行。特意新增了與人工智能輔助診斷相對應(yīng)的類別，即目錄中的對醫(yī)學(xué)影像與病理圖像的分析與處理。我國人工智能定位于輔助診斷，協(xié)助醫(yī)生而不可直接服務(wù)于病人。按照最新的分類規(guī)定，把醫(yī)用軟件按二類、三類醫(yī)療器械設(shè)置審批通道。若診斷軟件通過其算法提供診斷建議，只能輔助診斷，不直接出具診斷結(jié)論，其相關(guān)產(chǎn)品按二類醫(yī)療器械管理。若診斷軟件通過其算法可自動識別病變部位和提供明確的診斷提示，其風(fēng)險級別相對較高，其相關(guān)產(chǎn)品按三類醫(yī)療器械管理。可見當(dāng)前人工智能產(chǎn)品大多屬于三類醫(yī)療器械。
美國批復(fù)的人工智能產(chǎn)品大都是走二類醫(yī)療器械的認(rèn)證流程，通過跟傳統(tǒng)臨床決策支持系統(tǒng)做等同對比證明安全有效性。相比我國絕大部分人工智能醫(yī)療器械產(chǎn)品被定為三類醫(yī)療器械，大部分人工智能產(chǎn)品在美國都被定為二類醫(yī)療器械，我國對待人工智能醫(yī)療器械產(chǎn)品的審批態(tài)度更慎重，法規(guī)相對更嚴(yán)謹(jǐn)，對臨床評價的路徑控制更嚴(yán)格。
三類醫(yī)療器械的申報需有臨床試驗(yàn)數(shù)據(jù)支撐，部分二類醫(yī)療器械可豁免臨床試驗(yàn)，但診斷軟件的申報可否豁免臨床試驗(yàn)，國家藥品監(jiān)督管理局尚無具體規(guī)范。當(dāng)前人工智能醫(yī)療器械企業(yè)中，僅武漢蘭丁的全自動數(shù)字（遠(yuǎn)程）病例分析儀和EDDA科技公司研發(fā)的IQQA人工智能賦能平臺獲得國家藥品監(jiān)督管理局認(rèn)證，其他企業(yè)都還處于免費(fèi)提供試用的階段。目前尚未有一款產(chǎn)品獲得三類人工智能醫(yī)療器械證書。業(yè)內(nèi)認(rèn)為我國人工智能醫(yī)療器械獲得注冊證的困難之處在于：對產(chǎn)品的認(rèn)識速度跟不上對審評的認(rèn)識程度，對高風(fēng)險產(chǎn)品的臨床驗(yàn)證滿足不了臨床的實(shí)際需求。而這些問題的解決還有賴技術(shù)的突破和臨床驗(yàn)證的積累。
2.2 企業(yè)應(yīng)對策略
為適應(yīng)國家政策，我國大部分人工智能醫(yī)療器械企業(yè)刪除和增加診斷功能，同時按照二、三類醫(yī)療器械申報。當(dāng)前一些企業(yè)已獲二類人工智能醫(yī)療器械證書，不少人工智能企業(yè)都在積極進(jìn)行三類醫(yī)療器械的申報。隨著分類目錄的出現(xiàn)，現(xiàn)階段各家醫(yī)療人工智能公司在研發(fā)產(chǎn)品的同時理應(yīng)加速國家藥品監(jiān)督管理局認(rèn)證的過程，這樣在市場化過程中才可以在相對平等的條件下和醫(yī)療器械公司、醫(yī)療機(jī)構(gòu)達(dá)成合作。在具備盈利可能性的前提下，保護(hù)自己的品牌不成為醫(yī)療器械公司的附庸。
2.3 已進(jìn)入注冊申報階段
根據(jù)醫(yī)療器械注冊流程，要經(jīng)過產(chǎn)品定型、檢測、臨床試驗(yàn)、注冊申報、技術(shù)審評、行政審批這六步。檢測報告和臨床試驗(yàn)報告是注冊申報的前提條件，通過之后國家藥品監(jiān)督管理局才會正式受理。目前已有90多家企業(yè)跟國家藥品監(jiān)督管理局就三類證書的申請進(jìn)行溝通，具體包括數(shù)據(jù)集的整理、敏感性特異性指標(biāo)的評估、安全性有效性的評估等方面。國家藥品監(jiān)督管理局2019年5月27日公布了《創(chuàng)新醫(yī)療器械特別審查申請審查結(jié)果公示》(2019年第6號)，深圳硅基智能科技有限公司申報的“糖尿病視網(wǎng)膜病變分析軟件”產(chǎn)品已獲批創(chuàng)新醫(yī)療器械，進(jìn)入臨床試驗(yàn)及審評快速綠色通道。國家藥品監(jiān)督管理局在創(chuàng)新產(chǎn)品的審批申報方面還開通申報的綠色通道等優(yōu)惠政策。
中國食品藥品檢定研究院負(fù)責(zé)人工智能醫(yī)療器械產(chǎn)品的質(zhì)量評價與研究工作。并非全部產(chǎn)品需臨床試驗(yàn)后才能上市，源于真實(shí)世界的臨床試驗(yàn)數(shù)據(jù)可用于臨床前及臨床的評價，前瞻性和回顧性的臨床數(shù)據(jù)可用于臨床評價。中國食品藥品檢定研究院規(guī)劃的人工智能醫(yī)療器械檢驗(yàn)體系有四個步驟：標(biāo)準(zhǔn)數(shù)據(jù)、體模測試、軟件性能、模擬對抗，已建立起了彩色眼底圖像和肺部CT影像兩個數(shù)據(jù)庫。數(shù)據(jù)庫構(gòu)建過程主要包括數(shù)據(jù)收集、圖像標(biāo)注、數(shù)據(jù)管理三個步驟。
三、人工智能醫(yī)療器械倫理審查的核心問題
人工智能醫(yī)療器械倫理審查的問題除人工智能和醫(yī)療器械各自問題外，也有人工智能與醫(yī)療器械疊加帶來的問題。已有文獻(xiàn)概述了醫(yī)療器械倫理審查的要點(diǎn)。人工智能應(yīng)用于醫(yī)療領(lǐng)域的倫理問題，包括公平受益、失業(yè)、患者隱私、醫(yī)療安全、責(zé)任劃分和監(jiān)管等。其原因涉及未遵守基本倫理原則、技術(shù)缺陷、立法和監(jiān)管缺失、隱含算法偏見、數(shù)據(jù)質(zhì)量欠佳等。鑒于目前人工智能算法準(zhǔn)確度和適應(yīng)性是限制其臨床應(yīng)用的瓶頸，因此人工智能醫(yī)療器械倫理審查的核心問題包括難以準(zhǔn)確評估風(fēng)險、建立恰當(dāng)類型數(shù)據(jù)庫、確保數(shù)據(jù)安全、算法更新導(dǎo)致軟件迭代等。
3.1 難以準(zhǔn)確評估風(fēng)險
人工智能醫(yī)療器械的使用與健康息息相關(guān)，風(fēng)險評估尤為重要。臨床使用風(fēng)險應(yīng)考慮數(shù)據(jù)質(zhì)量控制、算法泛化能力的直接影響和算力所用計(jì)算資源（即運(yùn)行環(huán)境）失效的間接影響。為使風(fēng)險最小化，確保人工智能醫(yī)療器械的可靠性，需在使用過程中評估其風(fēng)險。倫理審查中應(yīng)注意其考量因素是否包括了臨床使用中的假陽性、假陰性和進(jìn)口軟件的中外差異，以及風(fēng)險管理活動相關(guān)的預(yù)期用途、使用場景、核心功能及措施、要求。
3.2 建立恰當(dāng)類型數(shù)據(jù)庫
數(shù)據(jù)是人工智能醫(yī)療器械的核心要素，將成為制約人工智能醫(yī)療器械發(fā)展的瓶頸。因此，數(shù)據(jù)庫的建立是人工智能醫(yī)療器械審批的先行之舉，2019年7月17日之前我國僅存在肺結(jié)節(jié)和眼底兩類影像數(shù)據(jù)庫，未來將建立肺CT、腦磁共振、冠狀動脈CT血管造影等更多測試樣本數(shù)據(jù)庫，且明確測試數(shù)據(jù)庫的類型包含檢驗(yàn)數(shù)據(jù)庫、真實(shí)世界數(shù)據(jù)。2018年9月以來，多達(dá)230家醫(yī)院IBM Watson診療系統(tǒng)由于開不安全藥物、診斷錯誤而備受質(zhì)疑，導(dǎo)致美國德克薩斯州安德森腫瘤中心在已投入6 700萬美元后放棄該項(xiàng)目。據(jù)《華爾街日報》等媒體報道，Watson診療系統(tǒng)的訓(xùn)練用真實(shí)病例數(shù)很小，肺癌635例已屬最多，卵巢癌106例為最少。基于足夠數(shù)量的數(shù)據(jù)庫樣本用于訓(xùn)練人工智能醫(yī)療器械，將大幅降低其誤診率和漏診率。
3.3 確保數(shù)據(jù)安全
數(shù)據(jù)安全已成為人工智能的關(guān)注重點(diǎn)。人工智能醫(yī)療器械的網(wǎng)絡(luò)安全存在較多隱患且無法得到及時修復(fù)，有些企業(yè)并不須具備必要的網(wǎng)絡(luò)安全風(fēng)險防控能力，其網(wǎng)絡(luò)安全主動發(fā)現(xiàn)和監(jiān)測預(yù)警能力均有待提升。有些企業(yè)在設(shè)計(jì)時沒有考慮健康數(shù)據(jù)傳輸過程中的保密性等安全問題。企業(yè)作為運(yùn)營者應(yīng)承擔(dān)主體防護(hù)責(zé)任，主管部門應(yīng)履行監(jiān)管責(zé)任。數(shù)據(jù)安全性的提高需得到醫(yī)療機(jī)構(gòu)的配合，醫(yī)療機(jī)構(gòu)在對健康數(shù)據(jù)進(jìn)行歸檔、備份等數(shù)據(jù)傳輸操作時，尤其是通過公共互聯(lián)網(wǎng)傳輸敏感數(shù)據(jù)時，若未對敏感數(shù)據(jù)進(jìn)行加密處理，容易造成患者治療信息、基因等重要醫(yī)療健康數(shù)據(jù)信息泄露。
醫(yī)療行業(yè)成為數(shù)據(jù)泄露的重災(zāi)區(qū)，由黑客滲透入侵導(dǎo)致的數(shù)據(jù)泄露事件增速最快，由于服務(wù)器配置不當(dāng)、漏洞等因素造成的未授權(quán)訪問問題也日益增多。2017年美國就有15次重大醫(yī)療信息泄露事件，約300萬名病人的信息被泄露。我國同樣面臨類似嚴(yán)峻挑戰(zhàn)，2017年9月《法制日報》報道了一醫(yī)院服務(wù)信息系統(tǒng)遭黑客入侵，多達(dá)7億多條信息被泄露，8 000多萬條信息被販賣。
3.4 算法更新導(dǎo)致軟件迭代
軟件更新是導(dǎo)致人工智能軟件召回的主要原因之一，應(yīng)考慮對軟件安全性和有效性的正面和負(fù)面影響。軟件更新包括數(shù)據(jù)驅(qū)動型和算法驅(qū)動型軟件更新，由此產(chǎn)生重大軟件更新、輕微軟件更新及其版本命名規(guī)則。表面看來，算法作為一種數(shù)學(xué)結(jié)構(gòu)，具有客觀的和確定性的特征。因此，算法決策應(yīng)該不大可能會受到人們的情感和價值觀的影響，但實(shí)際情況卻恰恰相反。人工智能的算法雖說只是一種數(shù)學(xué)表達(dá)，看似與價值無關(guān)，實(shí)際上卻不可避免地存在主觀偏見。這種偏見的來源是多方面的，既有可能來自于訓(xùn)練系統(tǒng)的數(shù)據(jù)輸入，又有可能來自于編程人員的價值觀嵌入。為加快人工智能醫(yī)療器械的審批，基于現(xiàn)有歷史數(shù)據(jù)的回顧性研究可用于臨床評價，甚至算法性能評估可采用屬于回顧性研究的第三方數(shù)據(jù)庫。
2019年4月2日美國食品藥品監(jiān)督管理局發(fā)布人工智能醫(yī)療器械變更的監(jiān)管框架的討論稿及征求意見，已于2019年6月3日前提交了討論意見稿。擬議的監(jiān)管框架可使美國食品藥品監(jiān)督管理局和制造商從上市前開發(fā)到上市后對軟件產(chǎn)品性能進(jìn)行評估和監(jiān)控。這個潛在的框架允許將人工智能醫(yī)療器械的迭代改進(jìn)能力納入其監(jiān)督管理范圍之內(nèi)，同時確保患者的安全。也需向公眾征求對人工智能醫(yī)療器械監(jiān)管的意見和看法。
四、倫理審查的要點(diǎn)
新事物該如何監(jiān)管，對于企業(yè)和監(jiān)管部門來說都是挑戰(zhàn)。為給所有企業(yè)一個導(dǎo)引，2018年12月25日在北京舉辦“人工智能類醫(yī)療器械注冊申報公益培訓(xùn)”，公布了人工智能領(lǐng)域三類醫(yī)療器械審批要點(diǎn)，界定了適用范圍，講解了人工智能醫(yī)療產(chǎn)品在審批過程中所面臨的數(shù)據(jù)庫、數(shù)據(jù)安全、軟件更新、云計(jì)算服務(wù)等問題。醫(yī)療器械技術(shù)審評中心安排了資深醫(yī)療器械審評專家，對醫(yī)療器械的法規(guī)與注冊流程、設(shè)計(jì)開發(fā)與注冊申報資料要求、醫(yī)療器械臨床評價與臨床試驗(yàn)、創(chuàng)新醫(yī)療器械特別審批程序、人工智能醫(yī)療器械數(shù)據(jù)質(zhì)量控制要求、深度學(xué)習(xí)輔助決策軟件審評要點(diǎn)等進(jìn)行了專題講解。但這些審批流程和要點(diǎn)不是法律法規(guī)，而是技術(shù)文件，而技術(shù)文件可以根據(jù)技術(shù)的發(fā)展和產(chǎn)品的特點(diǎn)變化而改變。三類醫(yī)療器械審批要點(diǎn)的出爐對于醫(yī)療人工智能領(lǐng)域來說，無疑是一重大突破，尤其是對之前軟件涉及不明確的數(shù)據(jù)問題，算法更新問題以及風(fēng)險評估維度等都給出了定性。國家藥品監(jiān)督管理局跟美國食品藥品監(jiān)督管理局溝通緊密，亦參考了美國的做法，目前已經(jīng)形成統(tǒng)一標(biāo)準(zhǔn)。
原國家食品藥品監(jiān)督管理總局與國家衛(wèi)生計(jì)生委于2016年3月共同頒布了《醫(yī)療器械臨床試驗(yàn)質(zhì)量管理規(guī)范》，告別了參考《藥物臨床試驗(yàn)質(zhì)量管理規(guī)范》的歷史，明確了醫(yī)療器械臨床試驗(yàn)的倫理審查要求。但迄今尚無針對醫(yī)療器械臨床試驗(yàn)的倫理審查工作指導(dǎo)原則，更多參照《藥物臨床試驗(yàn)倫理審查工作指導(dǎo)原則》。評估受試者的風(fēng)險與受益是倫理審查的核心任務(wù)。醫(yī)療器械臨床試驗(yàn)項(xiàng)目的評審主要從受試產(chǎn)品與試驗(yàn)操作兩個方面予以關(guān)注和考慮。倫理委員會除審查醫(yī)療器械本身的科學(xué)性和倫理性外，也要審查醫(yī)療器械與人工智能軟件疊加帶來的風(fēng)險與受益。鑒于目前人工智能醫(yī)療器械大部分仍處于注冊申報階段，臨床正在或即將開展的大部分項(xiàng)目是企業(yè)以科研方式進(jìn)入醫(yī)院，并免費(fèi)試用為主。醫(yī)療機(jī)構(gòu)應(yīng)與企業(yè)簽訂合同，明確補(bǔ)償和傷害受試者的賠償，也要明確未來產(chǎn)品成果和知識產(chǎn)權(quán)的分享方式。鑒于人工智能醫(yī)療器械的前沿性，必要時需聘請獨(dú)立顧問。
4.1 適用范圍
根據(jù)深度學(xué)習(xí)輔助決策醫(yī)療器械軟件分類，有醫(yī)療器械數(shù)據(jù)、深度學(xué)習(xí)、輔助決策、醫(yī)療器械軟件；依據(jù)軟件類型可分為人工智能軟件組件（醫(yī)療器械內(nèi)含的人工智能軟件）和人工智能獨(dú)立軟件（本身即為醫(yī)療器械的人工智能軟件）；根據(jù)軟件用途分為輔助決策（包括但不限于輔助篩查、輔助識別、輔助診斷、輔助治療），以及前處理（如成像質(zhì)量改善、成像速度提升、圖像重建）、流程優(yōu)化（如一鍵操作）、常規(guī)后處理（如圖像分割、數(shù)據(jù)測量）等非輔助決策。其中人工智能獨(dú)立軟件的適用范圍包括：（1）明確預(yù)期用途、使用場景和核心功能。（2）包括但不限于處理對象、目標(biāo)疾病、臨床用途、患者人群、目標(biāo)用戶、使用場所、數(shù)據(jù)采集設(shè)備要求(若適用)、臨床使用限制(若適用)。人工智能軟件組件的適用范圍可參照人工智能獨(dú)立軟件要求，并在產(chǎn)品適用范圍中予以體現(xiàn)。
4.2 研究要求與資料
所有人工智能軟件功能均應(yīng)開展需求分析、數(shù)據(jù)收集(若適用)、算法設(shè)計(jì)和軟件確認(rèn)；且每項(xiàng)人工智能軟件功能應(yīng)獨(dú)立開展需求分析、數(shù)據(jù)收集(若適用)、算法設(shè)計(jì)、軟件確認(rèn)。對于算法設(shè)計(jì)，提供算法設(shè)計(jì)的相關(guān)資料，包括算法選擇及訓(xùn)練。要注意是否采取避免偏見的措施。算法設(shè)計(jì)應(yīng)當(dāng)考慮算法選擇、算法訓(xùn)練、網(wǎng)絡(luò)安全防護(hù)、算法性能評估等活動的質(zhì)控要求。建議數(shù)據(jù)驅(qū)動與知識驅(qū)動相結(jié)合進(jìn)行算法設(shè)計(jì)，以提升算法可解釋性。算法性能上要注意假陽性與假陰性指標(biāo)、重復(fù)性與再現(xiàn)性、魯棒性/健壯性。對于深度學(xué)習(xí)非輔助決策軟件，前處理需遵循算法性能評估、臨床評價；流程優(yōu)化需算法性能評估；常規(guī)后處理需算法性能評估，必要時需臨床評價。
研究資料包括軟件描述文檔、網(wǎng)絡(luò)安全描述文檔、軟件版本命名規(guī)則。軟件描述文檔要求核心算法部分應(yīng)當(dāng)結(jié)合本審評要點(diǎn)提供相應(yīng)算法研究資料，以及測試集、公開數(shù)據(jù)庫、測評數(shù)據(jù)庫、回顧性研究、算法性能評估結(jié)果比較分析資料。其他資料應(yīng)當(dāng)提供網(wǎng)絡(luò)與數(shù)據(jù)安全過程控制研究資料、第三方數(shù)據(jù)庫(測評、公開)的基本信息(如名稱、創(chuàng)建者、數(shù)據(jù)量、數(shù)據(jù)分布)和使用情況(如使用量、數(shù)據(jù)分布、比重、資質(zhì))。
研究者手冊中，輔助決策軟件應(yīng)明確軟件的適用范圍、臨床使用限制、注意事項(xiàng)、用戶培訓(xùn)、數(shù)據(jù)采集設(shè)備要求、數(shù)據(jù)采集操作規(guī)范、輸入與輸出、算法性能評估總結(jié)(測試集基本信息、評估指標(biāo)與結(jié)果)、臨床評價總結(jié)(臨床數(shù)據(jù)基本信息、評價指標(biāo)與結(jié)果)等信息。此外，企業(yè)應(yīng)結(jié)合法規(guī)、標(biāo)準(zhǔn)、用戶、產(chǎn)品、數(shù)據(jù)、功能、性能、接口、用戶界面、網(wǎng)絡(luò)安全等分析需求，以避免臨床需求和使用風(fēng)險。
4.3 研究方案
臨床試驗(yàn)需基于軟件的預(yù)期用途、使用場景和核心功能，按照診斷試驗(yàn)進(jìn)行臨床試驗(yàn)設(shè)計(jì)，其核心要點(diǎn)包括：（1）試驗(yàn)設(shè)計(jì)：建議優(yōu)先選擇同品種產(chǎn)品或臨床參考標(biāo)準(zhǔn)進(jìn)行非劣效對照設(shè)計(jì)，次之可選擇用戶結(jié)合軟件聯(lián)合決策與用戶單獨(dú)決策進(jìn)行優(yōu)效對照設(shè)計(jì)；非劣效或優(yōu)效界值的確定應(yīng)有充分臨床依據(jù)。此外考慮到用戶的差異性，可選擇多閱片者多病例試驗(yàn)設(shè)計(jì)。（2）觀察指標(biāo)：以敏感性、特異性、接受者操作特征曲線（receiver operating characteristic,ROC)/曲線下面積(area under curve,AUC)為主要指標(biāo)，亦可選擇時間效率等指標(biāo)作為評價指標(biāo)。（3）入排標(biāo)準(zhǔn)：基于目標(biāo)疾病的流行病學(xué)特征。（4）參與機(jī)構(gòu)：異于訓(xùn)練數(shù)據(jù)主要來源機(jī)構(gòu)，地域分布盡可能廣泛，機(jī)構(gòu)數(shù)量需盡可能多。
4.4 風(fēng)險控制
風(fēng)險考量即是對人工智能產(chǎn)品在使用過程中的風(fēng)險進(jìn)行評價，以達(dá)到抑制風(fēng)險，提高人工智能產(chǎn)品可靠性的目的。主要考量臨床使用風(fēng)險，如假陽性（誤診，過度醫(yī)療風(fēng)險），假陰性（漏診，快速進(jìn)展疾病風(fēng)險）和進(jìn)口軟件的中外差異(人種、流行病學(xué)、臨床診療準(zhǔn)則)。同時考量風(fēng)險管理活動，包括預(yù)期用途(目標(biāo)疾病、臨床用途、重要程度、緊迫程度)、使用場景(適用人群、目標(biāo)用戶、使用場所、臨床流程)、核心功能(處理對象、數(shù)據(jù)兼容性、功能類型)，采取必要的軟件設(shè)計(jì)、防護(hù)、警示等措施管理軟件全生命周期的風(fēng)險。也要考慮臨床使用限制，包括臨床禁用、慎用等場景。
4.5 數(shù)據(jù)庫
數(shù)據(jù)收集應(yīng)包括目標(biāo)疾病流行病學(xué)特征，如疾病構(gòu)成(分型、分級、分期)、人群分布(健康狀態(tài)、性別、年齡)、統(tǒng)計(jì)指標(biāo)(患病率、治愈率)、并發(fā)癥與類似疾病等。采集的數(shù)據(jù)應(yīng)當(dāng)進(jìn)行數(shù)據(jù)脫敏以保護(hù)患者隱私。數(shù)據(jù)脫敏應(yīng)當(dāng)明確脫敏的類型（靜態(tài)、動態(tài)）、規(guī)則、程度、方法。
臨床評價可采用基于現(xiàn)有歷史數(shù)據(jù)的回顧性研究。回顧性研究應(yīng)當(dāng)在設(shè)計(jì)時考慮并嚴(yán)格控制偏倚問題，原則上應(yīng)當(dāng)包含多家、不同地域、不同層級的代表性臨床機(jī)構(gòu)(非訓(xùn)練數(shù)據(jù)主要來源機(jī)構(gòu))的同期數(shù)據(jù)，盡可能來自多種、不同采集參數(shù)的采集設(shè)備。使用原則(基于風(fēng)險)上，高風(fēng)險軟件需臨床預(yù)試驗(yàn)或臨床試驗(yàn)的補(bǔ)充，中風(fēng)險軟件需臨床預(yù)試驗(yàn)或替代臨床試驗(yàn)。
第三方數(shù)據(jù)庫屬于回顧性研究的一種特殊形式，可用于算法性能評估，但未必能夠完全滿足軟件確認(rèn)的要求。第三方數(shù)據(jù)庫類型包括非測評數(shù)據(jù)庫和測評數(shù)據(jù)庫，其中公開數(shù)據(jù)庫等非測評數(shù)據(jù)庫不可用于軟件確認(rèn)，評測數(shù)據(jù)庫可用于軟件確認(rèn)。測評數(shù)據(jù)庫需滿足可擴(kuò)展性、網(wǎng)絡(luò)與數(shù)據(jù)安全因素，并具有權(quán)威性、科學(xué)性、規(guī)范性、多樣性、封閉性、動態(tài)性。
4.6 數(shù)據(jù)安全
企業(yè)上市前后均應(yīng)考慮建設(shè)軟件自身網(wǎng)絡(luò)安全能力，也應(yīng)在軟件全生命周期過程中考慮網(wǎng)絡(luò)與數(shù)據(jù)安全過程控制要求。基本考量指標(biāo)有脫敏數(shù)據(jù)轉(zhuǎn)移、封閉與開放網(wǎng)絡(luò)環(huán)境、數(shù)據(jù)接口兼容性、數(shù)據(jù)備份與恢復(fù)。云計(jì)算服務(wù)應(yīng)明確服務(wù)模式、部署模式、核心功能、數(shù)據(jù)接口、網(wǎng)絡(luò)安全能力和服務(wù)(質(zhì)量)協(xié)議。移動計(jì)算終端需結(jié)合終端的類型、特點(diǎn)和使用風(fēng)險明確性能指標(biāo)要求。
4.7 軟件更新
重大軟件更新要許可事項(xiàng)變更，而輕微軟件更新需質(zhì)量體系控制，但無需申請注冊變更。算法驅(qū)動型更新包括軟件所用算法、算法結(jié)構(gòu)、算法流程、所用框架、輸入與輸出等發(fā)生改變，包括算法重新訓(xùn)練（即棄用原有訓(xùn)練數(shù)據(jù)）；數(shù)據(jù)驅(qū)動型指僅由訓(xùn)練數(shù)據(jù)量增加而促使軟件更新，實(shí)為算法驅(qū)動型軟件更新的特殊情況。對于重大軟件更新，判定需遵循的原則為算法驅(qū)動型軟件更新通常屬于重大軟件更新，數(shù)據(jù)驅(qū)動型軟件更新若導(dǎo)致算法評估結(jié)果發(fā)生顯著性改變(與前次注冊/倫理批件相比)則屬于重大軟件更新。
無論何種軟件更新，均應(yīng)根據(jù)質(zhì)量管理體系要求，驗(yàn)證與確認(rèn)與軟件更新類型、內(nèi)容和程度相適宜的活動。數(shù)據(jù)驅(qū)動型和算法驅(qū)動型軟件更新均應(yīng)再評估算法性能和臨床應(yīng)用。屬于臨床科研項(xiàng)目的數(shù)據(jù)驅(qū)動型和算法驅(qū)動型軟件更新，均需按照新項(xiàng)目進(jìn)行倫理初始審查。對于高風(fēng)險軟件，適用范圍變更應(yīng)當(dāng)開展臨床試驗(yàn)，其他情況原則上可使用舊的臨床試驗(yàn)數(shù)據(jù)和回顧性研究。對于中低風(fēng)險軟件，可使用臨床試驗(yàn)數(shù)據(jù)和回顧性研究。
要明確并區(qū)分重大軟件更新和輕微軟件更新的版本命名規(guī)則，重大軟件更新應(yīng)列舉所有典型情況，并涵蓋數(shù)據(jù)驅(qū)動型和算法驅(qū)動型軟件更新。
標(biāo)簽：第二三類醫(yī)療器械注冊證代辦、醫(yī)療器械注冊證代辦