器審專家：AI醫(yī)療器械“學(xué)然后知不足”

zhg

機(jī)器學(xué)習(xí)（ML）是人工智能的核心領(lǐng)域，專門研究計(jì)算機(jī)模擬人類學(xué)習(xí)行為的方法。深度學(xué)習(xí)（DL）于2006年正式提出，作為新一代人工智能技術(shù)的代表引領(lǐng)了本次人工智能熱潮，幾乎成為人工智能的代稱。深度學(xué)習(xí)實(shí)為人工神經(jīng)網(wǎng)絡(luò)算法，特征提取無須人為干預(yù)自動(dòng)完成，是基于海量數(shù)據(jù)和高算力的黑盒算法。

人工智能醫(yī)療器械是指使用人工智能技術(shù)的醫(yī)療器械，包括人工智能獨(dú)立軟件和人工智能軟件組件。人工智能技術(shù)在醫(yī)療器械的應(yīng)用主要包括前處理（如成像速度提升）、流程優(yōu)化（如一鍵操作）、常規(guī)后處理（如圖像分割）、輔助決策（如輔助篩查、輔助識(shí)別、輔助診斷、輔助治療）等方面，能夠提高診治的準(zhǔn)確性和效率，降低醫(yī)生誤診漏診率和工作強(qiáng)度，具有良好的臨床價(jià)值和應(yīng)用前景。

在我國(guó)，使用傳統(tǒng)人工智能技術(shù)的醫(yī)療器械已有多款產(chǎn)品注冊(cè)上市，如乳腺癌、肺結(jié)節(jié)、結(jié)腸息肉等輔助識(shí)別軟件和心電分析軟件。而使用深度學(xué)習(xí)等新一代人工智能技術(shù)的醫(yī)療器械典型產(chǎn)品有眼底照片糖網(wǎng)輔助篩查軟件、CT圖像肺結(jié)節(jié)輔助識(shí)別軟件、病理圖像輔助識(shí)別軟件，目前仍主要處于研發(fā)、檢測(cè)、臨床試驗(yàn)階段。

   

深度學(xué)習(xí)雖然在商業(yè)領(lǐng)域已取得成功，但在醫(yī)學(xué)領(lǐng)域應(yīng)用還存在諸多問題。由于醫(yī)學(xué)是經(jīng)驗(yàn)科學(xué)，本身存在著不確定性和開放性，決策路徑復(fù)雜，簡(jiǎn)單將商業(yè)成功經(jīng)驗(yàn)移植到醫(yī)學(xué)場(chǎng)景并不能達(dá)到預(yù)期效果。

   

首先，深度學(xué)習(xí)是個(gè)“黑盒”，可解釋性差。醫(yī)生知其然但不知其所以然，影響后續(xù)醫(yī)療活動(dòng)的開展，特別是長(zhǎng)期使用產(chǎn)生依賴性之后較難發(fā)現(xiàn)產(chǎn)品出錯(cuò)。

   

其次，深度學(xué)習(xí)以數(shù)據(jù)為基礎(chǔ)，但醫(yī)療數(shù)據(jù)不能完全代表臨床決策要素，同時(shí)其反映的是數(shù)據(jù)之間的相關(guān)性而非因果性，需要權(quán)衡對(duì)于醫(yī)生臨床決策的影響及其受益與風(fēng)險(xiǎn)。

   

第三，深度學(xué)習(xí)需要大量高質(zhì)量數(shù)據(jù)進(jìn)行訓(xùn)練，滿足相應(yīng)條件的醫(yī)療數(shù)據(jù)相對(duì)較少。一是醫(yī)療數(shù)據(jù)較為復(fù)雜，具有多維度特征，增加數(shù)據(jù)標(biāo)注和算法訓(xùn)練難度；二是醫(yī)療數(shù)據(jù)相對(duì)封閉，數(shù)據(jù)產(chǎn)權(quán)關(guān)系不清，數(shù)據(jù)獲取較為困難；三是醫(yī)療數(shù)據(jù)需要人工標(biāo)注形成標(biāo)簽以供訓(xùn)練，人為因素影響嚴(yán)重。

   

最后，訓(xùn)練數(shù)據(jù)缺乏多樣性，數(shù)據(jù)量不足，缺乏魯棒性設(shè)計(jì)，導(dǎo)致算法泛化能力弱，重復(fù)性和再現(xiàn)性差，臨床難以落地和推廣。

因此，只有在數(shù)據(jù)質(zhì)量控制、算法泛化能力以及臨床使用風(fēng)險(xiǎn)等方面扎實(shí)做好工作，才能保證深度學(xué)習(xí)醫(yī)療器械的安全性和有效性。此外，需要數(shù)據(jù)驅(qū)動(dòng)與知識(shí)驅(qū)動(dòng)相結(jié)合，以提升深度學(xué)習(xí)的可解釋性。