騰訊優(yōu)圖開源業(yè)界首個3D醫(yī)療影像大數(shù)據(jù)預訓練模型MedicalNet!
雷鋒網(wǎng)AI開發(fā)者:近日,騰訊優(yōu)圖首個醫(yī)療 AI深度學習預訓練模型medical net(https://github . com/Tencent/medical net)正式對外開放,這也是全球首個提供多種3D 醫(yī)療圖像專用預訓練模型的項目。
MedicalNet具有以下特點:
MedicalNet提供的預訓練網(wǎng)絡可以遷移到任何3D 醫(yī)療圖像AI應用,包括但不限于分割、檢測和分類等任務。
尤其適用于小數(shù)據(jù)醫(yī)療圖像AI場景,可以加速網(wǎng)絡收斂,提升網(wǎng)絡性能;
通過簡單配置少量接口參數(shù)值就可以進行微調訓練;
項目提供多卡訓練和測試評估代碼,接口豐富,擴展性強;
提供不同深度的3D ResNet預訓練模型,可供不同數(shù)據(jù)級別的應用使用。
為了生成3D 醫(yī)療圖像的預訓練模型,MedicalNet聚合了多個來自不同3D 醫(yī)療域的具有語義分割的小規(guī)模數(shù)據(jù)集,并提出了一種基于多分支解碼器的多域聯(lián)合訓練模型來解決數(shù)據(jù)集中的標簽缺失問題。
整個系統(tǒng)的工作流程如下圖所示:
騰訊團隊將MedicalNet模型移植到預訓練前未接觸過的內臟和LIDC數(shù)據(jù)集,完成了全新的肺部分割和肺結節(jié)分類任務,并與常用的train from scratch和Kinetics video 3D預訓練模型進行了性能和收斂速度的對比。
在肺分割的應用中,與從零開始訓練相比,MedicalNet在Dice上有16%到33%的提高,在動力學上有4%到7%的提高。在肺結節(jié)良惡性分類的應用中,與從零開始訓練相比,MedicalNet的預測準確率(Acc)提高了6% ~ 23%,與動力學相比,提高了7% ~ 20%。
在收斂速度方面,實驗表明,無論是在肺部分割任務還是肺結節(jié)分類任務中,MedicalNet都能為模型提供較低的初始損失值,明顯加快了損失下降的速度。下圖是MedicalNet性能的一個簡單例子,展示了在全器官分割應用中,在一定訓練迭代下,不同預訓練方法的測試結果。可以看出,基于騰訊MedicalNet模型的結果最接近地面真實,遠優(yōu)于train from scratch的結果。
更多詳情請參考論文《3D醫(yī)學圖像分析的遷移學習》(arxiv print arxiv:1900.00625(2019))。