澳门永利赌场官网网站-永利赌场铁树开花-裕昌太阳城户型图

北理工團(tuán)隊(duì)在醫(yī)學(xué)大模型影像應(yīng)用領(lǐng)域取得新突破


5502717dac9443e2ab6cf39357b98046.png

近日,北京理工大學(xué)光電學(xué)院許廷發(fā)教授團(tuán)隊(duì)在醫(yī)學(xué)大模型影像應(yīng)用方面取得重要突破,提出了一種基于“對(duì)應(yīng)提示(Corresponding Prompts)”引導(dǎo)的 Segment Anything Model(SAM)交互配準(zhǔn)新框架PromptReg。該框架通過(guò)創(chuàng)新的提示反演引擎與邊際化策略,實(shí)現(xiàn)了無(wú)須訓(xùn)練、非迭代的高精度醫(yī)學(xué)圖像配準(zhǔn)。相關(guān)研究成果以“PromptReg: Interactive Registration by ‘Corresponding Prompts’ for Segment Anything Model (SAM)”為題,發(fā)表于國(guó)際圖像處理領(lǐng)域頂級(jí)期刊 IEEE Transactions on Image Processing(T-IP,影響因子 13.7)。論文第一作者,2025年北京理工大學(xué)博士畢業(yè)生,現(xiàn)在英國(guó)倫敦大學(xué)學(xué)院(University College London,UCL)博士后研究員,通訊作者為北京理工大學(xué)許廷發(fā)教授與李佳男長(zhǎng)聘教授 。

醫(yī)學(xué)影像配準(zhǔn)旨在將不同時(shí)間或不同個(gè)體的圖像對(duì)齊到同一坐標(biāo)系,是臨床影像分析的核心環(huán)節(jié) 。傳統(tǒng)基于強(qiáng)度的迭代算法和有監(jiān)督學(xué)習(xí)模型往往面臨計(jì)算成本高、依賴(lài)大規(guī)模標(biāo)注數(shù)據(jù)或局部精度不足等瓶頸 。針對(duì)這些挑戰(zhàn),研究團(tuán)隊(duì)提出將配準(zhǔn)任務(wù)重新定義為“在待配準(zhǔn)圖像中分割對(duì)應(yīng)區(qū)域?qū)Γ≧OIs)”的問(wèn)題 ,利用視覺(jué)基礎(chǔ)模型 SAM 的跨域泛化能力,實(shí)現(xiàn)了由“稠密特征匹配”向“區(qū)域級(jí)邏輯推理”的范式轉(zhuǎn)變 。

517da6132ea147c68f9d0108eadd6daa.png

圖1 PromptReg 框架流程圖

如圖 1 所示,PromptReg 框架由 SAM 基礎(chǔ)推理架構(gòu)與創(chuàng)新的反演提示引擎(Inverse Prompt Engine, IPE)組成 。反演提示引擎包含顯式反演與隱式反演雙重機(jī)制:隱式反演機(jī)制利用特征原型(Prototype)的雅可比矩陣(Jacobian)進(jìn)行一階泰勒展開(kāi),將給定提示反演至目標(biāo)圖像的提示空間 ;顯式反演機(jī)制則通過(guò)最小二乘法估計(jì)特征空間到圖像空間的變換,直接生成直觀(guān)的正負(fù)點(diǎn)提示或掩碼提示 。此外,團(tuán)隊(duì)引入了邊際化策略(Marginalization),通過(guò)空間增強(qiáng)與多提示采樣聚合,有效過(guò)濾隨機(jī)特征噪聲。

圖片3.png

圖2 多數(shù)據(jù)集醫(yī)學(xué)圖像配準(zhǔn)性能(Dice↑與TRE↓)定量分析

359dd047f9b04b77b165c0d3938241e2.png

圖3 不同提示設(shè)置(數(shù)量與位置)在跨個(gè)體前列腺M(fèi)RI及個(gè)體內(nèi)病理圖像配準(zhǔn)中的定性分析

如圖2,3所示,研究團(tuán)隊(duì)在 3D 前列腺 MR、3D 腹部 CT、3D 肺部 CT、2D 病理切片及 2D 遙感影像等五個(gè)跨領(lǐng)域數(shù)據(jù)集上進(jìn)行了系統(tǒng)驗(yàn)證 。實(shí)驗(yàn)結(jié)果表明:PromptReg 在 Dice 指標(biāo)和目標(biāo)配準(zhǔn)誤差(TRE)上全面超越了經(jīng)典的 NiftyReg 迭代算法及 VoxelMorph 等無(wú)監(jiān)督模型 。即使不使用任何標(biāo)注數(shù)據(jù)進(jìn)行訓(xùn)練,PromptReg 的表現(xiàn)仍能與需要全分割標(biāo)注的弱監(jiān)督模型(如 LabelReg)相媲美 。該框架可靈活集成 SAM、MedSAM、SAMed 等多種變體,且在 13 類(lèi)不同任務(wù)中均展現(xiàn)出極低的性能波動(dòng)和極高的魯棒性。

該研究突破了傳統(tǒng)配準(zhǔn)模型對(duì)特定領(lǐng)域訓(xùn)練數(shù)據(jù)的依賴(lài),開(kāi)創(chuàng)了視覺(jué)提示配準(zhǔn)的新范式 。其“訓(xùn)練即用(Training-free)”與“交互式引導(dǎo)”的特性,使其不僅能處理通用的自動(dòng)配準(zhǔn)任務(wù),更能通過(guò)臨床醫(yī)生的少量點(diǎn)擊引導(dǎo),實(shí)現(xiàn)對(duì)病灶區(qū)域的精準(zhǔn)靶向?qū)R,為智慧醫(yī)療中的精準(zhǔn)影像診斷與手術(shù)導(dǎo)航提供了強(qiáng)有力的技術(shù)支撐 。

文章鏈接:https://ieeexplore.ieee.org/abstract/document/11483297


附作者簡(jiǎn)介:

第一作者:黃詩(shī)淇,2025年于北京理工大學(xué)光電學(xué)院獲得博士學(xué)位,師從許廷發(fā)教授,主要研究方向醫(yī)學(xué)影像處理、交互式圖像配準(zhǔn)、視覺(jué)基礎(chǔ)模型。目前為倫敦大學(xué)學(xué)院 (UCL) 醫(yī)療物理與生物醫(yī)學(xué)工程系博士后研究員。在高水平期刊會(huì)議IEEE TPAMI、IEEE TMI、IEEE TIP,CVPR等發(fā)表論文10余篇,其中第一/通訊作者8篇,ESI高被引1篇。醫(yī)學(xué)影像分析頂會(huì)MICCAI領(lǐng)域主席,MICCAI專(zhuān)題研討會(huì)ASMUS程序委員會(huì)主席,IEEE ISBI Clinical Day特邀嘉賓。

通訊作者:李佳男,北京理工大學(xué)長(zhǎng)聘副教授,博導(dǎo),中國(guó)科協(xié)、北京市科協(xié)青年托舉人才,連續(xù)三年入選全球前2%頂尖科學(xué)家(2022-2024),從事光電成像目標(biāo)探測(cè)與感知研究。主持國(guó)自然面上、工信部高質(zhì)量發(fā)展專(zhuān)項(xiàng)等項(xiàng)目10余項(xiàng)。以第一作者發(fā)表論文20篇(其中IEEE TPAMI 5篇,影響因子20.8);以通訊作者發(fā)表論文80余篇;授權(quán)專(zhuān)利19項(xiàng)。谷歌學(xué)術(shù)總引用6500余次,3篇論文入選ESI熱點(diǎn)/高被引,2篇一作論文單篇引用超千次。獲得中國(guó)圖象圖形學(xué)學(xué)會(huì)自然科學(xué)二等獎(jiǎng)(序1),自然資源科技進(jìn)步、地理信息科技進(jìn)步二等獎(jiǎng)(序2),CSIG優(yōu)博,王大珩光學(xué)獎(jiǎng)等。指導(dǎo)學(xué)生獲“反無(wú)人機(jī)跟蹤”挑戰(zhàn)賽全球冠軍等獎(jiǎng)項(xiàng)10余項(xiàng)。研究成果在“中國(guó)天眼”、川渝礦產(chǎn)監(jiān)測(cè)等重大工程領(lǐng)域得到應(yīng)用。

通訊作者:許廷發(fā),北京理工大學(xué)責(zé)任教授/博導(dǎo),英國(guó)皇家學(xué)會(huì)工藝院院士,光電成像技術(shù)與系統(tǒng)教育部重點(diǎn)實(shí)驗(yàn)室主任,北京理工大學(xué)重慶創(chuàng)新中心副主任。近年來(lái)帶領(lǐng)其科研團(tuán)隊(duì)圍繞光電成像探測(cè)與識(shí)別、計(jì)算成像和人工智能等領(lǐng)域不斷深化研究。主持承擔(dān)國(guó)家自然科學(xué)基金委重大科研儀器研制項(xiàng)目等50余項(xiàng)。在國(guó)際、國(guó)內(nèi)等系列期刊發(fā)表學(xué)術(shù)論文400余篇,其中被SCI/EI收錄120余篇。以第一發(fā)明人申請(qǐng)國(guó)家發(fā)明專(zhuān)利87項(xiàng)。獲省部級(jí)科技進(jìn)步二等獎(jiǎng)等獎(jiǎng)項(xiàng)6項(xiàng)。指導(dǎo)研究生獲得中國(guó)圖象圖形學(xué)學(xué)會(huì)優(yōu)秀博士學(xué)位論文,二人次獲得王大珩高校學(xué)生光學(xué)獎(jiǎng),三人次獲得全國(guó)光學(xué)與光學(xué)工程博士生學(xué)術(shù)聯(lián)賽全國(guó)百?gòu)?qiáng),獲得中國(guó)高等教育博覽會(huì)“校企合作 雙百計(jì)劃”典型案例和重慶英才創(chuàng)新創(chuàng)業(yè)示范團(tuán)隊(duì)等榮譽(yù)稱(chēng)號(hào)。

分享到: