ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

Cell Reports Medicine IF=10.6 | UniCAS:宫颈细胞学筛查专属基础模型,构建多尺度高效统一诊断范式

Cell Reports Medicine IF=10.6 | UniCAS:宫颈细胞学筛查专属基础模型,构建多尺度高效统一诊断范式 引言宫颈细胞学筛查是预防宫颈癌的关键防线但其核心流程长期面临一个根本性挑战过于碎片化。一张玻片的全景图像数据量巨大人工阅片耗时费力而现有的AI辅助方案又往往需要为不同诊断任务如癌症筛查、感染识别训练多个专用模型导致计算冗余、流程低效难以融入临床常规工作流。近日一项发表于《Cell Reports Medicine》的研究带来了突破性解决方案。由上海科技大学、上海交通大学等团队联合研发的UniCAS是首个专为宫颈细胞学筛查打造的基础模型。它通过在超大规模数据集48,532张全景切片上进行预训练学会了统一编码细胞形态特征能同时高效处理从玻片级诊断、区域级分析到像素级图像增强的多种任务将整体计算开销降低了70%为实现高效、一体化的自动化宫颈筛查铺平了道路。基本信息文章标题UniCAS: A foundation model for cervical cytology screening期刊Cell Reports Medicine影响因子10.6发表时间2026年1月20日研究单位上海科技大学上海交通大学复旦大学上海临床研究中心上海联影智能医疗科技有限公司Github地址https://github.com/peter-fei/UniCAS论文地址https://doi.org/10.1016/j.xcrm.2025.102570研究内容与方法1. 数据集构建1.1 预训练数据集数据来源48,532张宫颈TCT全玻片图像WSI覆盖NILM、ASC-US、LSIL、ASC-H、AGC、HSIL等病变类型以及念珠菌、线索细胞感染病例年龄跨度15-90岁。数据预处理将每张WSI裁剪为256×256像素的非重叠补丁共生成80,314,640个补丁所有补丁提取自20×放大倍率。增强策略对每个补丁生成多尺度裁剪2个224×224全局裁剪、8个96×96局部裁剪、带掩码的全局裁剪同时加入随机颜色、亮度、对比度增强。1.2 下游任务数据集Slide-level诊断数据集包含癌症筛查、念珠菌检测、线索细胞诊断三个任务每个任务划分为训练/验证/测试集外部验证集来自未见过的扫描设备保持类别平衡。Region-level分析数据集分类任务选取含异常细胞的阳性补丁和来自阴性WSI的阴性补丁补丁尺寸224×224按患者分层划分数据集。检测任务标注异常宫颈细胞、线索细胞的 bounding box数据集按8:1:1划分为训练/验证/测试集。分割任务标注细胞核、细胞质边界采用公开的ISBI 2014、CNSeg、Cx22-Multi等数据集补充。Pixel-level增强数据集550张WSI每张扫描9个间隔0.8μm的焦平面生成多平面融合的高清图像作为真值选取离焦平面图像作为输入按8:1:1划分数据集。公共基准数据集采用BMT、Herlev、SIPaKMeD、ComparisonDetector等公共数据集用于跨任务通用能力验证。2. UniCAS基础模型预训练基于ViT架构采用DINOv2自监督学习框架完成预训练核心实现如下2.1 多尺度自监督蒸馏机制核心逻辑通过学生-教师双网络蒸馏让学生网络学习匹配教师网络的特征表示同时完成掩码补丁的重建任务。教师网络参数通过学生网络的指数移动平均EMA更新θteacherαθteacher(1−α)θstudent \theta_{teacher} \alpha \theta_{teacher} (1-\alpha) \theta_{student}θteacher​αθteacher​(1−α)θstudent​局部裁剪特征匹配学生网络对96×96局部裁剪的输出需匹配教师网络对对应全局裁剪的输出。掩码裁剪重建学生网络根据未掩码区域的上下文预测掩码区域的特征。代码实现对应github仓库train.py# 学生-教师EMA参数更新defupdate_teacher(self,alpha0.9995):forparam_q,param_kinzip(self.student.parameters(),self.teacher.parameters()):param_k.data.mul_(alpha).add_(param_q.data,alpha1-alpha)# 多尺度裁剪增强生成global_crops_scale(0.5,1.0)local_crops_scale(0.05,0.5)global_cropstorchvision.transforms.RandomResizedCrop(224,scaleglobal_crops_scale)(patch)local_crops[torchvision.transforms.RandomResizedCrop(96,scalelocal_crops_scale)(patch)for_inrange(8)]2.2 训练配置硬件8张NVIDIA A100 GPU批大小768训练参数初始学习率3×10−43\times10^{-4}3×10−4训练步数100万步使用余弦学习率调度器。3. 多任务聚合器Multi-task Aggregator用于实现多任务并行的Slide-level诊断核心分为Task-specific Attention和Task MoE两个模块3.1 Task-specific Attention核心逻辑针对每个诊断任务从WSI的所有补丁特征中筛选对当前任务最具判别性的Top-m补丁减少冗余计算增强任务特异性。掩码注意力分数计算MSiSoftmax(Topm(Qi⋅KTc)) MS_i Softmax\left( Top_m\left( \frac{Q_i \cdot K^T}{\sqrt{c}} \right) \right)MSi​Softmax(Topm​(c​Qi​⋅KT​))任务特征更新Qi′MSi⋅V Q_i MS_i \cdot VQi′​MSi​⋅V其中QiQ_iQi​为第i个任务的查询向量K/VK/VK/V为补丁特征的键/值矩阵TopmTop_mTopm​为保留前m个最大注意力值的操作m256。代码实现对应github仓库multi_task_aggregator.pyimportmathdeftask_specific_attention(self,patch_tokens,task_tokens):hidden_dimpatch_tokens.size(-1)# 计算注意力分数attn_scorestorch.matmul(task_tokens,patch_tokens.transpose(-1,-2))/math.sqrt(hidden_dim)# 保留Top-256注意力分数top_m256attn_scores,top_indicestorch.topk(attn_scores,top_m,dim-1)attn_scorestorch.softmax(attn_scores,dim-1)# 更新任务tokenupdated_task_tokenstorch.matmul(attn_scores,patch_tokens.gather(-2,top_indices.unsqueeze(-1).repeat(1,1,hidden_dim)))# 生成补丁掩码masktorch.zeros_like(attn_scores).scatter_(-1,top_indices,1)masked_patch_tokenspatch_tokens*mask.transpose(-1,-2)returnupdated_task_tokens,masked_patch_tokens3.2 Task MoE混合专家模块核心逻辑采用软混合专家架构为不同任务分配专属的专家网络避免多任务学习中的任务干扰同时保持端到端可训练。插槽构建SWt⋅X S W_t \cdot XSWt​⋅X其中WtSoftmax(X⋅Ws)W_t Softmax(X \cdot W_s)Wt​Softmax(X⋅Ws​)token-wise softmaxXXX为拼接后的任务与补丁特征。专家处理与输出融合Y~[E1(S1),E2(S2),...,Es(Ss)] \tilde{Y} [E_1(S_1), E_2(S_2), ..., E_s(S_s)]Y~[E1​(S1​),E2​(S2​),...,Es​(Ss​)]YWe⋅Y~ Y W_e \cdot \tilde{Y}YWe​⋅Y~其中WeSoftmax(X⋅Ws)W_e Softmax(X \cdot W_s)We​Softmax(X⋅Ws​)slot-wise softmaxEjE_jEj​为第j个专家网络s8为专家数量。代码实现对应github仓库multi_task_aggregator.pyclassTaskMoE(nn.Module):def__init__(self,hidden_dim,num_experts8,num_slots8):super().__init__()self.Wsnn.Linear(hidden_dim,num_slots)self.expertsnn.ModuleList([nn.Sequential(nn.Linear(hidden_dim,hidden_dim*4),nn.GELU(),nn.Linear(hidden_dim*4,hidden_dim))for_inrange(num_experts)])defforward(self,x):# 计算相关性分数relevance_scorestorch.matmul(x,self.Ws.weight.T)# Token-wise软max生成插槽权重Wttorch.softmax(relevance_scores,dim1)# Slot-wise软max生成专家权重Wetorch.softmax(relevance_scores,dim2)# 构建插槽slotstorch.matmul(Wt.transpose(-1,-2),x)# 专家处理expert_outputs[]forexpertinself.experts:expert_outputs.append(expert(slots))expert_outputstorch.stack(expert_outputs,dim1)# 融合专家输出outputtorch.matmul(We,expert_outputs).transpose(1,2).flatten(0,1)returnoutput3.3 聚合器整体流程从UniCAS编码器提取所有补丁的CLS token作为补丁特征初始化与任务数量对应的任务token通过Task-specific Attention筛选任务相关补丁拼接任务token与掩码后的补丁特征通过多轮Task MoE模块进行特征细化最后每个任务token输入到对应的线性分类头生成任务诊断结果。【多任务聚合器架构示意图】4. 多层级任务适配方法4.1 Slide-level诊断直接使用多任务聚合器处理UniCAS输出的补丁特征完成癌症筛查、念珠菌检测、线索细胞诊断的并行推理无需单独训练单任务模型。4.2 Region-level分析分类任务采用Linear Probing方法将UniCAS输出的补丁CLS token输入两层线性网络完成分类代码实现对应github仓库region_classification.pyclassLinearProbe(nn.Module):def__init__(self,hidden_dim,num_classes):super().__init__()self.fc1nn.Linear(hidden_dim,hidden_dim)self.fc2nn.Linear(hidden_dim,num_classes)self.gelunn.GELU()defforward(self,cls_token):xself.gelu(self.fc1(cls_token))returnself.fc2(x)检测与分割任务基于ViTDet框架将UniCAS作为编码器嵌入Mask R-CNN将UniCAS输出的1/16尺度特征通过步长卷积下采样到1/32尺度通过转置卷积上采样到1/8、1/4尺度构建特征金字塔特征金字塔输入到Mask R-CNN的检测头与分割头完成异常细胞检测、细胞核/细胞质分割。4.3 Pixel-level图像增强基于DA-CLIP框架将原框架的图像编码器替换为UniCAS通过扩散模型结合UniCAS的语义特征实现模糊WSI的清晰度增强代码实现对应github仓库pixel_enhancement.pydefenhance_image(self,blurry_image):# 用UniCAS提取语义特征semantic_featself.unicas(blurry_image)# 扩散模型结合语义特征生成增强图像enhanced_imageself.diffusion_model(blurry_image,semantic_feat)returnenhanced_image实验结果分析UniCAS在宫颈细胞学筛查中的多尺度诊断性能以下图表展示了UniCAS模型在宫颈细胞学筛查各项任务中的表现。通过与多个组织病理学基础模型如Gigapath、H-optimus、UNI等的比较评估了UniCAS在玻片级诊断、区域级分析和像素级增强方面的能力。【展示了UniCAS在宫颈异常筛查任务中性能优于其他基础模型】玻片级诊断性能UniCAS在三种关键的玻片级诊断任务中均取得了优异的性能。通过集成多任务聚合器UniCAS能够同时处理癌症筛查、念珠菌检测和线索细胞诊断显著提升了诊断效率。癌症筛查UniCAS的曲线下面积AUC达到92.60%准确识别宫颈癌及癌前病变。念珠菌检测AUC为92.58%有效检测真菌感染。线索细胞诊断AUC高达98.39%精准诊断细菌性阴道病相关的线索细胞。诊断效率多任务聚合器将每张玻片的诊断时间缩短至9.75秒相比传统的单任务方法如TransMIL的23.08秒效率提升超过3倍。【展示了使用多任务聚合器时UniCAS在三种玻片级诊断任务上的AUC性能均优于其他基础模型】区域级分析与检测能力UniCAS在细胞级别的分类、分级和检测任务中展现出卓越的判别和定位能力为可解释诊断提供了关键依据。区域分类在宫颈异常分类、念珠菌分类和线索细胞分类任务中UniCAS的F1分数分别达到91.47%、96.30%和98.44%显著优于对比模型。异常细胞检测在异常宫颈细胞和线索细胞的检测任务中UniCAS的平均精度AP分别达到29.99和30.06其定位精度AP50分别为62.67和60.48均排名第一。细粒度亚型检测在区分ASC-US、LSIL、ASC-H和HSIL等不同等级异常细胞的精细检测任务中UniCAS同样表现最佳平均精度mAP为16.62。【展示了UniCAS在异常宫颈细胞和线索细胞检测任务中的AP和AP50性能领先于其他模型】外部验证与泛化能力UniCAS在来自不同机构、具有不同制片和扫描协议的外部数据集以及多个公开数据集上进行了验证证明了其强大的泛化性能。玻片级诊断泛化在未见过的多中心外部数据集上UniCAS在癌症筛查、念珠菌检测和线索细胞诊断的AUC分别达到90.10%、89.92%和98.11%。公开数据集性能在BMT公开数据集上进行宫颈异常分级NILM, LSIL, HSILUniCAS的AUC分别高达99.19%、98.54%和99.79%。在Herlev和SIPaKMeD等公开细胞分类数据集上其F1分数也达到96.02%和97.73%。细胞分割能力在ISBI 2014、CNSeg和Cx22-Multi等公开细胞分割数据集上UniCAS取得了优异的Dice分数如ISBI 2014上平均92.11%展示了其解析重叠细胞结构的强大语义理解能力。优势与局限优势•领域专用性强UniCAS 基于48,532张宫颈细胞学全切片图像进行预训练针对细胞学形态多样性优化在多项宫颈筛查任务中性能超越通用病理学基础模型。•多尺度分析高效模型通过统一编码器支持切片级诊断、区域级分析和像素级增强结合多任务聚合器可将整体计算开销降低70%大幅提升临床工作流效率。•泛化性能优异在外部多中心数据集及多个公开数据集上UniCAS 在分类、检测、分割等任务中均表现稳定展现了良好的跨机构、跨设备泛化能力。局限•固定尺度处理限制模型目前仅处理固定放大倍率的图像无法灵活适应临床中常用的多尺度观察需求可能影响其在复杂场景下的适用性。•缺乏组织学金标准验证研究数据仅基于细胞学结果缺少对应的组织病理学确认可能引入诊断不确定性尤其对高级别病变的评估存在潜在偏差。•模型扩展性有待提升未整合大语言模型以增强可解释性与交互性且对罕见病理类型的识别能力尚未充分验证限制了其作为全面解决方案的临床潜力。参考文献DINOv2: Learning robust visual features without supervisionOquab et al., 2024该论文提出了DINOv2自监督学习方法是本研究UniCAS模型预训练的核心技术。研究者利用该方法在48,532张宫颈细胞学全切片图像上进行预训练使模型学习到鲁棒的视觉特征表示为后续多尺度诊断任务奠定了基础。TransMIL: Transformer based correlated multiple instance learning for whole slide image classificationShao et al., 2021本文提出了TransMIL算法用于处理全切片图像WSI的弱监督分类问题。本研究在评估UniCAS的切片级诊断性能时使用TransMIL作为关键的聚合器之一验证了模型在宫颈癌筛查等任务中的有效性。A whole-slide foundation model for digital pathology from real-world dataXu et al., 2024该论文介绍了Gigapath一个基于真实世界数据训练的组织病理学基础模型。本研究将UniCAS与包括Gigapath在内的多个现有病理学基础模型进行性能对比凸显了UniCAS在细胞学特定任务上的优越性。Towards a general-purpose foundation model for computational pathologyChen et al., 2024本文提出了UNI模型旨在构建计算病理学的通用基础模型。本研究将UniCAS与UNI等模型在宫颈细胞学的分类、检测、分割等多个下游任务上进行基准测试证明了领域特异性预训练的重要性。Exploring plain vision transformer backbones for object detectionLi et al., 2022该论文提出了ViTDet框架将视觉Transformer骨干网络无缝集成到目标检测架构中。本研究利用ViTDet框架评估UniCAS在区域级异常细胞检测任务上的能力验证了其作为编码器在检测任务中的卓越性能。
返回列表