跳到正文

学术论文

数字化 · 智能 · 平台

基于基础模型和离散扩散模型的骨肉瘤评估:提升10% mIOU 和32.12%坏死率估计

本文介绍了一种新颖的框架FDDM,通过结合基础模型和离散扩散模型来桥接分类和分割任务,从而提高WSI分析的整体性能。实验结果显示,FDDM在多个指标上均优于现有方法,在mIOU方面提升了10%,在坏死率估计方面误差降低了32.12%。

原始来源: arXiv

基于基础模型和离散扩散模型的骨肉瘤评估:提升10% mIOU 和32.12%坏死率估计

论文:Bridging Classification and Segmentation in Osteosarcoma Assessment via Foundation and Discrete Diffusion Models

作者:Manh Duong Nguyen, Dac Thai Nguyen 等

发表日期:2025-01-03

发表:arXiv preprint

原文链接:https://arxiv.org/abs/2501.01932

研究背景

骨肉瘤是最常见的原发性骨癌,每年全球每百万人口中有4到5例新发病例。诱导化疗是骨肉瘤患者的标准治疗方案之一。坏死率(即切除样本中坏死肿瘤组织的比例)与患者的预后密切相关,坏死率超过90%的患者五年生存率可超过80%。然而,传统的手动评估方法依赖于H&E染色切片,具有主观性和观察者间变异性,其类内相关系数仅为0.652。因此,开发一种客观、可重复的评估方法对于提高骨肉瘤治疗效果至关重要。

近年来,深度学习技术在全玻片图像(WSI)分析中的应用日益广泛,但由于传统卷积神经网络(CNN)在处理大规模病理图像时存在跨补丁上下文信息不足的问题,导致结果不够理想。此外,区域分割方法通常需要大量数据才能达到良好的性能。这些局限性使得现有的方法难以满足复杂癌症如骨肉瘤的评估需求。

具体而言,传统的手动评估方法依赖于病理学家的经验和判断,容易受到主观因素的影响。而现有的基于深度学习的方法虽然在一定程度上提高了评估的客观性和准确性,但仍然存在一些问题。例如,基于补丁的分类方法缺乏全局上下文信息,导致分割结果不够精细;而基于区域的分割方法则需要大量的标注数据,且计算成本较高。因此,亟需一种新的方法来解决这些问题。

在供应链和AI决策场景中,准确的医学影像分析对于制定有效的治疗计划和预测患者预后至关重要。特别是在骨肉瘤的治疗过程中,准确的坏死率评估可以为医生提供重要的参考依据,从而优化治疗方案。然而,现有的方法在处理大规模病理图像时存在诸多挑战,包括计算成本高、数据需求大等问题。因此,开发一种高效、准确的评估方法对于提高骨肉瘤治疗效果具有重要意义。

核心发现解读

FDDM框架概述

FDDM(Foundation and Discrete Diffusion Model)是一种新颖的框架,旨在通过结合基础模型和离散扩散模型来桥接分类和分割任务,从而提高WSI分析的整体性能。

FDDM框架分为两个阶段:首先是基于补丁的分类阶段,利用基础模型对小补丁进行高效分类;其次是基于区域的细化阶段,通过离散扩散模型对初步分类结果进行细化,以生成最终的分割掩码。这种方法不仅能够利用小补丁的丰富信息,还能通过细化过程保留全局上下文信息,从而提高分割精度。

具体来说,FDDM首先将WSI划分为多个大区域,每个大区域再进一步划分为多个小补丁。在第一阶段,基础模型对每个小补丁进行分类,生成初步的分类掩码。在第二阶段,离散扩散模型对这些分类掩码进行细化,生成最终的分割掩码。这种双阶段设计使得FDDM能够在保持计算效率的同时,充分利用全局上下文信息。

实验结果显示,FDDM在多个指标上均优于现有方法。具体而言,在mIOU方面,FDDM比最先进的方法提升了10%;在坏死率估计方面,FDDM的误差降低了32.12%。这表明FDDM在骨肉瘤评估中具有显著的优势。

为了验证FDDM的有效性,研究人员使用了两个综合性的骨肉瘤数据集。第一个数据集包含近90万个带注释的小补丁,用于补丁分类;第二个数据集包含约51,000个样本,用于区域分割。实验结果表明,FDDM在多个指标上均优于基线方法,特别是在mIOU和坏死率估计方面表现尤为突出。具体来说,FDDM在VT、NC、FH、HC和NT等类别上的绝对误差分别为2.29%、5.79%、8.09%、0.07%和6.07%,远低于其他基线方法。

此外,FDDM在不同数据集上的表现都非常稳定,即使在数据规模较小的情况下,也能保持较高的性能。例如,在小规模数据集上,FDDM的mIOU达到了40.18%,而ResNet-101和ViT的mIOU分别为33.12%和32.03%。这表明FDDM在不同数据规模下都能保持较高的性能。

基于补丁的基础分类器

为了克服传统CNN在处理大规模病理图像时的计算成本问题,FDDM采用了低秩适应(LoRA)技术对Vision Transformer(ViT)进行微调。

在训练过程中,只有低秩矩阵B和A被更新,而预训练的权重W保持不变。这种低秩更新方式不仅减少了计算量,还提高了模型的泛化能力。具体来说,假设权重矩阵W的维度为d×k,更新公式为Wt+1 = Wt + ∆W = W + BA,其中B ∈ Rd×r,A ∈ Rr×k,r为分解的秩。在训练过程中,仅更新B和A,而预训练的W保持固定。这种低秩更新方式显著减少了参数数量,从而降低了计算成本。

实验结果表明,经过LoRA微调的基础分类器UNIf t在mIOU、Precision和Recall等指标上分别比ResNet-101、ViT和MiT-B5等基线方法高出8.87%、8.78%和8.46%。这表明LoRA技术在提高模型性能的同时,有效降低了计算成本。

为了进一步验证基础分类器的有效性,研究人员进行了消融实验。实验结果表明,基础分类器在不同数据集上的表现都非常稳定,即使在数据规模较小的情况下,也能保持较高的性能。例如,在小规模数据集上,UNIf t的mIOU达到了40.18%,而ResNet-101和ViT的mIOU分别为33.12%和32.03%。此外,基础分类器还具有较强的泛化能力,能够在不同类型的病理图像上取得良好的效果。

具体来说,UNIf t在VT、NC、FH、HC和NT等类别上的绝对误差分别为3.64%、6.99%、12.35%、0.10%和0.02%,远低于其他基线方法。这表明UNIf t在不同类别上的表现都非常出色。

基于区域的扩散细化器

FDDM采用布朗桥扩散模型(BBDM)将补丁级别的分类掩码转换为区域级别的分割掩码。

在细化过程中,FDDM通过引入原始组织区域O和分类掩码y来指导空间嵌入,从而在每个时间步t处对隐藏状态xt进行调整。这种方法不仅能够减少噪声,还能提高最终分割掩码的准确性。具体来说,前向过程通过公式xt = (1 − mt)x0 + mt y + δt ϵt计算中间状态xt,其中mt = t/T,δt为布朗桥过程的方差,ϵ表示高斯噪声。反向过程从xT = y开始,通过嵌入空间特征并强制监督来自先前分类的信息,逐步细化分割结果。

实验结果表明,FDDM在VT、NC、FH、HC和NT等类别上的绝对误差分别为2.29%、5.79%、8.09%、0.07%和6.07%,远低于其他基线方法。这表明FDDM在细化过程中能够有效利用全局上下文信息,提高分割精度。

为了进一步验证细化器的有效性,研究人员进行了详细的对比实验。实验结果表明,细化器在不同数据集上的表现都非常稳定,即使在数据规模较小的情况下,也能保持较高的性能。例如,在小规模数据集上,FDDM的mIOU达到了44.91%,而U-Net和MiT-B5的mIOU分别为34.22%和31.31%。此外,细化器还具有较强的鲁棒性,能够在不同类型的病理图像上取得良好的效果。

具体来说,FDDM在VT、NC、FH、HC和NT等类别上的绝对误差分别为2.29%、5.79%、8.09%、0.07%和6.07%,远低于其他基线方法。这表明FDDM在不同类别上的表现都非常出色。

批评/局限

数据集规模有限

尽管FDDM在实验中表现优异,但所使用的数据集规模相对较小,仅有160张WSI。这可能会限制模型的泛化能力,特别是在面对不同医院或不同地区的新数据时。

未来的研究可以通过扩大数据集规模来进一步验证FDDM的有效性,并探索其在更多样化数据集上的表现。此外,还可以考虑使用迁移学习等技术来提高模型在不同数据集上的适应性。具体来说,可以尝试从多个医院和地区收集更多的WSI数据,并进行多中心验证。此外,还可以通过数据增强技术来增加数据的多样性,从而提高模型的泛化能力。

例如,可以使用旋转、翻转、缩放等数据增强技术来增加数据的多样性。此外,还可以通过多中心验证来提高模型的泛化能力。具体来说,可以尝试从不同地区的医院收集更多的WSI数据,并进行多中心验证。此外,还可以通过数据增强技术来增加数据的多样性,从而提高模型的泛化能力。

计算资源要求较高

FDDM框架虽然在性能上有显著提升,但其计算资源要求较高,特别是对于大规模WSI的处理。

为了降低计算成本,可以考虑优化算法设计,例如通过减少扩散步骤数量或采用更高效的硬件加速技术。此外,还可以探索轻量化模型的设计,以在保证性能的同时降低计算负担。具体来说,可以尝试使用更高效的GPU或TPU来进行计算,或者通过优化代码来提高计算效率。此外,还可以通过剪枝、量化等技术来进一步降低模型的计算成本。

例如,可以尝试使用更高效的GPU或TPU来进行计算,或者通过优化代码来提高计算效率。此外,还可以通过剪枝、量化等技术来进一步降低模型的计算成本。具体来说,可以尝试使用更高效的GPU或TPU来进行计算,或者通过优化代码来提高计算效率。此外,还可以通过剪枝、量化等技术来进一步降低模型的计算成本。

标注质量的影响

FDDM的性能高度依赖于高质量的标注数据。然而,在实际应用中,由于病理学家的时间和精力有限,高质量的标注数据往往难以获得。

为了解决这一问题,可以考虑引入半监督学习或自监督学习的方法,利用未标注的数据来辅助模型训练。此外,还可以通过开发自动化标注工具来提高标注效率和一致性。具体来说,可以尝试使用弱监督学习或无监督学习的方法来减少对标记数据的依赖。此外,还可以通过开发自动化的标注工具来提高标注的效率和一致性,从而提高模型的性能。

例如,可以尝试使用弱监督学习或无监督学习的方法来减少对标记数据的依赖。此外,还可以通过开发自动化的标注工具来提高标注的效率和一致性,从而提高模型的性能。具体来说,可以尝试使用弱监督学习或无监督学习的方法来减少对标记数据的依赖。此外,还可以通过开发自动化的标注工具来提高标注的效率和一致性,从而提高模型的性能。

实操启示

数据准备

在进行WSI分析时,应充分考虑数据的质量和多样性。建议从多个医院和地区收集数据,并确保数据的标注质量。

具体来说,可以采用多轮标注和交叉验证的方式来提高标注的一致性和准确性。此外,还可以通过数据增强技术来增加数据的多样性,从而提高模型的泛化能力。例如,可以使用旋转、翻转、缩放等数据增强技术来增加数据的多样性。此外,还可以通过多中心验证来提高模型的泛化能力。

例如,可以使用旋转、翻转、缩放等数据增强技术来增加数据的多样性。此外,还可以通过多中心验证来提高模型的泛化能力。具体来说,可以尝试从不同地区的医院收集更多的WSI数据,并进行多中心验证。此外,还可以通过数据增强技术来增加数据的多样性,从而提高模型的泛化能力。

模型选择与优化

在选择模型时,应综合考虑模型的性能和计算资源需求。FDDM框架虽然性能优越,但计算成本较高。

对于计算资源有限的情况,可以考虑使用轻量化的基础模型,并通过低秩适应技术进行微调。此外,还可以通过优化扩散步骤和参数设置来降低计算成本。具体来说,可以尝试使用更轻量化的基础模型,例如MobileNet或EfficientNet,同时通过低秩适应技术进行微调。此外,还可以通过优化扩散步骤和参数设置来降低计算成本,例如减少扩散步骤的数量或使用更高效的硬件加速技术。

例如,可以尝试使用更轻量化的基础模型,例如MobileNet或EfficientNet,同时通过低秩适应技术进行微调。此外,还可以通过优化扩散步骤和参数设置来降低计算成本,例如减少扩散步骤的数量或使用更高效的硬件加速技术。具体来说,可以尝试使用更轻量化的基础模型,例如MobileNet或EfficientNet,同时通过低秩适应技术进行微调。此外,还可以通过优化扩散步骤和参数设置来降低计算成本,例如减少扩散步骤的数量或使用更高效的硬件加速技术。

应用场景

FDDM框架适用于多种WSI分析场景,特别是在需要高精度分割和坏死率估计的情况下。

例如,在临床实践中,FDDM可以帮助病理学家快速准确地评估骨肉瘤的坏死率,从而为治疗方案的选择提供重要依据。此外,FDDM还可以应用于其他类型的癌症评估,进一步拓展其应用范围。具体来说,FDDM可以用于肺癌、乳腺癌等多种癌症的评估,从而提高诊断的准确性和治疗的效果。此外,FDDM还可以用于药物研发和临床试验,帮助研究人员更好地理解疾病的生物学机制。

例如,FDDM可以用于肺癌、乳腺癌等多种癌症的评估,从而提高诊断的准确性和治疗的效果。此外,FDDM还可以用于药物研发和临床试验,帮助研究人员更好地理解疾病的生物学机制。具体来说,FDDM可以用于肺癌、乳腺癌等多种癌症的评估,从而提高诊断的准确性和治疗的效果。此外,FDDM还可以用于药物研发和临床试验,帮助研究人员更好地理解疾病的生物学机制。

信息来源:https://arxiv.org/abs/2501.01932

问 SCI.AI 读完这篇报道,继续问 SCI.AI 查询相关政策、航线、企业与历史背景。 继续提问
AI 在动态路线规划中的应用:提升物流效率与降低成本
学术论文 物流与运输网络

AI 在动态路线规划中的应用:提升物流效率与降低成本

本文探讨了人工智能(AI)在物流和配送行业中的应用,特别是在动态路线规划、无人机和自动驾驶卡车方面的应用。通过实时数据分析,AI 能够实现更高效的路径优化,减少燃油消耗,缩短交付时间,并提高整体成本效益。尽管存在数据依赖性、计算资源要求和安全隐私等问题,但 AI 仍为物流行业带来了显著的改进。

确保自主AI的安全:从单次检查到轨迹保障
学术论文

确保自主AI的安全:从单次检查到轨迹保障

本文探讨了自主代理在执行关键任务时面临的安全挑战,特别是在供应链和AI决策场景中。研究揭示了单代理攻击面、多代理安全以及模型路由中的新威胁,并提出了相应的防御措施。通过具体实验数据和对比分析,文章深入解读了这些核心发现,并讨论了其局限性及实际应用中的启示。

Welcome Back!

Login to your account below

Create New Account!

Fill the forms below to register

Retrieve your password

Please enter your username or email address to reset your password.

微信扫码分享

打开微信,扫描二维码分享给好友

QR Code

Add New Playlist