预印本 · 医学生信与数据分析· Chattopadhyay T, Shelar K, Thomopoulos SI, Thompson PM.·· 1 天前AI 评分43
理解用于脑疾病分类的3D MRI Transformer的性能平台期与表征坍塌
Understanding Performance Plateaus and Representation Collapse in 3D MRI Transformers Trained to Classify Brain Disease
AI 导读
基于ADNI脑MRI数据的分析显示,监督训练的3D Transformer分类性能进入平台期,源于编码器的表征坍塌,而非任务难度。模型将几乎全部疾病判别信号压缩至单一主成分(EVR@1 = 0.90—0.96),冻结的自监督编码器DINO未见此现象。编码器特征谱中的大尖峰提示,增加训练扫描可能无法改善性能。
来源:预印本 · 医学生信与数据分析 · doi.org