最新刊载于《自然》杂志的一项科学研究指出，将个人医疗数据投入AI模型训练，或将导致个人在网络攻击中被精准识别，尤其是弱势群体面临的隐私泄露隐患更为严峻。该研究强调，现行的风险评估体系存在盲区，未能充分覆盖特定群体，因此亟需强化访问权限管理并落实更严密的防护手段。
医疗人工智能在提升全球医疗水平、缓解专业资源匮乏方面展现出巨大潜力，但其训练所依赖的敏感数据却极易成为隐私攻击的目标。攻击者常通过“成员推理攻击”（MIA）手段，核实特定个人的数据是否参与了模型训练，进而反向推导出患者的隐私信息。以往的隐私安全研究多聚焦于数据集整体，往往忽略了对个体风险的深入剖析。
来自德国慕尼黑工业大学的科研团队针对个人隐私风险进行了深度审计，评估了医疗AI模型对数据提供者可能造成的威胁。通过分析7个涵盖医学影像、心电图及电子病历的真实临床数据集，团队锁定并识别了数据提供者中最为脆弱的群体。[##IMG_PLACEHOLDER_0##]
调查结果显示，MIA攻击在个人维度上展现了惊人的精准度。在群体分布中，罕见病患者、少数族裔以及社会经济地位较低等代表性不足的群体，因其数据在AI模型中具备更高的独特性，从而面临着远超常人的隐私泄露风险。此外，研究还发现，随着AI模型参数规模的扩大，MIA攻击的成功率也随之攀升。
专家团队强调，MIA等隐私攻击手段对个体的威胁程度远超以往认知。他们呼吁，未来的隐私风险评估必须将个体安全纳入核心考量，并针对那些高风险的AI模型建立更为完善的保护机制。
