病历不离开医院,AI照样学会了看病——隐私计算到底是怎么做到的

去年陪家里人做了一次肺部CT。

报告出得挺快。影像科大夫说,现在AI会在他们看片之前先扫一遍,把可疑的结节用红圈标出来,大夫重点盯那几个圈就行。

我当时第一反应是——这玩意儿是靠多少张片子练出来的?

第二反应是:那些片子,从哪来的?

总不能是找一批志愿者挨个拍一遍吧。后来才知道,训练数据大多是各家医院过去的存量影像,脱敏之后拿出来用。问题就出在“脱敏”这两个字上。

矛盾不在“给不给”,在“怎么算”

数据这东西有个很别扭的属性:单独一份,没什么用;堆在一起,价值爆炸。

一张肺部CT,可能就是一个人的一次检查记录。十万张放在一起,才能让模型学会“什么样的磨玻璃影值得警惕”。数据越集中,价值越高——这个规律几乎适用于所有场景,医疗、金融、推荐系统,一个都跑不掉。

但同一批数据,只要一挪窝,风险是指数级往上翻的。躺在医院内网里是一回事,导成一个文件放到云上又是另一回事。中间隔了多少个人碰过、多少道流程,全是未知数。

说实话,这才是所有数据合作里最拧巴的地方。甲方想要价值,乙方担心泄露,双方签了十几页的协议,还是睡不踏实。

医院影像科医生阅片工作场景实景
医院影像科医生阅片工作场景实景

有人试过一个很直接的思路:那我不给原始数据,只给计算结果行不行?

听起来挺美。可你要算什么?模型训练需要反复看数据、反复调参数,不是一次性算个数就完事。你给了结果A,对方还想看结果B,来回几十次,中间总能反推出点东西来。这就跟给人看一张打了马赛克的照片似的——单张看不出来,十几张不同角度拼一起,脸就出来了。

所以问题的关键,不是给不给,而是计算这件事,到底在哪里发生、以什么形式发生。

一堵墙,三种拆法

隐私计算不是某一个技术,它更像一个筐。筐里装着好几种思路,目标都一样:让数据在“可用”和“不可见”之间找到一个位置。

第一种路子,叫多方安全计算。

它的核心想法挺有意思:把一次计算切开,分给好几个人做。每个人手里只有自己那一块,谁都看不到别人的原始数据。

打个比方。三个人想算一下他们工资的平均数,但谁都不想告诉别人自己挣多少。怎么办?第一个人随便编一个很大的随机数,加上自己的工资,悄悄告诉第二个人;第二个人再往上加自己的,告诉第三个人;第三个人加完,把总和传回给第一个人。第一个人减掉自己一开始加的那个随机数,就得到了三个人工资的总和。

整个过程里,谁都没有暴露过自己的真实数字。

数学上当然比这个复杂得多。实际用的时候,会用到秘密分享、不经意传输、混淆电路这些东西。但那个“把计算拆开、谁也不知道全貌”的精神,是一致的。

第二种路子,是联邦学习。

它换了个玩法:数据不动,模型动。

各家医院的数据都留在本地,每家用自己的数据训练一个模型,只把模型参数——也就是一堆数字——传给中央服务器。服务器把这些参数合并一下,再分发回去。来回几轮,模型就变强了。

训练这件事发生了,但原始病历一步都没离开过医院。

联邦学习多节点模型参数聚合架构示意图
联邦学习多节点模型参数聚合架构示意图

第三种,同态加密。

这个我觉得最像魔法。它的意思是,把数据加密成一串乱码,然后直接在这串乱码上做计算,算出来的还是乱码;但解密之后,结果偏偏是对的。

就像你把一个上了锁的箱子寄给别人,别人不用开锁,就能往箱子里加工东西,寄回来你一开锁,发现活儿干完了,而且干得漂亮。

代价是——慢。非常慢。同样的运算,加密状态下可能要花上几百倍的时间。工程上一直在优化,但很多场景里还是太贵了。

还有一个经常被提到的,可信执行环境。它不太一样,它靠的是硬件。芯片里划出一块隔离区域,数据进去、算完、出来,连操作系统都插不进手。但这个“可信”是建立在信任芯片厂商的前提上的——这一点后面再说。

有几个误解,我觉得得掰扯一下

误解一:用了隐私计算,数据就绝对安全了。

不是这样的。隐私计算解决的是“计算过程中不暴露原始数据”,但它不负责终端安全、不负责权限管理、不负责内部人员作恶。一个工程师要是有权限把原始数据导出来,再花哨的加密也拦不住。

技术有边界。别把它当护身符。

误解二:联邦学习等于隐私计算。

联邦学习是隐私计算的一种实现方式,但它本身不保证隐私。原始参数上传的时候,如果没有加噪声、没有加密,攻击者有可能从梯度里反推出训练样本。这方面的研究论文不少,2019年前后有一批工作专门讲这个。

所以联邦学习通常要和其他技术搭配用,比如差分隐私、安全聚合。单独拿出来说“我们用了联邦学习所以很安全”,这话是不负责任的。

误解三:这东西离普通人很远。

其实就在你手机里。输入法的联想词、相册里的人脸聚类、广告的定向推荐,背后多少都牵扯到这类技术。你未必看得见它,但你天天在受它的影响。

不过话说回来,影响是好是坏,得看具体怎么用。

它现在走到哪一步了

它现在走到哪一步了
它现在走到哪一步了

说点实在的。

从时间线上看,这个概念其实不新。多方安全计算的数学基础,可以追溯到1980年代姚期智提的“百万富翁问题”——两个富翁想比谁更有钱,又不想告诉对方自己有多少钱。这个问题的解法,是整个领域的起点。

但从论文到工程,中间隔了三十年。

真正开始被大规模讨论,大概是2018年前后。那几年数据合规的监管开始收紧,欧洲出了GDPR,国内也陆续出了数据安全法、个人信息保护法。企业突然发现,过去那种“把数据收集起来随便用”的做法走不通了。

需求一下子变得具体起来。

现在落地的场景,比较多的集中在几个方向:金融机构之间的联合风控、医疗机构之间的联合建模、广告投放里的效果归因。都是那种“多方各有数据、谁都不想交出来、但合作了确实有用”的场景。

有个现实问题绕不过去——性能。安全计算比明文计算慢,这个差距在有些场景里是几倍,有些场景里是几百倍。业务方能不能接受,直接决定了技术能不能落地。

还有一个是标准。各家的实现方式不一样,接口不统一,A公司和B公司的系统对接起来,经常要重写一遍。这块这几年在推进,但离“即插即用”还有距离。

至于可信执行环境,它的信任模型其实挺微妙的。你相信芯片厂商没有留后门,相信那块隔离区域真的是隔离的——这是一种基于信任的假设,不是基于数学的证明。安全级别和前面几种不太一样,用的时候得心里有数。

那我的数据,到底安不安全

经常有人这么问,我也没法给一个干脆的答案。

因为“安全”这个词太笼统了。你问的是不被泄露?不被滥用?不被用来做对你不利的事?

隐私计算能改善的,主要是第一类问题里最核心的那一环——计算过程中的暴露风险。它把“必须把数据交出去才能算”这个前提给拆了。

但剩下的环节还很多。数据怎么采集的、存了多久、谁能访问、访问记录有没有人查、出了事怎么追责——这些和技术是两码事。

我个人的看法是,隐私计算是必要条件,不是充分条件。

它让一些过去做不成的事变得能做了。比如几家医院可以在不共享病历的前提下,联合训练一个诊断模型。这在没有这套技术的时候,要么不做,要么就得冒着巨大的合规风险硬来。

但它没法替代制度建设。技术解决技术的问题,剩下的还得靠别的。

最后说一个我觉得挺有意思的点。

隐私计算这套东西,本质上是在做一种取舍——在“数据要流动才有价值”和“数据一流动就有风险”之间,硬生生挤出一个中间地带。

这个中间地带不是免费的。它要付出性能的代价、工程复杂度的代价、信任成本的代价。

值不值,得看具体场景。有些场景里,这些代价换来的是合规、是合作的可能性,那就值。有些场景里,数据本身敏感度不高,绕这么大一圈反而是浪费。

没有标准答案。

就像我想给朋友转那笔钱一样——银行后台跑的那些风控模型,可能确实需要看很多人的数据才能判断我这笔像不像异常。但它最好永远别真的看到我。

这个平衡,就是隐私计算在做的事。

作者|科技

排版|科技

审核|满满

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:病历不离开医院,AI照样学会了看病——隐私计算到底是怎么做到的
文章链接:https://m.lfdjt.com/p/keji/a/24385.html