第575章 代码审计8
收藏【零一小说wWw.db229.Com】，热门网络小说无弹窗免费阅读！
他们敢让我审，就说明他们想真改。公开是最好的监督。林深打完这行字，把手机翻扣在桌上。他听见陈屿在阳台晾衣服，衣架碰撞发出清脆的叮当声。豌豆坐在地毯上搭积木，搭到第七层时歪了，塌下来，她愣了一秒，然后自己咯咯笑着重新开始。林深看着那个塌掉的塔，心想，有些系统塌了能重搭，有些塌了，人就没了。
他第二天飞去了深圳。视界的办公室不像猎穹那样气派，在一个改造过的旧厂房里，天花板露着管线，工位之间拉着五颜六色的隔断帘。韩冲在门口接他，四十出头，胡子拉碴，一件灰色卫衣上沾着咖啡渍。林老师，这边。他推开一扇防火门，里面是一整面墙的监控屏，实时滚动着在各个医院推理时的置信度分布。
林深没寒暄，直接要了训练集的地域分布表。韩冲调出来给他看——华东地区样本占百分之六十七，西南仅百分之四点三。他接着要求调取推理日志中低置信度区间的影像原始数据，按医院Id分组。韩冲犹豫了不到一秒，敲了几行命令，把权限全开。
林深在那间临时审计室里泡了四天。他用自己写的可视化工具把每一张ct影像转换成特征热力图，发现模型对肺尖部和后肋膈角的关注权重在全图分布里占比极低，而这两个区域在尘肺背景患者中恰恰是结节高发位置。但核心问题在预处理层——的归一化算法依赖一个基于亮度直方图的参考模板，这个模板是从华东数据里统计出来的，对较暗的肺窗图像会过度拉伸对比度，导致部分微小结节的边缘在增强过程中被平滑成背景噪声。
第五天傍晚，韩冲端着一碗泡面坐到他旁边。看出来了吧？韩冲用筷子指了指屏幕上的一张热力图，不是种族歧视，是数据地域歧视。我们的归一化模板是个隐形过滤器，它把云南那种灰度的肺窗当成了脏数据，自动去噪去掉了结节。
林深盯着那张图。他想起在猎穹看到的职业连续性指数，相似的逻辑——把一个无害的数学操作，变成了有伤害的代理。区别是，这次的伤害可能在真实的人的胸腔里。他问韩冲：你们有多少家合作医院在用这个版本？
四百三十七家。其中贫困县医院有一百一十二家。
林深合上电脑。改模板需要多久？
重新训练归一化层要至少八周，再通过FdA二类器械变更审核——乐观估计四个月。
四个月里那些医院怎么办？林深的声音很平，但韩冲停下了吃面的动作。
韩冲把泡面盒放在桌上，塑料碗底磕出一声闷响。所以我们叫你来。我有个建议——在新模板训练完成前，我可以加一个前置分类器，输入ct时先判断亮度分布，如果是低亮度区，自动切换到一组保留全边缘的备用滤波器。但这个前置分类器会降低百分之二的推理速度，而且我没有足够多的低亮度标注数据来验证它的假阳性率。
林深思考了几秒。你把备用滤波器的设计文档给我，我用你的测试集做离线模拟。如果假阳性率能控制在百分之三以内，我可以写一个临时应急方案，作为报告附件提给监管部门。这样你们可以在审核期间继续部署。
韩冲看着他，眼眶周围的血丝很重。你写这个附件，就等于承认系统有缺陷。公开报告里出现紧急补丁四个字，视界的股价明天就能跌。
但你的人不会死。林深说。
他们敢让我审，就说明他们想真改。公开是最好的监督。林深打完这行字，把手机翻扣在桌上。他听见陈屿在阳台晾衣服，衣架碰撞发出清脆的叮当声。豌豆坐在地毯上搭积木，搭到第七层时歪了，塌下来，她愣了一秒，然后自己咯咯笑着重新开始。林深看着那个塌掉的塔，心想，有些系统塌了能重搭，有些塌了，人就没了。
他第二天飞去了深圳。视界的办公室不像猎穹那样气派，在一个改造过的旧厂房里，天花板露着管线，工位之间拉着五颜六色的隔断帘。韩冲在门口接他，四十出头，胡子拉碴，一件灰色卫衣上沾着咖啡渍。林老师，这边。他推开一扇防火门，里面是一整面墙的监控屏，实时滚动着在各个医院推理时的置信度分布。
林深没寒暄，直接要了训练集的地域分布表。韩冲调出来给他看——华东地区样本占百分之六十七，西南仅百分之四点三。他接着要求调取推理日志中低置信度区间的影像原始数据，按医院Id分组。韩冲犹豫了不到一秒，敲了几行命令，把权限全开。
林深在那间临时审计室里泡了四天。他用自己写的可视化工具把每一张ct影像转换成特征热力图，发现模型对肺尖部和后肋膈角的关注权重在全图分布里占比极低，而这两个区域在尘肺背景患者中恰恰是结节高发位置。但核心问题在预处理层——的归一化算法依赖一个基于亮度直方图的参考模板，这个模板是从华东数据里统计出来的，对较暗的肺窗图像会过度拉伸对比度，导致部分微小结节的边缘在增强过程中被平滑成背景噪声。
第五天傍晚，韩冲端着一碗泡面坐到他旁边。看出来了吧？韩冲用筷子指了指屏幕上的一张热力图，不是种族歧视，是数据地域歧视。我们的归一化模板是个隐形过滤器，它把云南那种灰度的肺窗当成了脏数据，自动去噪去掉了结节。
林深盯着那张图。他想起在猎穹看到的职业连续性指数，相似的逻辑——把一个无害的数学操作，变成了有伤害的代理。区别是，这次的伤害可能在真实的人的胸腔里。他问韩冲：你们有多少家合作医院在用这个版本？
四百三十七家。其中贫困县医院有一百一十二家。
林深合上电脑。改模板需要多久？
重新训练归一化层要至少八周，再通过FdA二类器械变更审核——乐观估计四个月。
四个月里那些医院怎么办？林深的声音很平，但韩冲停下了吃面的动作。
韩冲把泡面盒放在桌上，塑料碗底磕出一声闷响。所以我们叫你来。我有个建议——在新模板训练完成前，我可以加一个前置分类器，输入ct时先判断亮度分布，如果是低亮度区，自动切换到一组保留全边缘的备用滤波器。但这个前置分类器会降低百分之二的推理速度，而且我没有足够多的低亮度标注数据来验证它的假阳性率。
林深思考了几秒。你把备用滤波器的设计文档给我，我用你的测试集做离线模拟。如果假阳性率能控制在百分之三以内，我可以写一个临时应急方案，作为报告附件提给监管部门。这样你们可以在审核期间继续部署。
韩冲看着他，眼眶周围的血丝很重。你写这个附件，就等于承认系统有缺陷。公开报告里出现紧急补丁四个字，视界的股价明天就能跌。
但你的人不会死。林深说。