在今年的博鳌亚洲论坛，“AI+健康”的应用和治理被设置为一个单独的分论坛议题，不仅是因为AI给医疗健康领域带来了翻天覆地的变化，还因为AI在这个领域的应用有诸多问题需要厘清。
“在医疗健康领域，我们无知的部分大于已知部分，AI能帮助科学界理解人体生物学，我们面临一个新的文艺复兴，得到AI的支持，文艺复兴才能实现。”腾讯健康总裁、腾讯生命科学实验室负责人吴文达在论坛对话中如此形容。
具体到新药研发、药物发现、AI阅片等方面，AI给医疗健康的诸多环节都带来益处，但对AI的风险要如何识别和防范，也是一个复杂的话题。
加速医疗变革
“从现在开始，医生需要知道如何更好地使用AI。”新加坡医疗集团人工智能办公室主任、新加坡国家眼科中心首席数据与数字官张书维说。原因很简单，就像放射科医生在AI的支持下可以避免人类易犯的错，拥抱AI的医生比拒绝AI的医生效率更高。
吴文达向记者举例，宫颈癌AI筛查在中西部基层医疗机构应用后将检出率提升了2~3倍，腾讯与广医附一院研发的DeepGEM病理大模型已将肺癌基因突变预测时间从数周缩短至1分钟，AI加速诊断的同时也降低了医疗成本。
AI带来的改变体现在更多层面。海南博鳌乐城国际医疗旅游先行区管理局局长傅晟总结，以往业界要花10年、10亿美元的成本开发新药，但在一些重大疾病如肿瘤、心血管病和一些慢性病上还没有特别有效的办法，而现在，AI改变药物开发模式已初见端倪，AI推动的药物发现正如火如荼进行，AI在分子、基因层面带来提前诊断，AI阅片能力超过传统医生水平，AI还能对每个人提出个性化治疗方案。“原来仅仅围绕某一个通路设计药物的模式需要变革。AI会大大加速医疗变革。”傅晟表示。
从医疗健康信息整合和理解的角度看，细胞出版社战略与创新副总裁、细胞出版社执行主编李统胤则表示，人体是非常复杂的体系，任何一个个体都无法充分理解人体的变化，人们需要整合信息、作出决定。而生成式AI能整合大量信息。如果把复杂的人类生物学和复杂的AI结合起来，似乎是一个完美的结合。
不过，专家也呼呼要谨慎看待医疗健康领域的AI应用。李统胤举例，如果用AI计划一次旅行，AI做得不好导致多付了300多美元，还没有太大问题，但如果AI在医疗健康方面作出错误决定，后果将非常严重，“是不是会改变医疗健康？我相信正在改变，但一定要深思熟虑。”
红十字国际委员会主席中国事务个人特使、东亚地区代表处主任史德林也打了个比方。他表示，对一个锤子来说，一切都像是钉子。人们应该非常谨慎，对于AI要解决什么问题、什么是AI需要解决的，要超越健康的层面，从更广泛的层面考虑。要坚持的一个核心原则是，AI至少要无害。
不能把责任推卸给AI
多名业界专家认为，AI在医疗健康领域应用的风险和卡点，集中在数据流通、决策主体和AI可靠性方面。
在数据流通层面，刘翔宜指出，数据隐私十分重要，而医疗数据又是最为敏感的领域，要做到数据绝对安全的同时保证数据充分流通和分享，是非常大的矛盾，但这方面必须突破，他认为，首先要有国际公认的数据标准、数据规范作为基础。
在研究层面，一些专家则看到数据带来的卡点。李统胤指出，研究层面原始数据获取的过程非常复杂，从业者、研究者、临床医生有相关政策、规则需要遵守，但甚至不知道如何把数据放到适当的地方。要使数据可用、可靠、可分享，就要考虑简化数据提供的过程。
吴文达则告诉记者，AI已在加速药物发现进程，缩短早期研发周期，但当前存在的局限在于高质量、标准化生物数据的稀缺，以及算法在复杂生物学机制中的可解释性不足等。要解决这些问题，需要推动数据、算法与临床实践的深度融合。
AI的可靠性也是一个需要严肃对待的问题。特别是在大模型运行机制还未被研究清楚、幻觉也时有发生的情况下。
“大语言模型还像黑匣子，大家不知道里面是什么、如何处理、如何输出、有多少是假货，只是信任这个黑匣子。”励讯集团企业事务总裁、爱思唯尔董事长池永硕指出，至少得要求AI在医疗健康领域增加透明度，让公众了解黑匣子的运作方式。
吴文达和池永硕都提到智能体越来越多应用后，大模型黑匣子的问题需要得到更多重视。池永硕表示，现在有了AI智能体，人不再需要主动分享数据，AI就能拿走人的数据，因此数据治理问题需要重视。吴文达则提醒，大语言模型黑匣子问题还没解决，AI智能体会使用黑匣子的数据，因此AI不是百分之百可靠。
专家也提醒，应用AI时要明确人的责任。傅晟指出，世界可以用数据刻画，因此AI能在相当大程度上替代医生，但人类还有价值观追求。就像AI很难判断一个90岁患阿尔兹海默症的老人应该保守治疗还是积极治疗，牵扯到人性和道德时，AI不能代替完全人类。
吴文达则提醒，人们要明确的并不是要不要用AI，而是要明确在什么情境下使用AI，“高风险任务完全依赖AI智能体就是犯罪。人作为主体必须要负责，不能把责任推卸给智能体。”
吴文达告诉记者，医学的本质还是“人学”，关乎信任、共情与综合决策，医生的角色在于整合技术、经验与人文关怀，作出有温度的判断。而AI擅长数据处理与模式识别，但无法理解患者的情感、社会背景与生命价值，AI应作为医生的辅助角色。
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
郑栩彤
相关阅读
过去一年，全国医院关闭1000家，床位减少20多万张，但为什么诊疗人次增加了4.7亿？去年医疗卫生结构和就医流向诉说着一条暗线：医院少了，床位减了，住院降了，基层强了，医护多了。
1203 昨天 10:20
博鳌论坛热议AI智能体元年：爆发背后，风险与治理成新焦点中国信息通信研究院院长余晓晖表示，企业和普通消费者愿意尝试新技术，但对新技术也要建立更多的认知和敬畏感。
6 1215 昨天 06:41
博鳌观察｜中东资金进入香港信号渐明，郑永年称发展新产业是关键中东资本“东进”亚洲，并逐步进入香港市场已成为新趋势。
1299 03-25 17:59
你会允许“龙虾”帮你做交易吗？金融界共寻创新与安全最优解金融创新的重中之重是大力推进人民币国际化。
723 03-24 19:34
独家调查 | “每年领7万、年收益6%”？社交平台惊现众多港险销售网红在流量平台圈粉、引入私域后成交的模式，潜藏着诸多法律风险。
6699 03-22 17:29 一财最热 点击关闭联丰优配提示：文章来自网络，不代表本站观点。
![小麦策略 [小炮APP]竞彩情报：巴列卡诺善于打顺风球](/uploads/allimg/260412/12231Q3010DT.jpg)
