随着人工智能（AI）技术的不断发展和迭代，人类社会已进入大算力、大模型、大数据、大应用时代。AI早已被引入医疗领域，在流行病监测、药物研发、医疗影像识别、心理健康等方面发挥重要作用。而与之相伴的数据安全隐患也日益凸显。

当前，医疗领域网络化、数字化、智能化进程面临的安全风险主要包括数据泄露与隐私泄露、网络攻击与黑客入侵、数据篡改与伪造、不当访问与授权管理、医疗数据共享风险、数据存储的第三方服务风险、内部人员的泄密、数据冗余与保存不当、法律合规风险等。概括来说，要关注以下3个方面的问题。

第一是网络安全问题。随着AI技术的应用，网络安全风险出现了新变化，传统的网络安全问题受AI影响变得更加复杂，数据劫持、网络钓鱼、勒索攻击更加猖獗。

当前，医疗领域的网络犯罪现象十分突出，医疗数据遭受攻击和破坏的案例时有发生。例如，2023年，位于印度新德里的全印度医学科学研究所的医疗设备遭遇勒索病毒攻击；今年9月，美国AI医疗公司Confidant Health的服务器配置错误，泄露了5.3TB的敏感心理健康记录。

IBM发布的《2024年数据泄露成本报告》显示，医疗行业数据泄露平均成本达977万美元，连续14年成为数据泄露成本最高的行业。国内某网络安全企业也披露，2023年医疗行业泄露数据达9亿条，影响触目惊心。

第二是模型安全问题。AI模型的安全性直接影响应用效果，尤其是在医疗领域，近年来已经暴露出一些问题，包括个人隐私泄露、算法或模型攻击、模型偏差以及系统脆弱性和网络安全。这些问题的主要原因是模型本身在可靠性和可解释性方面存在不足。例如，AI模型受到简单扰动可能就会产生错误输出，或者数据本身存在问题导致AI模型结果不准确。

第三是AI在医疗领域应用中不可忽视的伦理问题。全球多国发布了关于AI伦理的文件，提出合作、透明度、公平、非恶意责任、隐私等基本要求。医疗领域也提出如何保护个人自主权、个人健康和安全以及公众利益等具体要求。然而，随着实际应用的推广，与AI相关的偏见、歧视、技术滥用、事故责任认定等伦理问题越来越突出。

针对AI在医疗领域应用的风险问题，需要从数据、安全和管理等角度进行应对。

在数据方面，要提高安全防护水平，确保数据安全和隐私保护，促进AI技术在现代医疗领域的转型和升级。数据是现代医疗的重要生产要素，具有很高的价值。虽然当前医疗数据数量越来越多，但数据质量并没有随之提高，“数据孤岛”问题依然存在，数据协同合作动能和效能不足，跨境数据流动面临较多待破解难题等，急需全方位突破。

在安全工作方面，要统筹安全与发展，强化安全保障体系。具体而言，要把软件作为网络安全服务的重点，确保医疗智能化系统的稳定性和可靠性。同时，需要加强医疗数据的保护，防范患者隐私数据丢失，但要确保促进正常的科研合作和数据流动。此外，还需要增强安全意识，通过定期培训与教育、营造安全文化氛围、模拟演练与应急响应、建立安全意识提示机制等举措，增强医疗行业从业人员整体的网络安全意识。

最后，要坚持依法依规管理，做好“技管并重”。可以充分利用数字医疗技术、安全保障技术等手段确保AI技术在医疗领域的发展和安全。同时，还要高度重视对新技术安全风险方案的研究，严格遵守法规政策，遵循技术标准和行业规范，以确保AI应用的安全性。

（作者吴世忠系中国工程院院士，中国科学报记者刁雯蕙根据其在2024新质生产力、医工融合创新大会上的报告整理）

【军医科普】如何识别、应对神经毒剂潜在威胁？3

科学“新”声｜从种子到丰收：揭秘玉米的286倍增产奇迹4

甜蜜的科学：吃糖也有大学问！ —访北京大学第一医院内分泌科主任医师马晓伟5

行行出状元 | 揭秘“制药魔法师”——药代动力学研究员6

【锚定2035·院士谈科学报国】单原子催化：探索催化科学的微观世界7

【药师科普】你的维生素D补够了吗？8

科学“新”声丨为消防装备插上智能“翅膀”9

【科学报国正当时】瞄准关键领域，这个专业“金”彩纷呈！10

我国自主研发的“核柴一号”正式发布12月16日，我国自主研发的核电站应急柴油发电机组——“核柴一号”正式发布。记者从中国广核集团获悉，“核柴一号”多项核心性能指标达到国际先进水平，标志着我国首次完全具备核电站应急柴油发电机组自主设计及制造的能力。2024-12-18 09:41“萤火虫闪烁”为早期星系形成提供新见解最新一期《自然》发表的研究称，在宇宙约6亿年时形成的小质量星系“萤火虫闪烁”的详细观测，能为早期星系的形成提供新见解。该研究成果基于詹姆斯·韦布空间望远镜（JWST）的数据，增进了人们对银河系演化的理解。2024-12-18 09:31从更高维度破解人体“天书”近日，《自然》杂志在线发布了由中国科学家领衔发起、18国科学家团队联合署名的人体蛋白质组导航国际大科学计划（以下简称“‘π-HuB’计划”）白皮书。这是《自然》杂志首次发布中国科学家领衔发起的全球性大科学计划白皮书。2024-12-18 09:28我科学家以硫同位素解析雾霾物源和形成机制日前，中国科学技术大学教授沈延安课题组在研究雾霾的物质来源和形成机制上取得重要进展，发现燃煤排放产生的颗粒物是华北雾霾的主要物源之一。2024-12-18 09:26

神舟十九号航天员乘组圆满完成第一次出舱活动按计划，神舟十九号载人飞行任务期间还将实施人员和应用载荷出舱活动，并开展大量科学实验与技术试验。2024-12-18 09:26我国成功发射卫星互联网低轨卫星12月16日18时，我国在文昌航天发射场使用长征五号乙运载火箭/远征二号上面级，成功将卫星互联网低轨01组卫星发射升空，卫星顺利进入预定轨道，2024-12-17 05:25神舟十九号航天员乘组将于近日择机实施第一次出舱活动自10月30日顺利进驻空间站组合体以来，神舟十九号航天员乘组已在轨工作生活48天，先后完成了与神舟十八号航天员乘组轮换、空间站平台维护照料、生活和健康保障、舱外航天服巡检测试、2024-12-17 05:25AI时代下，医疗领域数据安全问题不容忽视随着人工智能（AI）技术的不断发展和迭代，人类社会已进入大算力、大模型、大数据、大应用时代。针对AI在医疗领域应用的风险问题，需要从数据、安全和管理等角度进行应对。2024-12-17 09:54

防治心肌纤维化有了新途径近年来，科学家试图通过抑制促纤维化因子的活性、促进胶原纤维的降解等方式改善心肌缺血再灌注损伤相关的心肌纤维化情况，但目前尚缺乏有效的临床干预方式。2024-12-17 09:35融通共链成为海上风电产业发展的“加速器”从渤海湾到山东半岛，从长三角到北部湾，我国海上风电可开发量巨大。国家气候中心最新数据显示，我国海上150米高度、离岸200公里以内且水深小于100米的风能技术可开发量约为27.8亿千瓦。2024-12-17 09:33《科学》发布2024年十大科学突破12月12日，《科学》发布编辑团队评选的2024年度十大科学突破，包括长效人类免疫缺陷病毒（HIV）预防针剂等10项成果。2024-12-16 10:14研究人员用硫同位素解析雾霾物源和形成机制中国科学技术大学教授沈延安课题组通过硫同位素分析，发现燃煤排放产生的颗粒物是华北雾霾的主要物源之一，同时还对欧洲文物、古建筑和雕像表层黑色硫酸盐壳的形成作出了新解释。2024-12-16 09:54

两代人、几十年，让中国的果蝇“飞上天”11月15日晚11时13分，随着长征七号遥九运载火箭的顺利发射，我国首次将果蝇送上空间站，开展科学实验。2024-12-16 09:52发展现代化大农业 当好国家粮食稳产保供“压舱石”2024年11月25日，农业农村部审议并原则通过的《关于支持东北地区发展现代化大农业的若干措施》，为东北地区现代化大农业发展提供了有力支撑。2024-12-16 09:51神经仿生导航系统更精准更节能受动物大脑处理信息方式的启发，澳大利亚昆士兰科技大学团队基于尖峰神经网络开发出一种新型导航系统，有助构建出更智能的机器人。2024-12-16 09:50国家电网在运抽水蓄能装机突破4000万千瓦陕西首座抽水蓄能电站——国网新源陕西镇安抽水蓄能电站4号机组12日正式投入商业运行，实现陕西电网大型调节电源的新突破。2024-12-13 04:20

我国成功发射高速激光钻石星座试验系统12月12日15时17分，我国在酒泉卫星发射中心使用长征二号丁运载火箭/远征三号上面级，成功将高速激光钻石星座试验系统发射升空，5颗卫星顺利进入预定轨道，发射任务获得圆满成功。2024-12-13 04:20以科技创新引领现代化产业体系建设日前召开的中共中央政治局会议强调，要以科技创新引领新质生产力发展，建设现代化产业体系。科技创新通过补齐技术短板、拉长优势长板、锻造未来新板，推动产业创新，引领现代化产业体系建设。2024-12-13 10:2111项临床试验可能影响2025年医学发展《自然-医学》12月12日发表年度预测文章，介绍了未来一年可能对医学产生影响的11项临床试验。2024-12-13 10:16罗敏敏：在质疑声中寻找“真正的快乐”如果把大脑比作一座繁华的都市，那么每个角落都有一群默默奉献的“人”，共同维持着这座都市的活力与秩序。后来，在美国宾夕法尼亚大学深造期间，罗敏敏更是贯彻了跨学科的想法。2024-12-13 10:15