心真大!万一,医疗人工智能的产品不安全呢?_大健康派

心真大!万一,医疗人工智能的产品不安全呢?

2019-04-23 12:29 大健康派

对于公众而言,医疗人工智能的产品与应用,我们又该如何看待呢?是全盘接受?医疗人工智能产品就一定意味着更安全可靠吗?还是要持有理性审慎的态度静观其发展态势?为此,派派今天要分享一家人工智能创业公司与一名患者亲历的故事,希望通过她的亲身经历为您带来一些启发。

00

在中国医疗领域,最适合本土企业大展宏图的还是医疗器械行业,比起制药研发的高投入、长周期、多临床、以及漫长的专利保护期,医疗器械的项目不可不谓之短平快。伴随着人工智能技术日臻成熟,AI医疗器械的发展取得了前所未有的成果。

如今,AI器械的技术和服务范畴也在逐渐扩大,审批标准从建立到完善需要一个过程,需要相关部门和学者持续的跟进和关注。对于公众而言,医疗人工智能的产品与应用,我们又该如何看待呢?是全盘接受?医疗人工智能产品就一定意味着更安全可靠吗?还是要持有理性审慎的态度静观其发展态势?为此,派派今天要分享一家人工智能创业公司与一名患者亲历的故事,希望通过她的亲身经历为您带来一些启发。

大约一年前,当Wells访问新奥尔良大学医疗中心的糖尿病诊所时,一位护士检查了她的眼睛,寻找糖尿病视网膜病变的迹象,这是导致失明的最常见原因。在她第二次访问时,该诊所正在召集随访志愿患者,用以测试一个刚刚安装的人工智能系统。

美国食品和药物管理局(FDA)批准了该系统,名为IDx-DR,并于2018年正式投入使用。FDA表示,这是第一种授权销售可由筛选决定而无需临床医生参与解释的人工智能医疗设备。

11

这是未来事物的先兆。据悉,这套系统的开发公司正在快速开发软件,以补充甚至替代医生执行某些任务。而与此同时,习惯于批准药物和清理医疗设备的FDA正在研究如何确保计算机算法的安全性和有效性。

Wells是该诊所首批接受新设备测试的患者之一,该设备可由没有接受过医学培训的人员进行测试。该系统生成一个简单的报告,以确定是否有迹象表明患者的视力开始受到侵蚀。

Wells说, “我觉得这很可爱!我还能看到照片吗?”Wells问护士,护士回答说可以。

“它就像拍摄一张普通的照片,”护士解释道。“但是当闪光时,灯光会有点亮。”

一旦Wells处于适当位置,护士就会调整相机。

“别眨眼!”她说。“3-2-1-0!”相机闪烁并拍摄图像,再拍三次闪光并完成测试。

该测试快速简便,符合设计要求。糖尿病患者应该每年接受这种筛查,但很多人没有。护士表示,新系统可以让诊所筛查更多的糖尿病视网膜病变患者。

这也正是该系统的发明者Michael Abramoff的希望,他是爱荷华大学的眼科医生和公司创始人。

12

“问题是许多糖尿病患者只有在出现症状时,才会去找像我这样的眼科医生治疗,”他说。“医生需要在此之前发现视网膜病变的迹象,这就是为什么早期检测非常重要的原因。”

Michael Abramoff花了数年时间开发出一种计算机算法,可以扫描视网膜图像并自动获取糖尿病视网膜病变的早期迹象。他希望它能够在新奥尔良的诊所工作,而不是在眼科医生的办公室工作。

13

其实,开发计算机算法并不困难。“如果您关心患者的安全,那么最大的障碍就是FDA,”他说。这个障碍对于公共安全至关重要,但对于一项全新的技术来说并不容易,尤其是那些没有专家就可以进行医疗呼叫的技术。

与药物相比,医疗软件通常很容易上市。在美国,通过医疗设备的渠道来处理软件方面的检测并不难,对于大多数设备,评估涉及与市场上已有的东西进行比较。

视网膜图像显示严重的非增殖性糖尿病视网膜病变,这是一种视力威胁形式的疾病,其特征在于视网膜上的出血。

但这种用于检测糖尿病视网膜病变的技术是独一无二的,患者的视力可能有潜在的风险。

当Abramoff接近FDA时,“当然FDA起初感到不舒服,”他说,“我们开始合作,才能证明这是安全的。”

Abramoff需要证明这项技术不仅安全有效,而且适用于各种各样的人群,因为各种各样的人都患有糖尿病。最终,Abramoff在10个不同的站点上对900人进行测试。

所有这些测试点都是初级保健诊所,因为该公司希望在没有眼科医生的情况下,证明该技术很好。

这项广泛测试结果最终使FDA满意,并同意广泛使用该测试,并且相当准确。IDx-DR系统甚至超过了FDA的要求。测试结果表明,眼病疾病患者需要至少85%的时间测试正确,而那些没有发现明显眼损的测试结果至少需要82.5%的时间测试才能正确。

“这一测试结果比我好,我还是一位非常有经验的视网膜专家,” Abramoff说。

FDA通过其监管程序帮助指导公司的软件,该监管程序正在发展以适应人工智能实验室流出的发明。

FDA数字健康副主任Bakul Patel表示, FDA希望有更多的证据和保证,如果技术失败,那么这些技术更有可能造成伤害。

其实,还有一些软件完全免于FDA检测流程。在常规软件中进行简单的调整可能根本不需要任何FDA审查。对于可能显着改变人工智能算法性能的变化,规则变得更加严格。

医生如何确保自学计算机正在做出正确的诊断?

尽管FDA拥有多年批准医疗软件的经验,这些软件是医疗设备的一部分,但新算法正在创造新的挑战。

首先,如果不清楚它在不同的群体中是否有效。FDA需要警惕批准基于特定患者集的算法。诸如,识别皮肤癌的算法可以主要针对白人患者开发,并且可能不适用于皮肤较深的患者。

许多算法一旦上市,将继续收集可用于改善其性能的数据,这又引发了有关更新软件如何以及何时需要进行另一轮审核的问题。

“我们意识到,必须要重塑看待问题的方式,并考虑到正在发生的变化,特别是在医疗健康领域,”来自FDA的Patel说。

为此,FDA正在测试一种清除算法的全新方法,并正在试验一种称为预认证的系统,该系统将加强调检查公司用于开发其产品的过程,而不是强调检查测试结果。持续监测是该战略的另一个要素。“我们将采用这一概念并将其用于试运行,” Patel说。

视网膜扫描显示在新奥尔良大学医疗中心,使用软件检测称为糖尿病视网膜病变。

14

“因为许多人工智能算法可能处于不断演变的状态,应确保它们按照我们期望的方式运行时,这非常重要,”杜克-马戈利斯卫生政策中心的研究员Christina Silcox说道。

她热衷于人工智能在医学方面的前景,同时警惕FDA将面临的一些挑战。看似微小的软件故障偶尔会产生严重的意外后果。最糟糕的病例之一涉及一种放射治疗机,在20世纪80年代,由于软件缺陷,它给一些患者带来了大量过量的放射线。

研究最近发生的事件的研究人员发现,从2011年到2015年,FDA有627次软件召回。其中包括12种“高风险”设备,如呼吸机和除颤器。

Patel当然不希望看到任何一款人工智能产品出现致命问题,因为这可能会挫败这个充满希望和快速发展的医疗人工智能喊个。

事实上,IDx并不是唯一一家有兴趣使用算法识别糖尿病视网膜病变早期症状的公司。其竞争对手之一是谷歌的姊妹公司之一Verily,该公司目前正在印度部署其技术。

有专家表示,从短期来看,医疗人工智能领域将迎来一场疯狂的争夺战。

IDx-DR公司发言人在一封电子邮件中说,相机和IDx-DR系统设置的成本约为20,000美元。有租赁或租赁相机的选项,可以降低前期成本。据悉,每次测试定价为34美元,但也与患者样本数量有关。

然而,技术上准确的软件并不会自动带来更好的健康状况。

例如,在新奥尔良的糖尿病诊所,IDx-DR系统取代了一项服务,该服务还检查了另一个导致失明的原因,即青光眼。

护士会观察患者是否有青光眼的迹象,但当工作交给缺乏专业知识的人时,这种情况就不会发生。Wells也得到了一些任何疑似眼病问题的反馈,并提醒她立即就诊相关医疗机构。

该软件完成了预期的工作。虽然Wells似乎对这个消息感到有些不安,但至少她早早发现了这个问题,至少她还有时间来修复她的视力。

看到这里,关于人工智能产品你也该有个结论了吧。

15



  • 大健康Pai

    微信号:djkpai

要闻聚焦

  • Copyright©2001 - 2013 IDCQUAN.com All Rights Reserved. 京公网安备11010802011314号 京ICP备13013182号x        关于我们   联系我们
分享按钮