巴比伦健康(Babylon Health) 的首席用户研究员安娜•扎维尔斯卡(Anna Zawilska) 在布拉格最近举行的 Webexpo 2019 大会上介绍了通过结合科技和人工智能 (AI) 技术提供远程医疗的经验感受。她重点提及了巴比伦健康公司已经着手调整支撑产品研发的三个关键假设。
扎维尔斯卡在演讲开始时提到了世界卫生组织的一项研究，根据这项研究，世界上至少 50% 的人口无法获得基本的卫生医疗服务。在这种背景下，将无处不在的移动设备与人工智能的诊断能力结合起来，有可能扩大医疗服务的覆盖面。巴比伦的工程师、医生和科学家开发了一种人工智能系统，该系统可以接收有关某人所患症状的数据，将这些信息与已知疾病的数据库进行比较，以找到相匹配的病情，然后可以构建出一个医疗方案并对可能出现的相关风险作出警示。
在巴比伦公司的移动应用程序中，一个典型的用户流从请求用户 (患者) 描述他或她正在经历的症状开始。在第二阶段，根据系统诊断出的症状，提出更深入的问题，以进一步确定影响患者的可能因素。在第三阶段，将给出建议或解决方案。
巴比伦研究小组做出的第一个假设是，病人会像信任医生一样信任他们的聊天机器人 (病人输入症状的地方)。然而，来自实际经验的关键观察结果显示，与基于机器的技术相比，患者与人类医生相处时的行为会存在比较大的差异。
病人通常相信医生是有学识和资质的。这种信任并没有转化到聊天机器人身上。此外，虽然患者很少会在咨询时间结束前起身离开人类医生，但面对聊天机器人，用户更倾向于提前结束咨询。最后，虽然患者通常认为医生的建议应该被采纳，但用户对聊天机器人的建议和处方的信任度较低。
巴比伦健康的结论是，用户信任是不易获得的，因此，他们需要将产品设计的更具有信任感。扎维尔斯卡提供了一个改变用户界面的例子：当一个假想的用户被问到，“你的脖子动起来有什么问题吗?”，在这个问题之后还将解释为什么要问这个问题。例如，在本例中，应用程序将显示这样一条消息：“我之所以问这个问题，是因为我试图排除紧张性头痛的症状。对于像你这样的人来说，颈部问题和头痛是紧张性头痛的一个重要的预测因素。”
信任问题在医疗保健行业有着特殊的普遍性。扎维尔斯卡还谈论了最近的一个争议 (涉及 Theranos 和 DNA 测序)，这些争议显示人们对医疗最新创新技术的不信任。
第二个假设是，评估巴比伦的人工智能预测是否成功的唯一标准是临床安全。人工智能通常使用大量数据进行训练，生成的人工智能模型使用一些评估标准对测试集进行测试。扎维尔斯卡解释说，将临床安全性作为验证人工智能模型成功与否的唯一标准会带来更高的风险，这会对用户体验产生负面影响。
事实上，优化临界安全性可能意味着，在某些情况下，人工智能会建议病人去急诊室 (ER)，而病人的情况并不一定需要他这样做。这些情况发生时，大概率情况下会让患者低估智能应用程序的价值。
另一方面，仅为用户体验进行优化也有其自身的风险。扎维尔斯卡提到，从理论上讲，应用程序可以不基于患者的实际的情况，显示让患者感觉高兴的信息，然后建议用户服用止痛药。这可能会带来更好的用户体验，尽管存在明显的健康风险。
巴比伦最终决定，使用临床安全和用户体验的双重标准来评估人工智能应用的价值。扎维尔斯卡解释说，最佳的做法是在需要的时候把病人送到急救室，在适当的时候安慰病人并开出处方。
扎维尔斯卡提到的第三个影响产品开发的假设是“快速行动，打破常规”。这句由 Facebook 的马克·扎克伯格 (Mark Zuckerberg) 推广开来的格言强调了技术交付速度的必要性。近年来，对此的批评之声不断涌现，有人建议用“最低效力产品”取代“最低可行产品”。在“最低效力产品”中，新产品测试其对利益相关者的影响，并加强防范潜在危害。
巴比伦健康公司遵循“保障安全快速行动”的方法。扎维尔斯卡给出了一些场景的例子，在这些场景中，用户界面的改变可能会导致用户行为对临床安全产生负面影响。在这种情况下，公司会首先研究并校准这些影响，然后再决定推进拟议中的改革。
巴比伦健康是一家英国初创企业，其宣称的使命是“让地球上的每个人都能享受到便捷、实惠的医疗服务”。巴比伦试图通过利用人工智能 (AI) 技术结合人类医学专业知识来实现这一目标。
Webexpo 是一个面向开发人员、UX 专业人员、设计人员和营销人员的峰会，来自全球的从业者可以在此聚会并分享他们的经验。
原文链接：
WebExpo 2019: Make Healthcare Affordable and Accessible Using Tech and AI
评论