人工智能在卫生领域的日益应用给政府、提供者和社区带来了机遇和挑战

根据今天发布的世卫组织新指导意见，人工智能(AI)在改善全球医疗保健和药品提供方面具有巨大的希望，但前提是将伦理和人权置于其设计、部署和使用的核心位置。

这份题为《卫生领域人工智能的伦理和治理》的报告是世卫组织任命的一个国际专家小组进行了2年协商的结果。

世卫组织总干事谭德塞博士说:“与所有新技术一样，人工智能在改善世界各地数百万人的健康方面具有巨大潜力，但与所有技术一样，它也可能被滥用并造成伤害。“这份重要的新报告为各国提供了宝贵的指导，指导他们如何最大化利用人工智能的好处，同时最小化其风险并避免其陷阱。”

人工智能可以，并且在一些富裕国家已经被用于提高疾病诊断和筛查的速度和准确性;协助临床护理;加强卫生研究和药物开发，支持各种公共卫生干预措施，如疾病监测、疫情应对和卫生系统管理。

人工智能还可以让患者更好地控制自己的医疗保健，更好地了解自己不断变化的需求。它还可以使资源贫乏的国家和农村社区弥合在获得保健服务方面的差距，在这些国家，患者往往难以获得保健工作者或医疗专业人员的服务。

然而，世卫组织的新报告警告不要高估人工智能对健康的好处，特别是当这是以牺牲实现全民健康覆盖所需的核心投资和战略为代价的时候。

报告还指出，机会与挑战和风险有关，包括不道德地收集和使用健康数据;算法中编码的偏差，以及人工智能对患者安全、网络安全和环境的风险。

例如，尽管私人和公共部门投资开发和部署人工智能至关重要，但不受监管地使用人工智能可能使患者和社区的权利和利益服从于技术公司强大的商业利益，或服从于政府在监控和社会控制方面的利益。

该报告还强调，主要根据从高收入国家的个人收集的数据训练的系统可能不适用于低收入和中等收入环境的个人。

因此，应仔细设计人工智能系统，以反映社会经济和卫生保健环境的多样性。与此同时，还应进行数字技能、社区参与和提高认识方面的培训，特别是对数百万保健工作者而言，如果他们的角色和职能实现自动化，他们将需要数字知识或再培训，而且他们必须应对可能挑战提供者和患者决策和自主权的机器。

最终，在现有法律和人权义务以及体现伦理原则的新法律和政策的指导下，政府、提供商和设计师必须共同努力，在人工智能技术设计、开发和部署的每个阶段解决伦理和人权问题。

确保人工智能为所有国家的公共利益服务的六项原则

为了限制利用人工智能促进卫生所固有的风险和最大限度地利用机遇，世卫组织提供了以下原则，作为人工智能监管和治理的基础:

保护人类自主权:在卫生保健方面，这意味着人类应继续控制卫生保健系统和医疗决策;隐私和机密性应得到保护，患者必须通过适当的数据保护法律框架给予有效的知情同意。

促进人类福祉和安全和公共利益。AI技术的设计者应该满足对定义良好的用例或适应症的安全性、准确性和有效性的监管要求。必须有实际的质量控制措施和人工智能使用中的质量改进措施。

确保透明度、可解释性和可理解性。透明度要求在设计或部署人工智能技术之前公布或记录足够的信息。这些信息必须易于获取，并促进有关技术如何设计以及应该或不应该如何使用的有意义的公众咨询和辩论。

培养责任感和问责制。尽管人工智能技术执行特定任务，但利益攸关方有责任确保它们在适当的条件下由适当训练的人员使用。应该有有效的机制，对因基于算法的决策而受到不利影响的个人和群体进行询问和补救。

确保包容性和公平性。包容性要求卫生人工智能的设计应鼓励尽可能广泛的公平使用和获得，而不论年龄、性别、性别、收入、种族、民族、性取向、能力或受人权法典保护的其他特征。

促进反应迅速和可持续的人工智能。设计师、开发人员和用户应该在实际使用过程中持续透明地评估AI应用程序，以确定AI是否充分和适当地响应预期和要求。人工智能系统的设计还应尽量减少对环境的影响，并提高能源效率。政府和企业应解决工作场所可能出现的混乱，包括培训卫生保健工作者以适应人工智能系统的使用，以及使用自动化系统可能导致的失业。

这些原则将指导世卫组织今后的工作，以支持各项努力，确保将人工智能在卫生保健和公共卫生方面的全部潜力用于造福所有人。