医生不能仅仅通过查看某人的X光片就判断出某人是黑人、亚洲人还是白人。但根据一个包括来自MIT和哈佛大学医学院研究人员组成的国际科学家团队最近发表的一篇新论文却指出,计算机可以做到。
该研究发现,一个经过训练可以阅读X射线和CT扫描的人工智能(AI)程序可以预测一个人的种族,准确率可达90%。但进行这项研究的科学家称他们不知道计算机是如何算出来的。“当我的研究生给我看这篇论文中的一些结果时,我实际上认为这一定是一个错误,”MIT电气工程和计算机科学助理教授Marzyeh Ghassemi说道“说实话,当我的学生告诉我时,我以为他们疯了。”据悉,Chassemi是这篇论文的共同作者,这篇论文已于当地时间周三发表在医学杂志《The Lancet Digital Health》上。
在AI软件越来越多地被用来帮助医生做出诊断决定的时候,这项研究提出了一个令人不安的前景,即基于AI的诊断系统可能无意中产生有种族偏见的结果。如AI(可以获得X光片)可以自动为所有黑人患者推荐一个特定的治疗方案,无论它是否对某个特定的人最好。与此同时,病人的人类医生不会知道AI的诊断是基于种族数据的。