首页 >人工智能 > 内容

计算机科学家研究可解释的机器学习 开发AI来解释其发现

人工智能 2020-11-05 10:53:10

人工智能可以帮助科学家做出发现,但并不是每个人都能理解它是如何得出结论的。一位UMaine计算机科学家正在开发深度神经网络,以用户理解的方式解释其发现,并将其工作应用于生物学,医学和其他领域。

可解释的机器学习或为所到达的结果创建解释的AI,定义了陈超凡的研究重点。计算机科学助理教授表示,可解释的机器学习还使AI能够在图像和来自数据的预测之间进行比较,同时详细说明其推理。

科学家可以将可解释的机器学习用于各种应用程序,从识别图像以进行野生动物调查的鸟类到分析乳房X线照片。

“我想增强深度学习的透明度,并且希望深度神经网络能够解释为什么某种东西是它认为的样子,” Chen说。“很多人已经开始意识到,深层神经网络就像一个黑匣子,人们需要开始寻找打开黑匣子的方法。”

Chen在杜克大学(Duke University)学习期间开始开发可解释的机器学习技术,他于五月在该大学获得了计算机科学博士学位。

学分:缅因大学

在加入UMaine之前,Chen和杜克大学的研究同事开发了机器学习架构,称为原型零件网络(ProtoPNet),可以对照片中的鸟类进行精确定位和分类,然后解释其发现。团队去年完成的ProtoPNet将解释为什么它识别的鸟是鸟,以及为什么它代表特定类型的鸟。

研究人员训练了ProtoPNet来确定照片中的鸟是哪种。例如,AI将学习一组表征每种鸟类的原型特征,并将鸟类图像的不同部分与来自多种鸟类的原型特征进行比较。例如,ProtoPNet会将图像中认为是鸟的头部与来自各种鸟类类别的原型鸟的头部进行比较。Chen说,利用与鸟类原型特征的相似性,ProtoPNet可以解释为什么图像是一种特殊的鸟类。

该小组在去年加拿大温哥华举行的第33届神经信息处理系统会议上发表的一篇论文中分享了其发现。

陈说:“这是衡量整个推理过程的一种非常直观的方式……'这只鸟是粘土色的麻雀,因为它包含与粘土色的麻雀原型化的部分。” “鸟类识别是细粒度图像分类的流行基准,因此我认为这将是我们技术的良好展示。”

UMaine的计算机科学家已经与杜克大学的同事和学生一起开始了另一项AI研究,研究他们如何应用ProtoPNet来检查乳房X线照片是否有乳腺癌迹象。

Chen说,由于缺乏医生的培训,ProtoPNet一直努力专注于乳房X线照片的关键部分,以查明乳腺癌的体征。该团队将训练网络像医学专家一样对乳房X线照片进行评估,并学习和识别图像中的关键图案。

Chen的项目合作伙伴都来自杜克大学,包括博士学位。学生Alina Jade Barnett和Ren Yinhao,本科生Taohaofan,计算机科学教授Cynthia Rudin,教授和研究与放射学副主席Joseph Lo,以及博士后放射学研究员Fides Regina Schwartz。

陈说:“这具有真正的影响。” “我当然喜欢看到自己的工作为社会做出积极的贡献。”

Chen的研究与UMaine AI倡议相吻合,该倡议旨在将该州转变为世界级的人工智能研究和教育中心,并开发基于AI的解决方案以增强社会和经济福祉。

他说:“令我满意的是,不仅看到(对于AI而言)能够预测某些事物并很好地预测某些事物的能力,而且能够模仿人类的思维。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢。