卢歌,是中国科学手艺大学盘算机科学与手艺系的教授,曾获得中国盘算机学会(CCF)精采青年科学基金、国家自然科学奖二等奖和中国青年科技奖等声誉。
在近期的一次果真演讲中,卢歌谈到了人工智能领域的问题,以为人工智能中的“黑盒子”征象需被打破。该“黑盒子”是指,现有的人工智能系统虽然能够取得很好的效果,但我们并不知道其算法是若何实现的。
“这在现实中存在异常大的问题,”卢歌说,“由于一旦泛起错误,我们很难确定为什么会泛起错误,这样问题就难以解决。”
为打破这个“黑盒子”,卢歌提出了一种名为“可诠释人工智能(XAI)”的头脑。这种方式可以使得人们体会盘算机若何得出结论,他说:“这不仅有利于用户体会盘算机的头脑历程,同时也有助于羁系职员护卫民众利益,以及开发者更好地改善算法。”
卢歌的研究在人工智能领域有着普遍的应用,若是能够乐成地实现XAI,将对整个人工智能行业发生深远的影响。