计算机研究与发展

作者：郑庆华,

以深度学习为代表的人工智能取得突破性进展,然而海量的参数与复杂的处理机制,使得人类很难追溯与理解推理过程,导致这类端到端的黑箱学习方法不可解释,造成“知其然,不知其所以然”.由此引发人们对算法可信性、公平性产生质疑,甚至造成伦理、法律等问题,影响了黑箱人工智能方法在无人驾驶、精准医疗、智能交通等高风险决策工程中的大规模应用．可解释性问题是打开黑箱人工智能方法、构建新一代人工智能理论的关键问题之一．可解释智能学习方法既要给出结果,同时也能提供计算推理过程所形成的证据链.

来源：2021年第12期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2021年第12期