走向可解释性：打开教育中人工智能的“黑盒”

打开文本图片集

摘要：教育是人工智能的重要应用领域，探索教育中人工智能的可解释性，是让人工智能在教育领域中更具“责任感”的重要议题。该文从教育中人工智能应用的现实问题出发，重点回应教育中人工智能的可解释性是什么，做了什么，以及未来走向三个问题。首先，以数据、任务、模型、人四个关键要素为切入点，分析阐述教育中人工智能的可解释性内涵；之后纵观教育中人工智能的可解释工作的演进过程，分析得出已有工作在教育意义注入、模型趋于复杂以及单向解释信息传递等方面的局限性；最后，从知识联邦、模型融生、人在回路三个角度，阐释教育中人工智能可解释性的未来发展方向。（剩余22208字）