⛨🔼🎥     

小黄鸭导航

清华大学交叉信息研究院介绍称，张林峰的研究在一定程度上推动了人工智能领域中基础研究的发展。例如，他在2019年提出自蒸馏算法小黄鸭导航，首次证明了知识蒸馏中的教师模型并非必需，推动了无教师知识蒸馏领域的发展。韩国科学技术院的Kuk-Jin Yoon教授表示“自蒸馏算法与序列性的算法相比有显著优势，有更好的泛化性和更高的效率”。麻省理工学院的韩松副教授在他的课程中专设列一小节介绍自蒸馏算法。