qq_53909832的博客

DAMO-YOLO论文阅读

PKD论文阅读

CWD论文解读

提高几乎任何机器学习算法性能的一个非常简单的方法是在相同的数据上训练许多不同的模型，然后对它们的预测进行平均[Ensemble methods in machine learning]。不幸的是，使用整个模型集合进行预测是很麻烦的，而且计算开销太大，不允许部署到大量用户，尤其是如果单个模型是大型神经网络。[Model compression]已经表明，将集合中的知识压缩到一个更容易部署的单一模型是可能的，本文使用不同的压缩技术进一步发展了这种方法。