微软亚研提出TinyMIM,用知识蒸馏改进小型ViT
机器之心专栏
微软亚洲研究院
本文提出了 TinyMIM,它是第一个成功地使小模型受益于 MIM 预训练的模型。
论文地址:https://arxiv.org/pdf/2301.01296.pdf 代码地址:https://github.com/OliverRensu/TinyMIM
AI offer最优解—2024届秋招线上宣讲会
© THE END
转载请联系本公众号获得授权
投稿或寻求报道:[email protected]
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章