阿里达摩院开源：半监督学习框架Dash，刷新多项SOTA！

本文介绍机器学习顶级国际会议 ICML 2021 接收的 long talk (top 3.02%) 论文 “Dash: Semi-Supervised Learning with Dynamic Thresholding”。

• 论文链接：https://proceedings.mlr.press/v139/xu21e/xu21e.pdf
• 代码地址：https://github.com/idstcv/Dash
• 技术应用：https://modelscope.cn/models/damo/cv_manual_face-liveness_flrgb/summary

这篇论文创新性地提出用动态阈值（dynamic threshold）的方式筛选无标签样本进行半监督学习（semi-supervised learning，SSL）的方法，我们改造了半监督学习的训练框架，在训练过程中对无标签样本的选择策略进行了改进，通过动态变化的阈值来选择更有效的无标签样本进行训练。Dash 是一个通用策略，可以轻松与现有的半监督学习方法集成。实验方面，我们在 CIFAR-10, CIFAR-100, STL-10 和 SVHN 等标准数据集上充分验证了其有效性。理论方面，论文从非凸优化的角度证明了 Dash 算法的收敛性质。

半监督学习同时对少量标注数据和大量未标注数据进行学习，其目的是借助无标签数据来提高模型的精度。比如 self-training 就是一种很常见的半监督学习方法，其具体流程是对于标注数据 (X, y) 学习数据从 X 到 y 的映射，同时利用学习得到的模型对未标注数据 X 预测出一个伪标签，通过对伪标签数据 (X, )进一步进行监督学习来帮助模型进行更好的收敛和精度提高。

1、对于无标签数据经过弱数据增强（水平翻转、偏移等）得到的样本通过当前的模型得到预测值 

2、对于无标签数据经过强数据增强（RA or CTA）得到的样本通过当前的模型得到预测值 

3、把具有高置信度的弱数据增强的结果，通过 one hot 的方式形成伪标签，然后用 和 X 经过强数据增强得到的预测值 进行模型的训练。

针对全部选择伪标签和用固定阈值选择伪标签的问题，我们创新性地提出用动态阈值来进行样本筛选的策略。即动态阈值 是随 t 衰减的

式中 C=1.0001,是有标签数据在第一个 epoch 之后 loss 的平均值，我们选择那些的无标签样本参与梯度回传。下图展示了不同值下的阈值 的变化曲线。可以看到参数 控制了阈值曲线的下降速率。 的变化曲线类似于模拟训练模型时损失函数下降的趋势。

• https://modelscope.cn/models/damo/cv_resnet50_face-detection_retinaface/summary
• https://modelscope.cn/models/damo/cv_resnet101_face-detection_cvpr22papermogface/summary
• https://modelscope.cn/models/damo/cv_manual_face-detection_tinymog/summary
• https://modelscope.cn/models/damo/cv_manual_face-detection_ulfd/summary
• https://modelscope.cn/models/damo/cv_manual_face-detection_mtcnn/summary
• https://modelscope.cn/models/damo/cv_resnet_face-recognition_facemask/summary
• https://modelscope.cn/models/damo/cv_ir50_face-recognition_arcface/summary
• https://modelscope.cn/models/damo/cv_manual_face-liveness_flir/summary
• https://modelscope.cn/models/damo/cv_manual_face-liveness_flrgb/summary
• https://modelscope.cn/models/damo/cv_manual_facial-landmark-confidence_flcm/summary
• https://modelscope.cn/models/damo/cv_vgg19_facial-expression-recognition_fer/summary
• https://modelscope.cn/models/damo/cv_resnet34_face-attribute-recognition_fairface/summary

CVPR/ECCV 2022论文和代码下载

后台回复：CVPR2022，即可下载CVPR 2022论文和代码开源的论文合集
后台回复：ECCV2022，即可下载ECCV 2022论文和代码开源的论文合集
后台回复：Transformer综述，即可下载最新的3篇Transformer综述PDF

目标检测和Transformer交流群成立

扫描下方二维码，或者添加微信：CVer222，即可添加CVer小助手微信，便可申请加入CVer-目标检测或者Transformer 微信交流群。另外其他垂直方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer等。

一定要备注：研究方向+地点+学校/公司+昵称（如目标检测或者Transformer+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群

▲扫码或加微信号: CVer222，进交流群

CVer学术交流群（知识星球）来了！想要了解最新最快最好的CV/DL/ML论文速递、优质开源项目、学习教程和实战训练等资料，欢迎扫描下方二维码，加入CVer学术交流群，已汇集数千人！

▲扫码进群
▲点击上方卡片，关注CVer公众号

整理不易，请点赞和在看