绑定手机号
获取验证码
确认绑定
提问
0/255
提问
订阅开课提醒需关注服务号
回答成功
知道了
扫码关注智猩猩服务号登录
请使用微信扫描二维码
扫描二维码分享给微信好友
您已订阅成功,有新课程,我们将第一时间提醒您。
知道了
发送提问成功
回答可在
“我的——我的提问”中查看
知道了
失败
欢迎来智东西
关注我们
智东西
车东西
芯东西
智猩猩
领域自适应在识别任务中的研究与应用
CV前沿讲座 2020/11/13 10:00:00
课程讲师
邹洋 Amazon Website Service (AWS) AI应用科学家、CMU博士

主要研究领域为计算机视觉与机器学习, 专注于计算机视觉任务中的领域自适应、弱监督/半监督/自监督学习等关键问题, 学术成果发表在ECCV、ICCV、CVPR、NeurIPS等领域内重要学术会议,Google Scholar总引用率500余次。曾在美国硅谷英伟达研究院以及美国通用汽车研发部实习,在CVPR 2018领域自适应竞赛获得第三名。

邹洋
Amazon Website Service (AWS) AI应用科学家、CMU博士

主要研究领域为计算机视觉与机器学习, 专注于计算机视觉任务中的领域自适应、弱监督/半监督/自监督学习等关键问题, 学术成果发表在ECCV、ICCV、CVPR、NeurIPS等领域内重要学术会议,Google Scholar总引用率500余次。曾在美国硅谷英伟达研究院以及美国通用汽车研发部实习,在CVPR 2018领域自适应竞赛获得第三名。

课程提纲
  • 通用的领域自适应self-training框架
  • 基于特征分离与领域自适应协同的行人重识别算法
  • 领域自适应的发展方向
  • 领域自适应与弱监督/半监督/自监督学习等关键问题的关联
课程简介

识别是计算机视觉中的一类重要且基础的问题,包括图像分类,语义分割,目标重识别(Target re-identification)等。识别在各种智能机器的感知系统中都有广泛的应用,比如自动驾驶汽车,机器人,智能手机,安防系统等。近十年来,深度学习极大程度的提高了各项计算机视觉识别任务的精度。然而,即使通过大量标注样本去训练模型,目前的识别模型仍然缺少泛化性,即对于数据分布和训练样本不同的测试样本,模型的识别能力不高。为此,无监督领域自适应(Domain Adaptation)旨在通过大量的标注样本与无标注样本提高模型在新测试数据中的泛化性能。

在当前的任务中,通常标记的训练(源数据)和未见到的测试(目标数据)之间存在巨大的差异,而无监督域适应(UDA)能够在没有目标域标签的情况下解决这一问题。在ECCV 2018会议上,来自卡内基梅隆大学(CMU)的邹洋博士团队提出了一种通用的领域自适应self-training框架,该框架将问题表述为潜在变量损失最小化,通过在目标数据上交替生成伪标签,并使用这些标签对模型进行再训练来解决。在此基础上,为了以避免大类在伪标签生成中的逐渐占据优势,邹博团队还提出了一种新的类平衡自训练框架,并引入空间先验对生成的伪标签进行精炼。实验结果表明,该方法在多种主要的UDA设置下都能达到最佳的语义分割性能。

深度自我训练是实现无监督领域适应的有效手段,通常需要对目标域进行迭代预测,然后将预测结果作为伪标签进行再训练。然而由于伪标签可能会有噪声,自我训练可能会把过度的标签置信度放在错误的类别上,导致错误传播的偏差解。在ICCV 2019会议上,邹博团队提出一种信心正则化自我训练(CRST)框架,该框架通过交替优化把伪标签看作是连续潜变量进行优化。在此基础上,邹博团队还提出两种置信正则化方法:标签正则化(LR)和模型正则化(MR)。CRST-LR生成软伪标签,而CRST-MR鼓励网络输出的平滑性。大量实验表明,CRSTs的性能优于最先进的非正则化方法。

无监督域自适应同样可以用于行人重识别。在ECCV 2020会议上,邹博团队通过净化待适应的表示空间来改进自适应,提出了一个联合学习框架,该框架可以分离与ID相关/不相关的特征,并强制适应只适用于与ID相关的特征空间。框架包括一个分解模块,该模块将跨域的图像编码为一个共享的外观空间和两个独立的结构空间,以及一个可以共享的空间中执行对抗性对齐和自训练的适应模块。

10月13日上午10点,智东西公开课邀请到AWS AI应用科学家、CMU博士邹洋参与到「CV前沿讲座」第23讲,带来主题为《领域自适应在识别任务中的研究与应用》的直播讲解。在本讲座的第一部分,邹博将详解一种通用的端到端领域自适应self-training框架。该框架能够简单有效地提高识别模型(图像分类,语义分割)在新测试数据上的泛化性。在本讲座的第二部分,邹博会介绍一种应用于行人重识别的领域自适应算法,该算法设计将特征分离(feature disentanglement)与领域自适应协同互助。在讲座最后,邹博将讨论领域自适应与弱监督/半监督/自监督学习等关键问题的关联与以后可能的发展。感兴趣的朋友一定不要错过!

邹洋现任Amazon Website Service (AWS) AI应用科学家,2020年秋于卡内基梅隆大学电气与计算机工程系获得博士学位,导师是Vijayakumar Bhagavatula。他的主要研究领域为计算机视觉与机器学习,专注于计算机视觉任务中的领域自适应、弱监督/半监督/自监督学习等关键问题,学术成果发表在ECCV、ICCV、CVPR、NeurIPS等领域内重要学术会议,Google Scholar总引用率500余次。邹博曾在美国硅谷英伟达研究院以及美国通用汽车研发部实习,在CVPR 2018领域自适应竞赛获得第三名。

精彩问答
提问
提问
目前还没有问题,可以点击右侧的“提问按钮”提问
更多问题...