幸运28

张飞软硬开源基于STM32 BLDC直流无刷电机驱动器开发视频套件,👉戳此立抢👈

研究人员共同提出了一种面向目标检测任务的新模块Res2Net

新智元 2019-04-08 09:26 次阅读

近日,南开大学、牛津大学和加州大学默塞德分校的研究人员共同提出了一种面向目标检测任务的新模块Res2Net,新模块可以和现有其他优秀模块轻松整合,在不增加计算负载量的情况下,在ImageNet、CIFAR-100等数据集上的测试性能超过了ResNet。

2015年,由何恺明等四位华人所提出的ResNet一战成名,可极快的加速神经网络的训练。

而近日,由南开大学、牛津大学和加州大学默塞德分校的研究人员共同提出的Res2Net,可以和现有其他优秀模块轻松整合:在不增加计算负载量的情况下,在ImageNet、CIFAR-100等数据集上的测试性能超过了ResNet。

论文地址:

http://farmbura.com/soft/72/2008/200807285646.html

关于代表性计算机视觉任务的进一步消融研究和实验结果,即目标检测,类激活 mapping和显著目标检测,进一步验证了Res2Net相对于现有技术的基线方法的优越性。

面向视觉任务的多尺度表示对于目标检测、语义分割和显著目标检测任务具有重大意义。通过CNN新模块Res2Net,能够实现与比以往优秀的基于CNN backbone 的模型(如ResNet,ResNeXt和DLA)更好的性能表现。

Res2Net:计算负载不增加,特征提取能力更强大

在多个尺度上表示特征对于许多视觉任务非常重要。卷积神经网络(CNN) backbone 的最新进展不断展示出更强的多尺度表示能力,从而在广泛的应用中实现一致的性能提升。然而,大多数现有方法以分层方式(layer-wise)表示多尺度特征。

在本文中,研究人员在一个单个残差块内构造分层的残差类连接,为CNN提出了一种新的构建模块,即Res2Net——以更细粒度(granular level)表示多尺度特征,并增加每个网络层的感受野(receptive fields)范围。

上图中,左侧为CNN网络架构的基本构成,右侧为本文新提出的Res2Net模块。新模块具备更强的多规模特征提取能力,但计算负载量与左侧架构类似。具体而言,新模块用一个较小的3×3过滤器取代了过滤器组,同时可以将不同的过滤器组以层级残差式风格连接。模块内部的连接形式与残差网络(ResNet)类似,故命名为Res2Net。

与其他幸运28现有模块的整合

本文所提出的Res2Net模块可以融合到最先进的backbone CNN模型中,例如ResNet,ResNeXt和DLA。研究人员在所有这些模型上评估 Res2Net 模块,并在广泛使用的数据集(例如CIFAR-100和ImageNet)上展示相对于基线模型的一致性能提升。

由于单独的Res2Net模块对于整体网络结构没有特定的要求,Res2Net模块的多尺度表示能力也和CNN的分层特征聚合模型彼此独立,所以可以很容易地将Res2Net模块集成到现有的其他优秀CNN模型中。比如ResNet,ResNeXt 和DLA 等。集成后的模型可称为Res2Net,Res2NeXt,和Res2Net幸运28-DLA。

Res2Net模块性能及测试结果

ImageNet数据集测试结果

ImageNet数据集Top1和Top5测试结果

Res2Net-50在ImageNet数据集不同规模测试错误率结果。其中参数w为过滤器宽度,s为sca幸运28le

CIFAR-100数据集测试结果

CIFAR-100数据集Top1错误率,以及模型大小

CIFAR-100数据集不同模型大小下的检测准确率

ResNet-50和Res2Net-50的类激活映射可视化对比

ResNet-101 和Res2Net-101的语义分割结果的可视化对比

ResNet-50 和Res2Net-50的显著目标检测结果对比(图7)

结论及未来方向

Res2Net结构简单,性能优秀,可以进一步探索CNN在更细粒度级别的多尺度表示能力。 Res2Net揭示了一个新的维度,即“尺度”(Scale),除了深度,宽度和基数的现有维度之外,“规模”是一个必不可少的更有效的因素。

Res2Net模块可以很容易地与现有的最新模块整合。对CIFAR100和ImageNet基准测试的图像分类结果表明,使用Res2Net模块的网络始终在与对手的竞争中表现出更优秀的性能,这些对手包括ResNet,ResNeXt,DLA等。

Res2Net性能上的优越性已经在几个具有代表性的计算机视觉任务体现出来,包括类激活映射,对象检测和显着对象检测等。多尺度表示对于未来开拓更广泛的应用领域至关重要。

本文相关源代码将在论文被收稿后公开发布。

原文标题:超越ResNet:南开提出Res2Net,不增计算负载,性能全面升级!

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

深度学习和神经网络

David,加州大学物理博士,美国著名电商数据科学家。本课程介绍什么是深度学习, 深度学习与机器学习的关系,几种神经网络
发表于 11-08 00:00 7724次 阅读
深度学习和神经网络

如何使用粒子群优化支持向量机进行花粉浓度预测模型的资料说明

为了提高花粉浓度预报的准确率,解决现有花粉浓度预报准确率不高的问题,提出了一种基于粒子群优化( PS....
发表于 04-25 17:13 6次 阅读
如何使用粒子群优化支持向量机进行花粉浓度预测模型的资料说明

基于400多项运动训练了一个循环神经网络和一个深度卷积生成对抗网络,旨在创造一种全新的原创运动

“GPU技术帮助我们将训练和生成阶段缩减到原来的一小部分,” Webb表示。“如果没有这样的速度,我....
的头像 英伟达NVIDIA中国 发表于 04-25 11:42 208次 阅读
基于400多项运动训练了一个循环神经网络和一个深度卷积生成对抗网络,旨在创造一种全新的原创运动

分析并比较五种非常有用的深度学习框架的优点及应用。

我喜欢TensorFlow的原因有两点:它完全是开源的,并且有出色的社区支持。TensorFlow为幸运28....
的头像 电子发烧友网工程师 发表于 04-24 17:26 159次 幸运28 阅读
分析并比较五种非常有用的深度学习框架的优点及应用。

利用进化后的反向传播算法实现快速、高效的训练

研究人员提出了一种离线型端到端训练的鉴别目标跟踪方法。在Python中可以使用PyTorch实现,新....
的头像 电子发烧友网工程师 发表于 04-24 17:23 189次 阅读
利用进化后的反向传播算法实现快速、高效的训练

IBM开发了一个名为“人脸多样性”的新项目,并为其准备了上百万张图片

不论人工智能的从业者们如何解释,韦斯特在得知自己照片被用作机器学习后大吃一惊。今年3月,她在阅读了一....
的头像 电子发烧友网工程师 发表于 04-24 17:07 344次 阅读
IBM开发了一个名为“人脸多样性”的新项目,并为其准备了上百万张图片

比CNN表现更好,CV领域全新卷积操作OctConv厉害在哪里?

CNN卷积神经网络问世以来,在计算机视觉领域备受青睐
的头像 电子发烧友网工程师 发表于 04-24 11:35 213次 阅读
比CNN表现更好,CV领域全新卷积操作OctConv厉害在哪里?

ICML 2019的论文入选结果已经出炉,你的论文中了吗?

本研究在这两个方面都取得了进展。首先,我们利用听觉掩码(auditory masking)的心理声学....
的头像 新智元 发表于 04-24 09:56 247次 阅读
ICML 2019的论文入选结果已经出炉,你的论文中了吗?

BERT烹饪之法:fintune 的艺术

其实它这里的做法和原论文中的问答比较像,不过增加了问题分类环节。将页面文档分成多个片段,和 quer....
的头像 电子发烧友网工程师 发表于 04-23 17:22 171次 阅读
BERT烹饪之法:fintune 的艺术

一种新的带有不确定性的边界框回归损失,可用于学习更准确的目标定位

目标检测是一种多任务学习问题,包含目标定位和目标分类。当前最佳的目标检测器(比如 Faster RC....
的头像 电子发烧友网工程师 发表于 04-23 16:38 171次 阅读
一种新的带有不确定性的边界框回归损失,可用于学习更准确的目标定位

人类目前只赢了40场比赛,OpenAI Five的胜率高达99%!

上周,OpenAI Five击败了TI8冠军OG。在赛后评论中,队长NoTail预测他的团队能够适应....
的头像 新智元 发表于 04-23 10:48 267次 幸运28 阅读
人类目前只赢了40场比赛,OpenAI Five的胜率高达99%!

无人驾驶数据集你只知道Kitti吗?而实际比你想象的多

ApolloCar3D该数据集包含5,277个驾驶图像和超过60K的汽车实例,其中每辆汽车都配备了具....
的头像 智车科技 发表于 04-22 17:26 784次 阅读
无人驾驶数据集你只知道Kitti吗?而实际比你想象的多

谷歌提出MorphNet:网络规模更小、速度更快!

谷歌已经将 MorphNet 应用到其多个生产级图像处理模型中。MorphNet 可带来模型大小/F....
的头像 幸运28 电子发烧友网工程师 发表于 04-22 16:15 269次 阅读
谷歌提出MorphNet:网络规模更小、速度更快!

一个能通过空间条件坐标和隐变量生成图像片、并合成完整图片的网络模型

在前文的架构图中我们已经看到它由生成器和判别器两个网络和两套坐标系统组成,其中包括了细粒度的局域图像幸运28....
的头像 将门创投 发表于 04-22 14:37 162次 阅读
一个能通过空间条件坐标和隐变量生成图像片、并合成完整图片的网络模型

GANs领域值得深入研究的七个问题,让我们得以窥视GANs未来的发展走向

如果样本中的元素被模型设置了0概率,那么惩罚将会变成无穷大!而GANs则通过间接的方式设置0概率,惩....
的头像 将门创投 发表于 04-22 14:26 176次 阅读
GANs领域值得深入研究的七个问题,让我们得以窥视GANs未来的发展走向

Facebook AI使用单一神经网络架构来同时完成实例分割和语义分割

这一新架构“全景 FPN ”在 Facebook 2017 年发布的 Mask R-CNN 的基础上....
的头像 幸运28 电子发烧友网工程师 发表于 04-22 11:46 362次 阅读
Facebook AI使用单一神经网络架构来同时完成实例分割和语义分割

卷积神经网络的数学原理介绍

在之前的系列中,我们学习了密集连接的神经网络(densely connected neural ne....
的头像 电子发烧友网工程师 发表于 04-22 11:44 291次 阅读
卷积神经网络的数学原理介绍

再下一城!机器学习引擎Lc0赢得计算机国际象棋锦标赛

机器学习国际象棋引擎Lc0上周末赢得了Chess.com计算机国际象棋锦标赛,成为历史上第一个获得此....
的头像 电子发烧友网工程师 发表于 04-22 11:20 372次 阅读
再下一城!机器学习引擎Lc0赢得计算机国际象棋锦标赛

研究人员开发出一种可溶于水的新型忆阻器

西安电子科技大学先进材料与纳米科技学院的研究人员王宏解释说:“将可随需消失的瞬变材料与忆阻器件结合起....
的头像 IEEE电气电子工程师学会 发表于 04-22 09:51 176次 阅读
研究人员开发出一种可溶于水的新型忆阻器

Marvin Minsky在计算机科学领域的传奇故事

上世纪 50 到 60 年代,Marvin Minsky 带领他的学生们在人工智能这片新开垦的知识领....
的头像 新智元 发表于 04-21 09:32 355次 阅读
Marvin Minsky在计算机科学领域的传奇故事

深度学习到底是什么卷积神经网络的结构你了解吗

在很多人眼里,深度学习是一个非常神奇的技术,是人工智能的未来,是机器学习的圣杯。今天大恒图像带您一起....
的头像 电子发烧友网工程师 发表于 04-20 09:36 274次 阅读
深度学习到底是什么卷积神经网络的结构你了解吗

深度学习与传统计算机视觉到底是怎么样的关系

如今,深度学习在众多领域都有一席之地,尤其是在计算机视觉领域。尽管许多人都为之深深着迷,然而,深网就....
的头像 电子发烧友网工程师 发表于 04-20 09:28 222次 阅读
深度学习与传统计算机视觉到底是怎么样的关系

卷积神经网络四种卷积类型

有些消息来源使用名称deconvolution,这是不合适的,因为它不是解卷积。为了使事情更糟,确实....
的头像 Imagination Tech 发表于 04-19 16:48 219次 阅读
卷积神经网络四种卷积类型

机器学习的特征工程是将原始的输入数据转换成特征

对于类别数量很多的分类变量可以采用特征哈希(Hashing Trick),特征哈希的目标就是将一个数....
的头像 Imagination Tech 发表于 04-19 16:42 374次 阅读
机器学习的特征工程是将原始的输入数据转换成特征

一位网友便利用StyleGAN耗时5天创作出了999幅抽象派画作!

StyleGAN是英伟达提出的一种用于生成对抗网络的替代生成器体系结构,该结构借鉴了样式迁移学习的成....
的头像 新智元 发表于 04-19 14:44 331次 阅读
一位网友便利用StyleGAN耗时5天创作出了999幅抽象派画作!

决策树和随机森林模型

我们知道决策树容易过拟合。换句话说,单个决策树可以很好地找到特定问题的解决方案,但如果应用于以前从未....
的头像 新智元 发表于 04-19 14:38 211次 阅读
决策树和随机森林模型

FAIR何恺明团队近日发表神经结构搜索NAS方面的幸运28最新力作

在这一趋势的推进中,神经结构搜索 (neural architecture search, NAS)....
的头像 新智元 发表于 04-19 14:34 283次 阅读
FAIR何恺明团队近日发表神经结构搜索NAS方面的最新力作

ResNet本质上就干了一件事:降低数据中信息的冗余度。

打个简单但不严谨的比方:大家都有过年抢高铁票的经验吧?几个人(维度低)帮你抢一张票,肯定没有一群人(幸运28....
的头像 新智元 发表于 04-19 11:48 187次 阅读
ResNet本质上就干了一件事:降低数据中信息的冗余度。

ResNet原始结果无法复现?大神何恺明受到了质疑

但是,如果只是简单地将层堆叠在一起,增加网络的深度并不会起太大作用。这是由于难搞的梯度消失(vani....
的头像 新智元 发表于 04-19 11:21 292次 阅读
ResNet原始结果无法复现?大神何恺明受到了质疑

如果把中学生的英语阅读理解选择题让AI来做,会做出什么水平?

与仅就问题感知或选择性文章表示进行计算的现有方法不同,DCMN能够计算文章感知问题表示和文章感知答案....
的头像 新智元 发表于 04-19 10:49 370次 阅读
 如果把中学生的英语阅读理解选择题让AI来做,会做出什么水平?

深度学习真正可以实现什么,与经典计算机视觉的区别是什么?

看起来他正在用一些随机看的过滤器对每个图像进行卷积,然后使用一些非常奇怪的逻辑,许多“if then....
的头像 新智元 发表于 04-19 10:46 240次 阅读
深度学习真正可以实现什么,与经典计算机视觉的区别是什么?

如何使用空间合作关系进行基站流量预测模幸运28型的资料说明

针对传统的自回归积分移动平均(ARIMA)模型和长短时记忆(LSTM)单元在基站流量预测中没有利用基幸运28....
发表于 04-18 17:29 55次 阅读
如何使用空间合作关系进行基站流量预测模型的资料说明

基于神经网络VGG16和特征抽取提升图像的识别率

使用预先训练网络和特征抽取大力提升图像识别率...
发表于 04-18 09:55 27次 阅读
基于神经网络VGG16和特征抽取提升图像的识别率

Xavier的硬件架构特性!Xavier推理性能评测

Xavier主要用于边缘计算的深度神经网络推理,其支持Caffe、Tensorflow、PyTorc....
的头像 英伟达NVIDIA企业解决方案 发表于 04-17 16:55 360次 阅读
Xavier的硬件架构特性!Xavier推理性能评测

系统科学发展之非线性与复杂适应系统理论

20世纪初,自相似概念终于被数学家们所发现并利用,构造出了令人惊奇的曲线,有代表性的是科赫曲线和谢尔....
的头像 人工智能学家 发表于 04-17 11:22 318次 阅读
系统科学发展之非线性与复杂适应系统理论

神经网络的技术为什么伟大, 又是什么让它们这么多年才姗姗走来?

我们把生物神经元进行数学抽象, 就得到人工神经元。如何抽取它的灵魂? 简单的说, 每一个神经元扮演的幸运28....
的头像 人工智能学家 发表于 04-17 10:55 467次 阅读
神经网络的技术为什么伟大, 又是什么让它们这么多年才姗姗走来?

自然语言基础技术之命名实体识别相对全面的介绍

早期的命名实体识别方法基本都是基于规则的。之后由于基于大规模的语料库的统计方法在自然语言处理各个方面....
的头像 人工智能头条 发表于 04-17 10:12 1164次 幸运28 阅读
自然语言基础技术之命名实体识别相对全面的介绍

介绍三个NLP领域的热门词汇

具体而言,如果要计算给定单词的下一个表征,Transformer 会将该单词与句子中的其它单词一一对....
的头像 人工智能头条 发表于 04幸运28-17 10:05 397次 阅读
介绍三个NLP领域的热门词汇

PCA类在降维和数据重构的简单用法

sklearn.decomposition.SparsePCA和sklearn.decomposit幸运28....
的头像 人工智能爱好者社区 发表于 04-17 09:57 994次 阅读
PCA类在降维和数据重构的简单用法

Preferred Networks在GTC大会上介绍了他们的家庭清洁机器人

它可以利用该公司开发的卷积神经网络对物体进行检测,绘制出房间里物体的位置。此外,它还可以把物品放回原....
的头像 英伟达NVIDIA中国 发表于 04-15 15:34 243次 阅读
Preferred Networks在GTC大会上介绍了他们的家庭清洁机器人

分析深度学习技术现状,研判深度学习发展趋势

深度神经网络节点功能不断丰富。为了克服目前神经网络存在的局限性,业界探索并提出了新型神经网络节点,使....
的头像 人工智能学家 发表于 04-13 11:06 856次 阅读
分析深度学习技术现状,研判深度学习发展趋势

关于OpenCV深度学习模块的内容

OpenCV是计算机视觉领域使用最为广泛的开源库,以功能全面使用方便著称。在LiveVideoSta....
的头像 LiveVideoStack 发表于 04-13 09:59 446次 阅读
关于OpenCV深度学习模块的内容

如何使用级联网络进行行人幸运28检测的方法说明

针对复杂环境下行人检测不能同时满足高召回率与高效率检测的问题,提出一种基于卷积神经网络(CNN)的行....
发表于 04-12 17:30 46次 幸运28 阅读
如何使用级联网络进行行人检测的方法说明

腾讯优图推出名为DSFD(中文名为双分支人脸检测器)的全新算法

该算法已被计算机视觉顶级会议CVPR 2019接收,原文《DSFD: Dual Shot Face ....
的头像 人工智能 发表于 04-12 12:19 452次 阅读
腾讯优图推出名为DSFD(中文名为双分支人脸检测器)的全新算法

数字信号处理算法C语言实现PDF电子书免费下载

本文档的主要内容详细介绍的是数字信号处理算法C语言实现PDF电子书免费下载包括了:第一篇常用数字信号....
发表于 04-11 16:08 51次 阅读
数字信号处理算法C语言实现PDF电子书免费下载

骁龙855为手机拍照和视频录制设定了全新标准

有了CV-ISP,计算机视觉任务能够在更快的速度和更低的功率下完成,同时功耗降低高达4倍。CV-IS....
的头像 Qualcomm中国 发表于 04-11 10:37 652次 阅读
骁龙855为手机拍照和视频录制设定了全新标准

【PYNQ-Z2试用体验】基于PYNQ-Z2的神经网络图形识别[结项]

前言前面我们简单讲解了神经网络的基本概念和工作原理,接下来,将通过具体的python代码来完成基于神经网络的图形识别。这里使用...
发表于 03-18 21:51 335次 阅读
【PYNQ-Z2试用体验】基于PYNQ-Z2的神经网络图形识别[结项]

【PYNQ-Z2试用体验】基于PYNQ的神经网络自动驾驶小车-搭建神经网络

在之前的帖子中,我们完成了神经网络自动驾驶小车的硬件搭建与底盘控制。当小车通过WiFi无线连接到网络后,已经可以对其进行远...
发表于 03-09 22:10 379次 阅读
【PYNQ-Z2试用体验】基于PYNQ的神经网络自动驾驶小车-搭建神经网络

【PYNQ-Z2试用体验】基于PYNQ的神经网络自动驾驶小车-多路电机控制(结项)

在上一篇帖子中,我们完成了“基于PYNQ的神经网络自动驾驶小车”的硬件搭建。本文我们将继续完善小车的软件框架,为小车的底...
发表于 03-07 16:57 608次 阅读
【PYNQ-Z2试用体验】基于PYNQ的神经网络自动驾驶小车-多路电机控制(结项)

【PYNQ-Z2试用体验】基于PYNQ的神经网络自动驾驶小车 - 硬件搭建

根据项目规划,本篇帖子将详解“基于PYNQ的神经网络自动驾驶小车”的硬件搭建。 一、材料清单 制作小车所需的主要部件与...
发表于 03-05 18:11 555次 阅读
【PYNQ-Z2试用体验】基于PYNQ的神经网络自动驾驶小车 - 硬件搭建

【PYNQ-Z2试用体验】神经网络基础知识

前言前面我们通过notebook,完成了在PYNQ-Z2开发板上编写并运行python程序。我们的最终目的是基于神经网络,完成手写的数字...
发表于 03-03 22:10 364次 阅读
【PYNQ-Z2试用体验】神经网络基础知识

【PYNQ-Z2试用体验】基于PYNQ的神经网络自动驾驶小车 - 项目规划

本次试用PYNQ-Z2的目标作品是“基于PYNQ的神经网络自动驾驶小车”。 在之前的一个多月内,已经完成了整个项目初步实...
发表于 03-02 23:10 446次 阅读
【PYNQ-Z2试用体验】基于PYNQ的神经网络自动驾驶小车 - 项目规划

分享机器学习卷积神经网络的工作流程和相关操作

机器学习算法篇--卷积神经网络基础(Convolutional Neural Network)...
发表于 02-14 16:37 151次 幸运28 阅读
分享机器学习卷积神经网络的工作流程和相关操作

卷积神经网络入门资料

卷积神经网络入门详解
发表于 02-12 13:58 202次 幸运28 阅读
卷积神经网络入门资料

关于labview机器学习的相关例子

1、例程包含了BP神经网络、SVM和其他一些算法的例子 2、有助于学习人工智能与labview的结合应用 3、使用例子需要安装ML...
发表于 01幸运28-27 12:11 414次 阅读
关于labview机器学习的相关例子
国民彩票App | 盛大彩票网址 | 幸运28规律 | 好运快3遗漏 | 5分快3外挂 | 台湾宾果彩票 | 2分六合开奖 | 盛源彩票网址 | 万国彩票App | 永旺直播网址 | 美娱彩票注册 | 678彩票网址 | 728彩票网址 | 顺丰彩票App | 2分pk10大小 | 2分彩规律 | 手机购彩网址 | 乐购彩票App | 百乐彩注册 | 淘彩网App