ResNet

首先祝所有教师节日快乐,感谢你们赠人玫瑰手留余香的奉献精神。然后时隔将近一个月,我又滚回来更新博客了,之前一直在忙着入职这件事,希望能尽快融入公司开发业务中而”忙碌“了一个月。接下来继续经典图像识别网络模型的介绍。上文我们已经介绍了AlexNet和VGG网络,这两个网络都将当时的神经网络的深度发挥到了极致,后续的神经网络模型性能基本上好不了多少。这是由于随着网络的加深,在误差后向传播时,靠前的网络层权重基本得不到更新,一直维持在某一个值附近。在2015年,何凯明大神提出了一种快捷连接方式将误差传播到了前面的网络层,很大程度上提高了网络的性能。下面简单解析一下ResNet网络。 ...

2019年9月10日 · 8 分钟 · Simplestory

区分几种归一化算法

神经网络已经有几个归一化算法了,它们长得都很相似,基本上都有统一的形式。本文参考了知乎专栏SIGAI关于归一化算法的文章,具体链接在文章底部。 ...

2019年8月11日 · 3 分钟 · Simplestory

VGG

VGG(Visual geometry group)是继AlexNet后的又一个经典卷积神经网络模型。它在2014年的ILSVRC比赛中获得了第二名(第一名是GoogleLeNet模型),在工作和个人使用中应用较多的是VGG16和VGG19,这里16和19表示的是神经网络的层数。这里接上文提到的AlexNet网络模型对VGG模型进行解析。 ...

2019年7月30日 · 4 分钟 · Simplestory

AlexNet

如今的深度神经网络已经具有了完备的能力,特别是在视觉领域已经接近甚至超过了人类的视觉能力,而在这些深度学习网络的背后都含有着一个基本框架,即卷积神经网络(CNN)。CNN的主要应用范围是在计算机视觉领域,这里我简单的介绍一下CNN中的经典模型AlexNet。AlexNet是由Alex Krizhevsky等人在2012年提出的,虽然现在这个模型已经比较少见了(大多数都使用resnet什么的),这个在当时的目标检测领域有着很好的表现,也为后续的其它CNN框架奠定了基础。 ...

2019年7月22日 · 6 分钟 · Simplestory