日期:2018年6月12日

2018年6月12日 1 作者 Manchery

深度学习&卷积神经网络学习笔记(一)基础

设计

全连接神经网络

没有良好的不变性

解决方法:一般是大量数据+增加层数/让不同位置有不同权值

卷积神经网络

  • 局部连接:感受野(窗口)、局部线性组合:filter(kernel)
  • 空间共享:参数减少、权值共享
  • stride、Feature Map
  • depth维度上fully-connected,权值不共享
  • Zero padding
  • 多filters:新的depth维度
  • 非线性激活函数:sigmoid、ReLU等
  • 卷积层的输入与输出
  • Vectorization
  • pooling:Max pooling等,去除feature map中的冗余信息
  • 最后:全连接层
  • 特征抓取层(自动学习特[……]

Read more

2018年6月12日 0 作者 Manchery

我在深圳 2018-06-12 深度学习&卷积神经网络入门

今天就正式入职啦!但是似乎员工卡还没来得及办权限,得明天,所以蹭了两顿饭。

跟导师交接了下我的第一个项目是人体姿势识别,照着论文复现就可以了。

重温了一下吴恩达老师的机器学习课程,发现真的是受益无穷,很多概念都是接触过的。

然后就是新的学习模式:卷积神经网络 CNN,跟传统的浅层NN还是有区别的。

不过似乎主要是在NN设计上进行了改进,更贴近生物视觉,training上还是使用反向传播BP的思想,不过得对于激活函数ReLU等和pooling做对应的处理。

导师似乎也很忙,下午没看见过几次,自己也有点腼腆,不过帮我搬来了电脑,谢谢!

于是就自己组装了电脑。

座位左边两位实习生,[……]

Read more