Caffe 深度学习模型训练全过程

经过一星期的折腾,终于搞明白大致怎么使用caffe了,一下按序罗列下训练过程以及期间使用的某些技巧

未完成,有待继续学习

数据准备与处理

数据文件

lmdb 数据库 mnist_train_lmdb & mnist_test_lmdb

均值文件 imagenet_mean.binaryproto 生成均值文件命令 compute_image_mean [train_lmdb] [mean.binaryproto]

Data层

参考:caffe | Layers

caffe 主要是讲一下caffe对不同的数据类型的处理(二)

从图像转换为数据库

参考:Caffe 入门[……]

Read more

深度学习&卷积神经网络学习笔记(一)基础

设计

全连接神经网络

没有良好的不变性

解决方法:一般是大量数据+增加层数/让不同位置有不同权值

卷积神经网络

  • 局部连接:感受野(窗口)、局部线性组合:filter(kernel)
  • 空间共享:参数减少、权值共享
  • stride、Feature Map
  • depth维度上fully-connected,权值不共享
  • Zero padding
  • 多filters:新的depth维度
  • 非线性激活函数:sigmoid、ReLU等
  • 卷积层的输入与输出
  • Vectorization
  • pooling:Max pooling等,去除feature map中的冗余信息
  • 最后:全连接层
  • 特征抓取层(自动学习特[……]

Read more

我在深圳 2018-06-12 深度学习&卷积神经网络入门

今天就正式入职啦!但是似乎员工卡还没来得及办权限,得明天,所以蹭了两顿饭。

跟导师交接了下我的第一个项目是人体姿势识别,照着论文复现就可以了。

重温了一下吴恩达老师的机器学习课程,发现真的是受益无穷,很多概念都是接触过的。

然后就是新的学习模式:卷积神经网络 CNN,跟传统的浅层NN还是有区别的。

不过似乎主要是在NN设计上进行了改进,更贴近生物视觉,training上还是使用反向传播BP的思想,不过得对于激活函数ReLU等和pooling做对应的处理。

导师似乎也很忙,下午没看见过几次,自己也有点腼腆,不过帮我搬来了电脑,谢谢!

于是就自己组装了电脑。

座位左边两位实习生,[……]

Read more