深度学习caffe的代码怎么读
楼上的大神回答的都很好了，非常感谢。这里我想说一下我自己学习caffe的方式，限于时间篇幅，并不想深入到具体的实现细节，只是从大的方向上谈谈，因为讲清楚一个细节都是一篇博客的篇幅了。1．学习程序的第一步，先让程序跑起来，看看结果，这样就会有直观的感受。caffe的官网上caffe | deep learning framework 提供了很多的examples,你可以很容易地开始训练一些已有的经典模型，如lenet。我建议先从lenet mnist tutorial开始，因为数据集很小，网络也很小但很经典，用很少的时间就可以跑起来了。当你看到terminal刷拉拉的一行行输出，看到不断减少的loss和不断上升的accuracy，训练结束你得到了99+%的准确率，感觉好厉害的样子。你可以多跑跑几个例子，熟悉一下环境和接口。2．单步调试，跟着caffe在网络里流动当玩了几天之后，你对caffe的接口有点熟悉了，对已有的例子也玩腻了，你开始想看看具体是怎么实现的了。我觉得最好的方法是通过单步调试的方式跟着程序一步一步的在网络里前向传播，然后再被当成误差信息传回来。caffe就像一个你平常编程中project,你可以使用ide或者gdb去调试它，这里我们不细说调试的过程。你可以先跟踪前向传播的过程，无非就是从高层次到低层次的调用forward函数，solver->net->layer->specific layer (convolution等…).后向传播也类似，但因为你对caffe里面的各种变量运算不熟悉，当你跟踪完前向传播时可能已经头晕眼花了，还是休息一下，消化一下整个前向传播的流程。刚刚开始你没有必要对每个layer的计算细节都那么较真，大概知道程序的运算流程就好，这样你才可以比较快的对caffe有个大体的把握。3．个性化定制caffe到这里，你已经可以说自己有用过caffe了，但是还不能算入门，因为你还不知道怎么修改源码，满足自己特定的需求。我们很多时候都需要自己定义新的层来完成特定的运算，这时你需要在caffe里添加新的层。你一开肯定无从下手，脑子一片空白。幸运的是caffe github上的wiki development · bvlc/caffe wiki · github已经有了教程了，而且这是最接近latest caffe的源码结构的教程，你在网上搜到的blog很多是有点过时的，因为caffe最近又重构了代码。你可以跟着它的指导去添加自己的层。虽然你已经知道要在哪里添加自己的东西了，但你遇到最核心的问题是如何写下面这四个函数。forward_cpu()forward_gpu()backward_cpu()backward_gpu()你可以先模仿已有的层去实现这四个函数，而且我相信forward函数很快就可以写出来了，但backward的还是一头雾水。这时我们就要补补神经网络里最核心的内容了——backpropagation.4．理解并实现backpropagation这个我觉得是与平台无关的，不管你是使用caffe、torch 7,还是theano,你都需要深刻理解并掌握的。因为我比较笨，花了好长时间才能够适应推导中的各种符号。其实也不难，就是误差顺着chain rule法则流回到前面的层。我不打算自己推导后向传播的过程，因为我知道我没有办法将它表达得很好，而且网上已经有很多非常好的教程了。下面是我觉得比较好的学习步骤吧。从浅层的神经网络（所谓的全连接层）的后向传播开始，因为这个比较简单，而且现在我们常说的cnn和lstm的梯度计算也最终会回归到这里。第一个必看的是ng深入浅出的ufldl教程ufldl tutorial，还有中文版的，这对不喜欢看英语的同学是个好消息。当然你看一遍不理解，再看一遍，忘了，再看，读个几遍你才会对推导过程和数学符号熟悉。我头脑不大行，来来回回看了好多次。当然，ufldl的教程有点短，我还发现了一个讲得更细腻清晰的教程, michael nielsen写的neural networks and deep learning。它讲得实在太好了，以至于把我的任督二脉打通了。在ufldl的基础上读这个，你应该可以很快掌握全连接层的反向传播。最后在拿出standford大牛karpathy的一篇博客hacker’s guide to neural networks，这里用了具体的编程例子手把手教你算梯度，并不是推导后向传播公式的，是关于通用梯度计算的。用心去体会一下。这时你跃跃欲试，回去查看caffe源码里convolution层的实现，但发现自己好像没看懂。虽说卷积层和全连接层的推导大同小异，但思维上还是有个gap的。我建议你先去看看caffe如何实现卷积的，caffe作者贾扬清大牛在知乎上的回答在 caffe 中如何计算卷积？让我茅塞顿开。重点理解im2col和col2im.这时你知道了convolution的前向传播，还差一点就可以弄明白后向传播怎么实现了。我建议你死磕caffe中convolution层的计算过程，把每一步都搞清楚，经过痛苦的过程之后你会对反向传播有了新的体会的。在这之后，你应该有能力添加自己的层了。再补充一个完整的添加新的层的教程making a caffe layer ? computer vision enthusiast。这篇教程从头开始实现了一个angle to sine cosine layer，包含了梯度推导，前向与后向传播的cpu和gpu函数，非常棒的一个教程。最后，建议学习一下基本的gpu cuda编程，虽然caffe中已经把cuda函数封装起来了，用起来很方便，但有时还是需要使用kernel函数等cuda接口的函数。这里有一个入门的视频教程，讲得挺不错的nvidia cuda初级教程视频。
如若转载，请注明出处：https://www.lmux.cn/1290.html
相关推荐
-
11的寓意 数字11有什么特殊的含义么
大家好，11的寓意相信很多的网友都不是很明白，包括数字11有什么特殊的含义么也是一样，不过没有关系，接下来就来为大家分享关于11的寓意和数字11有什么特殊的含义么的一些知识点，大家可以关注收藏，免得下次来找不到哦，
-
股票卡位是什么意思（股票卡位是什么意思）
卡位龙有同身位卡位和异身位卡位。同身位卡位多发生在一个最新题材初期龙头争夺中，比如房地产题材天保基建和苏州高新在第六板才分出高低，四五板时苏州高新还是领先天保基建的。同身位卡位，我的原则就是等他们最终决出胜负再参与，否则选错了龙头如同嫁错了郎！异身位卡位对于同题材来说到底就是补涨龙，我一般只做三板卡位。三板卡位的条件：三板卡位初判，与被卡至少三板差距，卡位龙三板先于
-
为我心中的那片海，为我心中的那片海开头仿写
大家好，为我心中的那片海相信很多的网友都不是很明白，包括为我心中的那片海开头仿写也是一样，不过没有关系，接下来就来为大家分享关于为我心中的那片海和为我心中的那片海开头仿写的一些知识点，大家可以关注收藏，免得下次来找不到哦，下面我们开始吧！本文目录我心中的那片海经典语句心中的那片海贺红玲谁演的为我心中的那片海开头仿写心中的那片海女主是谁为我心中的那片海80字作文开头我心中的那片海经典语
-
淘宝怎么实名认证支付宝（淘宝怎么实名认证支付宝账号）
今日更新解读：涉及小号认证、未成年限制登录、家园入口调整、4月签到奖励、暂时无法领取宝箱、地图图鉴等。2022年3月30日周三以下淘宝人生更新及调整内容，需要小伙伴们知晓：一、未实名认证的账号需要实名认证才能访问淘宝人生。小淘儿曾在《》一文发布了如何注册小号，现在小号需要实名认证，在下方页面中，点击
-
观书有感其一古诗，哥屋安纶观书有感其一古诗
大家好，关于观书有感其一古诗很多朋友都还不太明白，今天小编就来为大家分享关于哥屋安纶观书有感其一古诗的知识，希望对各位有所帮助！本文目录观书有感其一哲理观书有感其一其二译文观书有感其一和其二意思观书有感其一意思哥屋安纶观书有感其一古诗观书有感其一哲理《观书有感》哲理是指人们在读书后，时常有一种豁然开朗的感觉，诗中就是以象征的手法，将这种
-
amazon日本站官网入口（amazon日本官网amazon）
近日，亚马逊日本站发布公告称，如果卖家在产品上架的过程遇到8541错误代码，那么可以使用新推出的“匹配产品信息”功能来一键解决。根据亚马逊卖家后台提供的错误代码说明显示，8541错误通常被称为“单个匹配错误”。比如我们的商品编码（包括通用商品编码、欧洲商品编号、JAN、ISBN等等），与现有ASIN的商品编码相对应，但是我们提交的部分信息与特定的ASIN已有的
-
口罩可以用多久(口罩能戴多长时间)
大家好，今天给各位分享口罩可以用多久的一些知识，其中也会对口罩能戴多长时间进行解释，文章篇幅可能偏长，如果能碰巧解决你现在面临的问题，别忘了关注本站，现在就马上开始吧！本文目录口罩多久换一次一次性口罩能用多久2020口罩戴多久好一只n95口罩可以用多久口罩能戴多长时间口罩多久换一次
-
熊版阿拉斯加，熊版阿拉斯加荷兰版阿拉斯加哪个好
大家好，今天来为大家解答熊版阿拉斯加这个问题的一些问题点，包括熊版阿拉斯加荷兰版阿拉斯加哪个好也一样很多人还不知道，因此呢，今天就来为大家分析分析，现在让我们一起来看看吧！如果解决了您的问题，还望您关注下本站哦，谢谢~本文目录两只狼版阿拉斯加能生出
-
淘宝全球购是正品吗（淘宝全球购是正品吗为什么这么便宜）
随着大家的消费形式不断发展、购买方式的不断进步，国内的消费者已经满足于买国内商品了，许多人海淘和购买国外商品，同时也偏爱中国制造的外国人也不少，出现了很多跨境电商平台。下面，淘宝全球购就是其中一个，那么淘宝全球购是什么意思？淘宝全球购保税仓发货的优点是什么。淘宝全球购是什么意思
-
cd和ts分别是什么意思？谁知道ts和cd分别是什么意思哦
大家好，如果您还对cd和ts分别是什么意思不太了解，没有关系，今天就由本站为大家分享cd和ts分别是什么意思的知识，包括谁知道ts和cd分别是什么意思哦的问题都会给大家分析到，还望可以解决大家的问题，下面我们就开始吧！本文目录cd和ts区别谁知道ts和cd分别是什么意思哦什么是CD，TS