其他

cifar10訓練步驟如下： （1）開啟終端，應用cd切換路徑，如 cd ~/caffe/data/cifar10 ， （2）繼續執行命令   ./get_cifar10.sh， （3）成功下載資料集之後，執行ls即可見所下載的資料檔案， （4）再次將路徑切換到cd ~/caffe/examples/cifar10 （5）繼續執行命令 ./create_cifar10.sh 

#include <stdio.h>#include <stdlib.h>#include <stdbool.h>#define MAX_NODE_NUM 10typedef int ElemType;typedef enum {DG,UDG} GKind;typedef void (*VISIT)(ElemType); //定義一個函數指標的類型VISIT, 指向一個"傳回型別為void,

1 反卷積就是卷積，只是中間padding了下，然後再做卷積。 這裡有個動態圖，transposed就是代表反卷積（轉置卷積） https://github.com/vdumoulin/conv_arithmetic 演算法實現上也是先padding然後卷積 2 數學形式 卷積可以轉化為一副映像與一個矩陣C的乘積。 反卷積（轉置卷積）只是正向時左乘C^T，而反向時左乘(C^T)^T。 最高票的答案。 https://www.zhihu.com/question/43609045

系統：Ubuntu14.04 64-bit 1.安裝CUDA 顯卡：GTX 1080 為了測試顯卡是否正常，先裝了個352的驅動，使用Ubuntu的預設源，很方便就完成了安裝。 # 官方說明中的前置條件apt-get install gcc g++ linux-headers-$(uname -r)apt-get install nvidia-352 1 2 3 4 接著安裝cuda庫，這裡使用最新的 cuda-7.5

Sarsa 演算法（on-policy） 在s狀態時，跟據當前Q網路以及一定的策略（e-greedy）來選取動作a，進而觀測到下一狀態s'，並再次根據當前Q網路及相同的e- greedy策略選擇動作a',這樣就有了一個<s，a，r，s'，a'>序列，成為一個sample。 注意： 1.在狀態s'時，就知道了要採取哪個a'，並真的採取了這個動作。

 這兩天在看CS231n的課程，不得不感慨我國目前的教育制度確實很難培養出真正高端的人才,別人的課程有那麼多的精心準備的課件、筆記和供學生練習的任務和代碼，讓你從原理到工程的實現全過一遍，反觀我所在的所謂的雙一流大學的課程。。呵呵噠。。。不說閑話了，這裡講下反向傳播中的鏈式法則的實現細節。  我們以這個公式為例，實現反向傳播的鏈式法則，在神經網路中的反向傳播的方式是一樣的，只是函數比這個複雜些。

全串連層的推導 全串連層的每一個結點都與上一層的所有結點相連，用來把前邊提取到的特徵綜合起來。由於其全相連的特性，一般全串連層的參數也是最多的。 全串連層的前向計算 下圖中連線最密集的2個地方就是全串連層，這很明顯的可以看出全串連層的參數的確很多。在前向計算過程，也就是一個線性加權求和的過程，全串連層的每一個輸出都可以看成前一層的每一個結點乘以一個權重係數W，最後加上一個偏置值b得到，即 。如下圖中第一個全串連層，輸入有50*4*4個神經元結點，輸出有500個結點，則一共需要5

一、安裝Java 1.下載jdk-8u91-linux-x64.tar.gz檔案，網址為：http://www.oracle.com/technetwork/java/javase/downloads/index.html 2.安裝： #選擇一個安裝路徑，我選擇的是/opt,並將下載的jdk-8u91-linux-x64.tar.gz檔案複製到這個檔案夾下 $ cd /opt $ sudo cp ~/Downloads/jdk-8u91-linux-x64.tar.gz

策略迭代與值迭代都屬於強化學習裡面策略求解中的動態規劃方法。其區別是什麼呢。 首先看一張圖片： 首先看策略迭代： １.initialization 初始化所有狀態的v(s)以及π(s)（初始化為隨機策略） 2.poicy evaluation 用當前的v(s)對當前策略進行評估，計算出每一個狀態的v(s)，直到v(s)收斂，才算訓練好了這個狀態價值函數V(s)

一直以來很奇怪感受野是怎麼計算的，這裡參考了兩個部落格總算是看懂了。 http://blog.csdn.net/skying_li/article/details/70158924 http://blog.csdn.net/kuaitoukid/article/details/46829355 記住一個從底向上的遞推公式：F(i，j-1) = kernel_size_j +

最近在改進之前做的視覺定點演算法，以前只有一個位置環，現在準備再串一級速度環，但是解算出無人機的平移速度還是頗為頭疼的，網上的資料很少，需要我們自己動腦去解決這個問題。 首先要測水平速度，傳統的方法是GPS，我所設計的無人機的應用情境中的GPS訊號雖然有，但是並不那麼穩定，其次GPS的精度也達不到我所需的視覺引導的要求，因為GPS的位置環並沒有反饋出我需要的靶標物的位置。

我感覺在學習過程中，遇到不懂的，常常都是需要複習機率論知識，所以假設機器學習的名詞啥的都是掌握的。 下面這些文章都是頭大的時候覺得讀一遍就能懂的。 機率論基礎 先驗機率、後驗機率、貝葉斯法則、極大後驗機率假設、極大似然假設 貝葉斯理論 貝葉斯學習–極大後驗機率假設和極大似然假設 混合型隨機變數期望的求法及應用 微積分、線性代數基礎 多元函數求極值問題 正定矩陣-百度百科 產生模型vs判別模型 產生： -

正常卷積運算： 如上圖：4x4的輸入，卷積Kernel為3x3, ,輸出為2x2。其計算可以理解為： 輸入矩陣展開為4*4=16維向量，記作x 輸出矩陣展開為2*2=4維向量，記作y 卷積核C為如下矩陣： 卷積運算可表示為y = Cx（可以對照動圖理解），而卷積的反向傳播可以如下，相當於乘以C^T 反卷積運算： 如上圖：2x2的輸入，卷積Kernel為3x3, ,輸出為4x4。如果按照正常卷積，產生的feature

天啦嚕。。我發現更新的pytorch已經有instance normalization了。。 不用自己折騰了。。 -2017.5.25 利用 nn.Module 裡的 子類 _BatchNorm (在torch.nn.modules.batchnorm中定義），可以實現各種需求的normalize。 在docs裡，可以看到，有3種normalization

轉置卷積其實就相當於正常卷積的反向傳播。 考慮一個輸入為x=4x4，卷積核為w=3x3，步長為stride=1，zero-padding=0 將卷積核展開為一個疏鬆陣列C： 做卷積可得2x2的輸出y，C*x=y。如下圖所示：   那麼怎麼得到轉置卷積呢。正如我們上面說的轉置卷積其實就相當於正常卷積的反向傳播。 再對上式求輸入x的梯度：   我們可以發現，在反向傳播過程中梯度從高層傳向底層，正好是來自高層的梯度左乘CT。所以我們要從2

卷積層：

深度學習中對於卷積層的可視化可以協助理解卷積層的工作原理與訓練狀態，然而卷積層可視化的方法不只一種。最簡單的方法即直接輸出卷積核和卷積後的filter通道，成為圖片。然而也有一些方法試圖通過反卷積（轉置卷積）瞭解卷積層究竟看到了什麼。 在TensorFlow中，即使是最簡單的直接輸出卷積層的方法，網上的講解也參差不齊，David 9 今天要把可啟動並執行方法告訴大家，以免大家受到誤導。 廢話少說，最簡單的方法在此：

[重點]轉置卷積的解釋，避免三個誤區： 點擊開啟連結 Y = CX 卷積操作矩陣C定義排列如下： 很多文章都說卷積核的轉置就可以求反卷積，又陷入迷茫“就算把卷積核轉置（或者左右翻轉上下翻轉），卷積後輸出還是越來越小（或不變，至少不會增大）啊”……直到看到文獻和相應的這個動畫（其他動畫在github-convolution arithmetic1）

____tz_zs 映像片段截取，映像大小調整，映像翻轉以及色彩調整的整個映像預先處理過程 案例來源《TensorFlow實戰Google深度學習架構》 原圖 處理後的圖片 # -*- coding: utf-8 -*-"""@author: tz_zs的圖片預先處理範例"""import tensorflow as tfimport

tensorflow中的逆卷積操作 在tensorflow中逆卷積 outputs = nn.conv2d_transpose( inputs, self.kernel, output_shape_tensor, strides, padding=self.padding.upper(), data_format=utils.convert_data_format(self.data_format,