theano documentation 閱讀筆記

標籤：des   style   color   cti   for   io   

作為協助學習的工具

 

目標：較好地清楚地掌握theano的知識結構

學習內容：theano documentation 0.6，主要看tutorial 與 library ，看2遍以上。

學習時間6.29-6.30,(6.31也許需要完善下DAMS project的事)6.32-6.33 一共4天，大約40小時+。

 

這次是精讀

1. install還需要搞定的是BLAS GPU-support

2. import pack 是把pack聲明在當前環境，引用pack的內容需要pack.xxx

    from pack import *是把pack內部全在當前環境聲明，引用需要xxx.

    import X as T

    numpy很需要學習 broadcasting

   tutorial解釋不是自滿足的，不知是我對python的知識缺失還是library的知識：so should read both.

-5.4.4

   theano是物件導向的；

   function是一個核心函數。

   randomstream 理解不好。

-5.4.5

graph structures built with variable nodes, op nodes and apply nodes.

一件重要的事是怎麼通過一些函數去遍曆graph，意思是graph的點和線分別代表什麼（類與函數），但是我對類與函數不熟悉。

graphstructure是核心的一個概念，能協助理解automatic differentition 與 optimiztions. 我不能理解p75面的圖。

畫出graph:theano.pp()-簡單  theano.printing.debugprint()-詳細     pydotprint()-png圖

-5.4.7 講述了一些求導計算的事

-5.4.8 configuration settings and compliing modes

config is a module of theano;

can be set in i)assignment to theano.config ii)assignment to theano.flags iii)assignment to .theanorc

mode 控制compliation的行為

-5.4.9 loading and saving

 開頭有句話"Python‘s stndard way of saving class instances are reloading them is the pickle mechanism"

我沒有相關的知識。“a limitation of pickle is that it does not save the code or data of a class along with the instance of the class being serialized".    

 大約書一種儲存壓縮手段:pickle,depickle就是解壓與loading.

5.4.10，5.4.11 conditions and loop

5.4.12 sparse mayrix

 

5.4.13 Using GPU

5.4.14 PyCUDA/CUDAMat/Gnumpy comptibility

5.4.15 Uderstanding Memory Aliasing for Speed and Correctness

5.4.16 How shape information is Handled by Theano

5.4.17 Debugging Theano:FAQ and Troubleshooting

5.4.18 Profiling Theano function

5.4.19 Extending Theano

5.4.20 FAQ

5.4.21 Python Memory Managment

5.4.22 Muti cores support in Theano