標籤:問題 ext 技術分享 通用 store alt app mod 聯絡
一、論文所解決的問題實現長期記憶(大量的記憶),而且實現怎樣從長期記憶中讀取和寫入,此外還增加了推理功能為什麼長期記憶非常重要:由於傳統的RNN連複製任務都不行,LSTM預計也夠玄乎。
在QA問題中,長期記憶是非常重要的,充當知識庫的作用。從當中擷取長期記憶來回答問題上面這個問題就是,當遇到有若干個句子而且句子之間有聯絡的時候,RNN和LSTM就不能非常好地解決,以為是長期依賴。須要從記憶中提取資訊二、論文的解決方式(0)總體架構一覽實際上所謂的Memory Network是一個通用的架構而已,內部的輸入映射、更新記憶映射、輸出映射、響應映射都是能夠更換的
watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" >
(1)特定於自然語言的實現the I module takes an input text.The text is stored in the next available memory slot in its original formThe G module is thus only used to store this new memory, so old memories are not updated.
watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" >
三、論文中的方案解決該問題。解決到了什麼程度?
事實上論文中主要就是提了一個大的架構,而架構中的每個模組都是能夠變更的,這樣能夠適應不同的應用,可是實質上並沒有較大的創新。本質上還算是一種RNN類型的網路。
四、實驗(1)實驗結果
論文閱讀:Memory Networks