2017年深度學習在NLP應用方面有哪些重大進展和趨勢?
【這5種資源為你打開 NLP和深度學習的交叉點眼界!】
其他答主對于深度學習在NLP應用方面的重大趨勢和進展已經闡述的比較詳細,因此,本文將會推上一盤新鮮的干貨,為大家帶來5個有關深度學習在NLP應用方面的資源介紹,希望通過這些資源你可以更多的了解NLP和深度學習的那些小火花!
可能很多人都會有興趣將深度學習應用于自然語言處理,但又不知道從何開始。今天的這5種資源是為外行人準備的集合,可能會對你有一些用處。
1.為NLP而生的深度學習(http://lxmls.it.pt/2014/socher-lxmls.pdf)這是斯坦福大學的Richard Socher和MetaMind最初在里斯本機器學習暑期學校授予的一組幻燈片。你會發現它是一個很好的關于NLP和深度學習的入門書。
2.深度學習應用于NLP這是Marc Moreno Lopez和Jugal Kalita的一份調查報告。以下是摘要:
卷積神經網絡(CNN)通常與計算機視覺相關聯。 CNN負責圖像分類的重大突破,這是當今大多數計算機視覺系統的核心。最近CNN已被應用于自然語言處理中的問題,并得到了一些有趣的結果。在本文中,我們將嘗試解釋CNN的基礎知識、它的不同變體以及它們如何應用于NLP。
這是一個比下面的文章更簡潔的調查,而且做的很好,僅僅是1/5的長度。
3.自然語言處理的神經網絡模型入門(http://u.cs.biu.ac.il/~yogo/nnlp.pdf)Yoav Goldberg全面概述。摘要:
本教程從自然語言處理研究的角度對神經網絡模型進行了研究,試圖使自然語言研究人員加速使用神經技術。本教程涵蓋自然語言任務、前饋網絡、卷積網絡、遞歸網絡和遞歸網絡的輸入編碼,以及用于自動梯度計算的計算圖抽象。
除此之外,您可能還想閱讀Yoav最近發布的一組博客文章,盡管該文章討論了同樣的主題,但是是從另一個角度來看。
·“對抗性自然語言生成”的對抗性回顧
·對《納特朗的對抗性學習》進行了“對抗性審查”
·對YannLeCuna響應的回應
不管你的職位是什么(你是否應該有一個“職位”),這句話的價值絕對堪比黃金:
“我反對的是“深度學習社區”進入一個領域的趨勢(包括NLP),他們對此只有非常膚淺的理解,并且在不花時間去了解問題領域的情況下,做出寬泛而未經證實的聲明。”
4.用深度學習進行自然語言處理(斯坦福大學)(http://web.stanford.edu/class/cs224n/)這是Chris Manning&Richard Socher任教的最受歡迎和備受推崇的NLP課程之一。
該課程全面介紹了應用于NLP的深度學習的尖端研究。在模型方面,我們將介紹詞向量表示,基于窗口的神經網絡、遞歸神經網絡、長期短期記憶模型、遞歸神經網絡、卷積神經網絡以及一些涉及存儲器組件的最新模型。
如果您有興趣直接跳到演講視頻,請關注(https://www.youtube.com/playlist?list=PL3FW7Lu3i5Jsnh1rnUwq_TcylNr7EkRe6)
5.自然語言處理的深度學習(牛津)(https://www.cs.ox.ac.uk/teaching/courses/2016-2017/dl/)這是來自頂尖大學的優秀的課件資源,由PhilBrensom在牛津大學教授的。
這是關于自然語言處理的高級課程。自動處理自然語言輸入和生成語言輸出是人工智能的關鍵組成部分。人類交流中固有的含糊和噪音使傳統的符號AI技術無法用于表示和分析語言數據。最近,基于神經網絡的統計技術在自然語言處理方面取得了許多顯著成就,引起了該領域的大量商業和學術興趣。
您可以直接通過此鏈接訪問課程材料Github存儲庫。(https://github.com/oxford-cs-deepnlp-2017/lectures)