來源:專知
本文多資源,建議閱讀10分鐘。
本文介紹清華大學(xué)劉知遠(yuǎn)老師的《知識(shí)指導(dǎo)的自然語言處理》。
[ 導(dǎo)讀 ] 自然語言處理是實(shí)現(xiàn)人工智能、通過圖靈測(cè)試的關(guān)鍵。雖然目前深度學(xué)習(xí)在自然語言處理上取得了巨大的突破,對(duì)自然語言的深度理解仍需要復(fù)雜知識(shí)的支持,來實(shí)現(xiàn)從理解字面意思到言外之意的躍遷。本文介紹清華大學(xué)劉知遠(yuǎn)老師的《知識(shí)指導(dǎo)的自然語言處理》。
深度學(xué)習(xí)在自然語言處理取得了巨大圖譜,它能夠高效學(xué)習(xí)多粒度語言單元間復(fù)雜語義關(guān)聯(lián)。但是僅僅依靠深度學(xué)習(xí)并不能完成對(duì)自然語言的深度理解。對(duì)自然語言的深度理解需要從字面意義到言外之意的躍遷,這需要引入復(fù)雜知識(shí)的支持。
HowNet等知識(shí)庫通過人工標(biāo)注的方式積累了大量的知識(shí),通過深度學(xué)習(xí)+知識(shí)圖譜這種雙向驅(qū)動(dòng)的自然語言處理技術(shù)和體系,可以充分發(fā)揮深度學(xué)習(xí)和知識(shí)庫的作用,更深層次地理解自然語言。
《知識(shí)指導(dǎo)的自然語言處理》主要內(nèi)容如下:
自然語言處理與AI
數(shù)據(jù)驅(qū)動(dòng)的自然語言處理:深度學(xué)習(xí)
自然語言的特點(diǎn)與技術(shù)挑戰(zhàn)
表示學(xué)習(xí)
深度學(xué)習(xí)+知識(shí)圖譜 雙向驅(qū)動(dòng)的自然語言處理技術(shù)體系
語言知識(shí)庫
HowNet
深度學(xué)習(xí)與HowNet
融合義原知識(shí)的詞義表示學(xué)習(xí)
融合義原知識(shí)的神經(jīng)語言模型
基于語義表示學(xué)習(xí)的義原推薦
義原只是計(jì)算相關(guān)論文
世界知識(shí)庫
知識(shí)表示學(xué)習(xí)
世界知識(shí)的分布式表示學(xué)習(xí)
知識(shí)指導(dǎo)的實(shí)體細(xì)粒度分類
知識(shí)知道的神經(jīng)網(wǎng)絡(luò)文檔排序
知識(shí)指導(dǎo)的預(yù)訓(xùn)練語言模型
世界知識(shí)指導(dǎo)自然語言處理相關(guān)論文
知識(shí)獲取
神經(jīng)網(wǎng)絡(luò)知識(shí)獲取技術(shù)
高效魯棒的知識(shí)獲取技術(shù)
開源工具
劉知遠(yuǎn)主頁:
http://nlp.csai.tsinghua.edu.cn/~lzy/
完整版PPT下載鏈接:
http://nlp.csai.tsinghua.edu.cn/~lzy/talks/2019_knowledge_guided_nlp_cn.pdf
PPT預(yù)覽:
完整版PPT下載鏈接:
http://nlp.csai.tsinghua.edu.cn/~lzy/talks/2019_knowledge_guided_nlp_cn.pdf
編輯:于騰凱
校對(duì):林亦霖
— 完 —
聯(lián)系客服