隨著時(shí)間的流逝，互聯(lián)網(wǎng)技術(shù)的迅速發(fā)展，如何從大量的文本數(shù)據(jù)中獲取對(duì)我們有用的信息成為了一種新的挑戰(zhàn)。命名實(shí)體識(shí)別是信息抽取和信息檢索中一項(xiàng)重要的任務(wù)，其目的是識(shí)別出文本中表示命名實(shí)體的成分，并對(duì)其進(jìn)行分類(lèi)。它在垃圾郵件過(guò)濾，輿論分析和郵件分類(lèi)等許多領(lǐng)域中廣泛使用并發(fā)揮重要作用。
考慮到采用對(duì)抗生成網(wǎng)絡(luò)的形式能夠更好地學(xué)習(xí)到樣本數(shù)據(jù)的特征分布和采用變分自動(dòng)編碼器能夠更好地接近真實(shí)樣本的優(yōu)點(diǎn)，在漢斯出版社《計(jì)算機(jī)科學(xué)與應(yīng)用》期刊中，有論文通過(guò)對(duì)抗網(wǎng)絡(luò)的形式，將兩種現(xiàn)階段具有各自特點(diǎn)的先進(jìn)模型進(jìn)行了結(jié)合，綜合設(shè)計(jì)了一種基于對(duì)抗生成網(wǎng)絡(luò)的命名實(shí)體識(shí)別算法模型用以提高特征提取的準(zhǔn)確有效性。
作為自然語(yǔ)言處理中非?；镜珔s十分重要的任務(wù)之一。命名實(shí)體識(shí)別同時(shí)也是許多自然語(yǔ)言處理任務(wù)中的重要基礎(chǔ)工具(例如，提取信息，回答問(wèn)題，解析和機(jī)器翻譯)。命名實(shí)體的檢測(cè)是信息提取中的一個(gè)子任務(wù)，它的目的是將文本中的命名實(shí)體本地化和分類(lèi)為預(yù)定義的類(lèi)別，例如時(shí)間表達(dá)，數(shù)量，貨幣價(jià)值，百分比等。檢測(cè)命名實(shí)體的準(zhǔn)確性決定了下游任務(wù)的有效性，這是NLP的一個(gè)非常重要的基本問(wèn)題。實(shí)體邊界識(shí)別和確定實(shí)體類(lèi)別是命名實(shí)體識(shí)別過(guò)程的兩個(gè)方面。
現(xiàn)如今命名實(shí)體識(shí)別仍然存在很多的問(wèn)題，影響著信息檢索領(lǐng)域的準(zhǔn)確性。存在此類(lèi)問(wèn)題的原因主要有：命名實(shí)體識(shí)別只是在有限的文本類(lèi)型和實(shí)體類(lèi)別中取得了效果；與其他信息檢索領(lǐng)域相比，實(shí)體命名評(píng)測(cè)預(yù)料較小，容易產(chǎn)生過(guò)擬合；命名實(shí)體識(shí)別更側(cè)重高召回率，但在信息檢索領(lǐng)域，高準(zhǔn)確率更重要；通用的識(shí)別多種類(lèi)型的命名實(shí)體的系統(tǒng)性很差。
近年來(lái)最具有代表性的算法模型便是基于生成對(duì)抗網(wǎng)絡(luò)的命名實(shí)體識(shí)別模型和基于變分自動(dòng)編碼器的半監(jiān)督命名實(shí)體識(shí)別。兩種模型都有其明顯的優(yōu)勢(shì)，生成對(duì)抗網(wǎng)絡(luò)能夠完美地學(xué)習(xí)到樣本特征的分布，以及變分自動(dòng)編碼器網(wǎng)絡(luò)能夠更接近真實(shí)樣本。同時(shí)也發(fā)現(xiàn)因?yàn)槟Ｐ捅旧淼南拗?，兩者都具有一定的限制性，生成式?duì)抗模型只能區(qū)分出生成樣本的“真”、“假”，沒(méi)有辦法強(qiáng)制它所生成樣本必須看起來(lái)像原始樣本，變分自動(dòng)編碼器直接采用均方誤差而非對(duì)抗網(wǎng)絡(luò)，其神經(jīng)網(wǎng)絡(luò)傾向于生成更為模糊的樣本。
筆者綜合考慮到了兩種模型的優(yōu)勢(shì)和缺點(diǎn)，于文中主要設(shè)計(jì)了一種基于對(duì)抗性生成網(wǎng)絡(luò)的改進(jìn)的命名實(shí)體識(shí)別算法模型，將基于變分自動(dòng)編碼器的命名實(shí)體識(shí)別和基于GAN的命名實(shí)體識(shí)別模式通過(guò)雙生成網(wǎng)絡(luò)的形式結(jié)合在一起，最終的模型將同時(shí)具有變分自動(dòng)編碼器更接近真實(shí)樣本的特性和對(duì)抗性生成網(wǎng)絡(luò)能完美學(xué)習(xí)到訓(xùn)練樣本的分布特性，該模型旨在提高命名實(shí)體識(shí)別問(wèn)題中特征提取的高有效性和高準(zhǔn)確性。
聯(lián)系客服
