森特搜索引擎是杭州森特信息技術(shù)有限公司開發(fā)的一套以Internet信息抓取為目的的跨平臺軟件,主要用于指定網(wǎng)絡(luò)信息的抓取,實現(xiàn)在用戶自定義的規(guī)則下,自動從互聯(lián)網(wǎng)上的http服務(wù)器(或其它服務(wù)器)上抓取指定信息,并自動從網(wǎng)頁中分析解析出信息并整理存為數(shù)據(jù)庫格式。
森特搜索引擎――信息抓取系統(tǒng) 的工作流程分為四個階段:
◎ 信息規(guī)劃:設(shè)定信息來源,確立信息獲取任務(wù);
◎ 信息采集:從互聯(lián)網(wǎng)抓取網(wǎng)頁信息,并進行標準化分析處理;
◎ 信息分析:對采集的信息進行數(shù)據(jù)挖掘,包括自動分類、自動提取關(guān)鍵詞和自動消重;
◎ 信息管理:按照用戶的需要將信息及分析結(jié)果存儲下來。
森特搜索引擎-信息抓取系統(tǒng)主要包括信息采集、信息檢索過濾和信息發(fā)布三大模塊,主要有如下的功能特色:
◆對目標網(wǎng)站進行信息自動抓取,支持各種標準格式信息資源的采集,如 HTML頁面、文本信息、圖片等。
◆抓取速度快,系統(tǒng)采用多線程并發(fā)搜索技術(shù),用戶可根據(jù)需要設(shè)置并發(fā)線程的數(shù)目。
◆搜集到的信息可以按照不同的分類方式,并且保留原文鏈接。用戶可以按照日期、來源、標題進行檢索、瀏覽。
◆ 可以對抓取的信息定義關(guān)鍵字,對網(wǎng)頁內(nèi)容進行過濾,并可進行組合檢索和二次檢索,檢索到的信息可以進行數(shù)據(jù)批量導(dǎo)出。
本站僅提供存儲服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請
點擊舉報。