SQLSERVER 2008 R2中的全文檢索

 

最近在做全文搜索的內容,google了一下全文檢索,發現了一些問題,現在總結如下:
 

全文索引和查詢概念(摘自SQL 聯機幫助) www.wpf123.com

SQL Server 2008 爲應用程序和用戶提供了對 SQL Server 表中基於字符的數據發出全文查詢的功能。在可以對給定表運行全文查詢之前,數據庫管理員必須對錶創建全文索引。全文索引包括表中一個或多個基於字符的列。這些列可以具有下列任何一種數據類型:charvarcharncharnvarchartextntextimagexmlvarbinary 或 varbinary(max)。每個全文索引都對基表中的一個或多個列創建索引,並且每個列都可以具有一種特定語言。從 SQL Server 2008 開始,全文搜索支持 50 多種不同語言,比如英語、西班牙語、中文、日語、阿拉伯語、孟加拉語和印地語。有關支持的全文語言的完整列表,請參閱 sys.fulltext_languages (Transact-SQL)。

對於每種支持的語言,SQL Server 都提供了特定於語言的語言組件,包括斷字符和詞幹分析器以及一個空同義詞庫文件。對於每種全文語言,SQL Server 也提供了一個文件(“同義詞庫文件”),您可以在該文件中有選擇地定義特定於語言的同義詞以擴展搜索查詢的範圍。另外,從 SQL Server 2008 開始提供系統非索引字表。若要支持特定語言或商業應用場景,您可以通過添加和刪除非索引字(也稱爲干擾詞)更改系統非索引字表,並且您可以根據需要創建附加的非索引字表。

SQL Server 爲編寫全文查詢提供了一組全文謂詞(CONTAINS 和 FREETEXT)和行集值函數(CONTAINSTABLE 和 FREETEXTTABLE)。使用這些全文謂詞和行集值函數,應用程序和用戶可以執行各種類型的全文搜索,例如搜索單個單詞或短語(並可以選擇對結果集排名),搜索與其他單詞或短語接近的單詞或短語,或者搜索特定單詞的同義詞形式。

 

 

全文索引、查詢和同步化最主要的設計要求是,在註冊進行全文檢索的所有表上都有一個唯一的全文鍵列(或者單列主鍵)。全文索引對使用的重要字及其所在位置進行跟蹤。

全文查詢根據特定語言(例如,英語或日語)的規則對詞和短語進行操作,從而對全文索引中的文本數據執行語言搜索。全文查詢可以包括簡單的詞和短語,或者詞或短語的多種形式。

全文搜索適用於多種商業應用場景:例如,電子商務(在網站上搜索項目)、律師事務所(在法律數據庫中搜索案例記錄)或人力資源部門(從所存儲的個人簡歷中找到符合職位描述的簡歷)。不管是什麼樣的商業應用場景,全文搜索的基本管理任務和開發任務是相同的。然而,在給定的商業應用場景中,可以對全文索引和查詢進行優化以使其滿足業務目標。例如,對於電子商務來說,最大限度地提高性能可能比對結果進行排序、檢索的準確性(實際上有多少個現有匹配項是由全文查詢返回的)或支持多種語言更重要。對於律師事務所來說,首先需要考慮的可能是返回所有可能存在的匹配項(“返回全部”信息)。 

 

例如,假定有一個對 DevTools 表的全文索引。全文索引可能指出在 Abstract 列的第 423 個和第 982 個單詞處找到了單詞 Microsoft,所在的行與 ProductID 6 關聯。該索引結構支持對所有包含被索引單詞的項進行有效檢索,以及高級檢索操作,如短語檢索和鄰近檢索。

爲防止全文索引因包含很多對檢索沒有幫助的詞而變得臃腫,a、and、is 或 the 這類額外的詞都忽略不計。例如,指定"the products ordered during these summer months"與指定"products ordered during summer months"是一樣的。有這兩個字符串的行都會被返回。

目錄 /Mssql/Ftdata/Sqlserver/Config 下提供了多種語言的干擾詞列表。在安裝帶有全文檢索支持的 Microsoft® SQL Server™ 時會創建這個目錄,並同時安裝干擾詞文件。干擾詞文件可以編輯。例如,高技術公司的系統管理員可以把單詞 computer 添加到他們的干擾詞表中去。(如果編輯干擾詞文件,則必須在更改生效之前重新填充全文目錄。)下表顯示了干擾詞文件及其相應的語言。

干擾詞文件      語言 
-------------- ---------
Noise.chs      簡體中文 
Noise.cht      繁體中文 
Noise.dat      語言中性 
Noise.deu      德語 
Noise.eng      英語(英國) 
Noise.enu      英語(美國) 
Noise.esn      西班牙語 
Noise.fra      法語 
Noise.ita      意大利語 
Noise.jpn      日語 
Noise.kor      韓文 
Noise.nld      荷蘭語 
Noise.sve      瑞典語 


在處理全文查詢時,檢索引擎將滿足檢條件的行的鍵值返回給 Microsoft SQL Server。比如有一個 SciFi 表,其中 Book_No 列是主鍵列。

Book_No   Writer     Title 
-------- ----------- --------------------------
A025     Asimov      Foundation's Edge 
A027     Asimov      Foundation and Empire 
C011     Clarke      Childhood's End 
V109     Verne       Mysterious Island 


假定想使用一個全文檢索查詢來查找包含單詞 Foundation 的書名。在本例中,將從全文索引獲得值 A025 和 A027。然後 SQL Server 用這些鍵值和其它欄的信息響應該查詢。

下表顯示了存儲全文索引數據所使用的語言。這些語言基於 SQL Server 安裝期間選擇的 Unicode 排序規則區域設置標識符。

Unicode 排序規則區域設置標識符    全文數據存儲所用的語言 
------------------------------- -----------------------
中文注音符號(臺灣)              繁體中文  
漢語拼音                         簡體中文  
中文筆畫                         簡體中文  
中文筆畫(臺灣)                 繁體中文  
荷蘭語                           荷蘭語  
英語(英國)                     英語(英國)  
法語                            法語  
通用 Unicode                    英語(美國)  
德語                            德語  
德文電話簿                       德語  
意大利語                         意大利語  
日語                            日語  
日語 Unicode                    日語  
韓文                            韓文  
韓文 Unicode                    韓文  
西班牙語(現代)                 西班牙語  
瑞典/芬蘭語                      瑞典語  

此列表中沒有的其它所有 Unicode 排序規則區域設置標識符值都映射到使用空格分隔單詞的中性語言單詞的斷字符和詞幹分隔符。

說明  Unicode 排序規則區域設置標識符設置用於所有可進行全文索引的數據類型(如 char、nchar 等)。如果爲 char、varchar 或 text 類型列的排序次序設置的語言類型,不是 Unicode 排序規則區域設置標識符語言,那麼在對 char、varchar 和 text 類型的列進行全文索引和查詢時,仍然使用 Unicode 排序規則區域設置標識符值。


1、啓動 Microsoft Search 服務
   開始菜單-->SQL程序組-->服務管理器-->下拉筐-->Microsoft Search 服務-->啓動它

2、
  ../Microsoft SQL Server/MSSQL/FTDATA/SQLServer/Config/目錄裏建一個非空noise.chs文件
  非空noise.chs文件,也有人說是空的noise.chs文件,但我每次都往裏寫幾個沒用的字母。

3、建立環境
   打開查詢分析器-->執行下列腳本:

 

--檢查數據庫pubs是否支持全文索引,如果不支持
--
則使用sp_fulltext_database 打開該功能
if(select databaseproperty('DeviceInfoPortal','isfulltextenabled'))=0 
  
execute sp_fulltext_database 'enable'

--建立全文目錄FT_PUBS
execute sp_fulltext_catalog 'FT_DeviceInfoPortal','create'

--創建唯一索引
create unique clustered index Idx_files_id on dbo.files(fileid)

--爲title表建立全文索引數據元
execute sp_fulltext_table 'files','create','FT_DeviceInfoPortal','Idx_files_id'

--設置全文索引列名
--
execute sp_fulltext_column 'files','content','add'
execute sp_fulltext_column @tabname = 'files',@colname = 'content',@action = 'add',@type_colname = 'type';

--execute sp_fulltext_column 'files','content','drop'

--建立全文索引
--
activate,是激活表的全文檢索能力,也就是在全文目錄中註冊該表
execute sp_fulltext_table 'files','activate'

--填充全文索引目錄
execute sp_fulltext_catalog 'FT_DeviceInfoPortal','start_full'
go

--在您可以使用操作系統篩選器、斷字符和詞幹分析器之前,您必須將它們加載到服務器實例中
execute sp_fulltext_service @action='load_os_resources'@value=1;

--檢查全文目錄填充情況
While fulltextcatalogproperty('FT_DeviceInfoPortal','populateStatus')<>0
begin

--如果全文目錄正處於填充狀態,則等待30秒後再檢測一次
waitfor delay '0:0:30'
end

--全文目錄填充完成後,即可使用全文目錄檢索

select *
from files
where CONTAINS(*,'運行記錄')
or CONTAINS(*,'Understanding')
or CONTAINS(*,'全文搜索')

or CONTAINS(*,'出廠日期')

結果如下: 

 


 

 

全文索引中的幾個問題:

1.搜索時出現錯誤:
  服務器: 消息 7619,級別 16,狀態 1,行 2
  查詢子句只包含被忽略的詞

  這種情況修改 /Mssql/Ftdata/Sqlserver/Config 下對應語言的干擾詞列表文件

2.修改了干擾詞文件,查詢中文時仍然出現上述問題
  a.首先檢查你的SQL有沒有安裝最新的補丁,檢查的方法是在查詢分析器中運行:
    select @@version
    如果出來的版本號是8.00.760以下,則表明你未安裝sp3的補丁,要裝上.

    注意下載後,執行的時候是解壓,要在解壓後的目錄中執行setup.bat纔是真正的安裝

  b.配置全文索引時,單詞斷字符選擇"中文(中國)"

  c.Noise.chs文件中至少有一個單詞,例如:?

  d.如果在全文檢索時,你能正常修改干擾詞文件,說明你的全文檢索沒有使用上這個文件
    如果你配置的全文檢索應該要用到這個文件,那就在
    企業管理器--展開你的數據庫--右鍵全文目錄--重建全部全文目錄

3.表中的數據改變後,檢索不到
  方法1. 右鍵你的表--全文索引表--啓用增量填充
  方法2. 右鍵你的表--全文索引表--更改跟蹤,這樣以後的修改會自動填充(有一定延遲)

4.sql2000以上才支持對image列的全文檢索

 

ps:

 sql sever全文檢索對word內容進行檢索可行如果文件類型是 pdf,ceb,永中的uof、eio,不能全文檢索? 誰有好方法能檢索到這些文件類型,請留下寶貴意見。

大文件保存建議用:SQL Server 2008 FILESTREAM特性管理文件

 

發佈了37 篇原創文章 · 獲贊 4 · 訪問量 2萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章