php扩展trie_filter 过滤关键词

来源:互联网 发布:河北工业大学网络 编辑:程序博客网 时间:2024/06/06 01:33
在项目中需要对用户传递过来的文字进行过滤敏感词,用到这个,今天有时间研究了一下,故写了这篇博客。
关键词过滤扩展,用于检查一段文本中是否出现敏感词,基于Double-Array Trie 树实现
安装 libdatrie , 需要 libdatrie-0.2.4 或更新的版本
它依赖 libiconv .
安装:
wget http://ftp.gnu.org/pub/gnu/libiconv/libiconv-1.14.tar.gztar -zxf libiconv-1.14.tar.gzcd libiconv-1.14./configuremake && make install
libdatrie 下载地址:
http://download.csdn.net/download/json_ligege/9870583
安装:
wget ftp://linux.thai.net/pub/ThaiLinux/software/libthai/libdatrie-0.2.4.tar.gztar -zxf libdatrie-0.2.4.tar.gzcd libdatrie-0.2.4./configure --prefix=/usr/local/libdatrie/make ICONV_LIBS='/usr/local/lib/libiconv.so'make install
安装 PHP 扩展
wget https://github.com/wulijun/php-ext-trie-filter/archive/master.zipunzip master.zipcd php-ext-trie-filter-master/phpize./configure --with-php-config=/usr/local/php/bin/php-config --with-trie_filter=/usr/local/libdatrie/make && make install
将生成的 trie_filter.so 文件复制到 php 扩展目录,并在 php.ini 中添加该文件
安装完后,在 phpinfo 里可以看到 trie_filter 扩展
如图:

这样就安装成功了。
使用示例:
$arrWord = array('word1', 'word2', 'word3');$resTrie = trie_filter_new(); //create an empty trie treeforeach ($arrWord as $k => $v) {    trie_filter_store($resTrie, $v);}// 生成关键词词典.trie_filter_save($resTrie, __DIR__ . '/blackword.tree');// 加载关键词词典,成功返回一个Trie_Filter 资源句柄,失败返回NULL $resTrie = trie_filter_load(__DIR__ . '/blackword.tree');$strContent = 'hello word2 word1';// 查找关键词$arrRet = trie_filter_search($resTrie, $strContent);//每次只检测一个敏感词print_r($arrRet); //Array(0 => 6, 1 => 5)echo substr($strContent, $arrRet[0], $arrRet[1]); //word2$arrRet = trie_filter_search_all($resTrie, $strContent);//一次把所有的敏感词都检测出来print_r($arrRet); //Array(0 => Array(0 => 6, 1 => 5), 1 => Array(0 => 12, 1 => 5))$arrRet = trie_filter_search($resTrie, 'hello word');print_r($arrRet); //Array()// 获得查找结果树trie_filter_free($resTrie);

建议使用php5.3.3以上的版本,我使用的是5.3.3

使用5.2.17版本时候:trie_filter_search_all 这个函数可能会有错误





原创粉丝点击