K最邻近算法和局部敏感哈希LSH
来源:互联网 发布:阿里云打印域名证书 编辑:程序博客网 时间:2024/05/18 01:34
1. K最近邻(k-Nearest Neighbor)分类算法
采用测量不同特征值之间的距离方法进行分类。
K近邻分类算法的主要思想:如果一个样本在特征空间中的k个最相似)的样本中的大多数属于某一个类别,则该样本也属于这个类别
(这里对于最相似的判定主要是通过特征值向量的距离)
1.1. 算法特点及伪代码
- KNN算法中,所选择的邻居都是已经正确分类的对象(训练集)
- KNN方法主要靠周围有限的邻近的样本,而不是靠判别类域的方法来确定所属类别的,因此对于类域的交叉或重叠较多的待分样本集来说,KNN方法较其他方法更为适合。
- 当样本不平衡时,如一个类的样本容量很大,而其他类样本容量很小时,有可能导致当输入一个新样本时,该样本的K个邻居中大容量类的样本占多数
伪代码描述
12345
1. 计算已知类别数据集中的点与当前点之间的距离2. 按照距离递增次序排序3. 选取与当前点距离最小的k个点4. 确定前k个点所在类别的出现频率5.返回前k个点出现频率最高的类别作为当前点的预测分类
1.2. Python实现
这篇博文写的有些匆忙, 如果以后有时间的话, 我会进行重新整理
- 特征抽取, 对于每个类别的文本进行特征抽取, 获取特征词集合, 用于匹配测试文本, 生成特征向量
12345678910111213
def extract_feature() :text = ""post_set = []; class_set = []; feature = []jieba.analyse.set_stop_words("stop_word.txt")for index in range(len(dict_list)) :with open("./lily/" + dict_list[index] + ".txt", "r") as my_file :#读入每个板块所有的帖子for post in my_file :post_set.append(list(jieba.cut(post, cut_all = False))) #将post字符串存入listclass_set.append(index)text += postfeature.extend(jieba.analyse.extract_tags(text, 100))return feature, post_set, class_set
- 将每一个训练文本生成对应的特征向量, 首先对训练文本分词, 每一个文本表示成一个词list, 然后遍历整个词list, 与特征词集合做匹配, 匹配成功, 则当前为计算词频, 匹配不成功置0
12345678910111213141516
def createQuery(post_set, feature) :query_set = []vec_size = len(feature)for post in post_set :vector = [0] * vec_sizefor word in post :if word in feature :vector[feature.index(word)] += 1query_set.append(vector)return query_setdef makeVector(post, feature, size) :vector = [0] * sizefor word in post :if word in feature :vector[feature.index(word)] += 1return vector
- 计算欧式距离, 获得不同向量之间的距离
1234567891011121314
def knnClassify(vecX, query_set, class_set, k) :query_set = array(query_set)query_set_size = query_set.shape[0]mid_mat = tile(vecX, (query_set_size, 1)) - query_setsqrt_two = mid_mat ** 2sqrt_distances = sqrt_two.sum(axis = 1)distances = sqrt_distances ** 0.5sorted_dist = distances.argsort()class_count = {}for i in range(k) :label = class_set[sorted_dist[i]]class_count[label] = class_count.get(label, 0) + 1sort_class_count = sorted(class_count.iteritems(), key = operator.itemgetter(1), reverse = True)return sort_class_count[0][0]
- 对测试文本进行暴力搜索, 找到距离文本最近的k个文本, 然后找到k文本中出现次数最后的类别, 整个类别就是测试文本的类别
距离搜索的缺陷: 当训练文本过大时, 需要用测试文本与每个训练文本计算欧式距离, 导致计算时间过长,
2.局部敏感哈希
LSH的基本思想是:将原始数据空间中的两个相邻数据点通过相同的映射或投影变换(projection)后,这两个数据点在新的数据空间中仍然相邻的概率很大,而不相邻的数据点被映射到同一个桶的概率很小
哈希桶(HashBucket):哈希表中同一个位置可能存有多个元素,以应对哈希冲突问题,这样,哈希表中的每个位置表示一个哈希桶。
2.1. LSH的具体描述
如果我们对原始数据进行一些hash映射后,我们希望原先相邻的两个数据能够被hash到相同的桶内,具有相同的桶号。对原始数据集合中所有的数据都进行hash映射后,我们就得到了一个hash table,这些原始数据集被分散到了hash table的桶内,每个桶会落入一些原始数据,属于同一个桶内的数据就有很大可能是相邻的,当然也存在不相邻的数据被hash到了同一个桶内。因此,如果我们能够找到这样一些hash functions,使得经过它们的哈希映射变换后,原始空间中相邻的数据落入相同的桶内的话,那么我们在该数据集合中进行近邻查找就变得容易了,我们只需要将查询数据进行哈希映射得到其桶号,然后取出该桶号对应桶内的所有数据,再进行线性匹配即可查找到与查询数据相邻的数据。LSH将一个在超大集合内查找相邻元素的问题转化为了在一个很小的集合内查找相邻元素的问题,显然计算量下降了很多
123456
hash function需要满足以下两个条件:1)如果d(x,y) ≤ d1, 则h(x) = h(y)的概率至少为p1;2)如果d(x,y) ≥ d2, 则h(x) = h(y)的概率至多为p2;其中d(x,y)表示x和y之间的距离,d1 < d2, h(x)和h(y)分别表示对x和y进行hash变换。满足以上两个条件的hash functions称为(d1,d2,p1,p2)-sensitive。而通过一个或多个(d1,d2,p1,p2)-sensitive的hash function对原始数据集合进行hashing生成一个或多个hash table的过程称为Locality-sensitive Hashing。
通俗来讲,就是距离较近的点映射到同一个位置的概率大,距离较远的点映射到同一个位置的概率小。这对下面将点集映射得到候选结果集的操作很重要,能保证得到的候选结果集是可用的。
LSH算法可以看做两步:
- 将与测试文本完全不相关的向量剔除掉(
哈希函数映射过程
),只保留与测试文本相似的概率较大的向量作为待比较向量(哈希表中希望产生冲突, 使类似的文本能够映射到同一个桶里
) - 讲测试文本向量与剩余向量逐一对比, 找到前k个临近的向量
2.Python实现
使用 Cosine distance
Cosine distance:cos(theta) = A·B / |A||B|
常用来判断两个向量之间的夹角,夹角越小,表示它们越相似
- 12345678910111213141516171819202122232425//Cosine distance的计算#计算向量的模def magnitudeProd(vec1, vec2) :total1 = 0total2 = 0for i in xrange(dimension) :val1 = vec1[i]val2 = vec2[i]total1 += val1**2total2 += val2**2return (total1 * total2)**0.5#计算两个向量之间的夹角, 看是否在一个角度范围内def cosineDistance(vec1, vec2) :mag_prod = magnitudeProd(vec1, vec2)if mag_prod == 0 :return 0return dotProduct(vec1, vec2) / magnitudeProd(vec1, vec2)#计算两个向量的内积def dotProduct(vec1, vec2) :total = 0for i in xrange(len(vec1)) :total += vec1[i] * vec2[i]return total
计算测试文本和所有训练文本的哈希值生成哈希表
12345678
def localitySensitiveHash(vec, planes) :dot_prod_list = [dotProduct(vec, plane) for plane in planes]return (sum([2 ** i if dot_prod_list[i] > 0 else 0 for i in xrange(0, len(dot_prod_list))]) % 8)hash_table = [(localitySensitiveHash(row, planes), class_set[class_index]) for class_index, row in enumerate(train_set)]hash_dict = defaultdict(list)for (hash_value, class_index) in hash_table :hash_dict[hash_value].append(class_index)
- 最后对一个桶内的所有的向量进行KNN算法计算距离, 找出前K个出现频率最高的
- K最邻近算法和局部敏感哈希LSH
- LSH-局部敏感哈希在k-NN算法中的应用
- 局部敏感哈希LSH
- LSH局部敏感哈希
- 局部敏感哈希LSH
- 局部敏感哈希LSH
- 局部敏感哈希 LSH
- minHash(最小哈希)和LSH(局部敏感哈希)
- minHash(最小哈希)和LSH(局部敏感哈希)
- KD树和LSH局部敏感哈希
- 局部敏感哈希(LSH)
- LSH局部敏感哈希的介绍
- 浅谈局部敏感哈希LSH
- 局部敏感哈希 LSH 介绍
- 局部敏感哈希LSH原作者的论文和程序LSH Algorithm and Implementation (E2LSH)
- 基于局部敏感哈希 LSH 的近似最近邻查找库 LSHBOX 的简单介绍
- K-最邻近算法
- 【常用算法】KDTree,局部敏感哈希LSH,在基于最近邻的算法中,当N特别大的时候(TODO)
- Oracle 避免在查询中使用函数
- 项目问题总结2:GUID区分大小写吗?
- Intent跳转的2种方式
- [华为机试练习题]12.整型字符串排序
- EditText的常用技巧
- K最邻近算法和局部敏感哈希LSH
- 最新计算机类图书强推重磅一览
- 记VS2008初始化Microsoft Visual Sourcesafe源代码管理提供程序时失败
- 使用WCF 4.0 构建 REST Service
- 《算法导论(第三版)》(一)
- [MySQL]常见问题篇
- ViewController生命周期详解
- 判断两链表相交的问题(分有环和无环,以及求第一个相交结点)
- oracle合并查询