ES权威指南_04_aggs_09 Significant Terms（significant_terms ）

https://www.elastic.co/guide/en/elasticsearch/guide/current/significant-terms.html

significant_terms （SigTerms）聚合 与其他聚合都不相同。 目前为止我们看到的所有聚合在本质上都是简单的数学计算。将不同这些构造块相互组合在一起，我们可以创建复杂的聚合以及数据报表。

significant_terms 有着不同的工作机制。对有些人来说，它甚至看起来有点像机器学习。 significant_terms 聚合可以在你数据集中找到一些 异常 的指标。

如何解释这些 不常见 的行为？ 这些异常的数据指标通常比我们预估出现的频次要更频繁，这些统计上的异常指标通常象征着数据里的某些有趣信息。

例如，假设我们负责检测和跟踪信用卡欺诈，客户打电话过来抱怨他们信用卡出现异常交易，它们的帐户已经被盗用。这些交易信息只是更严重问题的症状。在最近的某些地区，一些商家有意的盗取客户的信用卡信息，或者它们自己的信息无意中也被盗取。

我们的任务是找到 危害的共同点 ，如果我们有 100 个客户抱怨交易异常，他们很有可能都属于同一个商户，而这家商户有可能就是罪魁祸首。

我们真正想要的是 不普通的共同 商户。所有受到危害的信用卡都与它们发生过交易，但是在未受危害的背景噪声下，它们并不明显。这些商户属于统计异常，它们比应该出现的频率要高。这些不普通的共同商户很有可能就是需要调查的。

significant_terms 聚合就是做这些事情。它分析统计你的数据并通过对比正常数据找到可能有异常频次的指标。

暴露的异常指标 代表什么 依赖的你数据。对于信用卡数据，我们可能会想找出信用卡欺诈。 对于电商数据，我们可能会想找出未被识别的人口信息，从而进行更高效的市场推广。 如果我们正在分析日志，我们可能会发现一个服务器会抛出比它本应抛出的更多异常。 significant_terms 的应用还远不止这些。

significant_terms 演示

因为 significant_terms 聚合 是通过分析统计信息来工作的， 需要为数据设置一个阀值让它们更有效。也就是说无法通过只索引少量示例数据来展示它。

正因如此，我们准备了一个大约 8000 个文档的数据集，并将它的快照保存在一个公共演示库中。可以通过以下步骤在集群中还原这些数据：

elasticsearch.yml

repositories.url.allowed_urls: ["http://download.elastic.co/*"]

重启 Elasticsearch

PUT /_snapshot/sigterms //注册一个新的只读地址库，并指向演示快照。 {    "type": "url",    "settings": {        "url": "http://download.elastic.co/definitiveguide/sigterms_demo/"    }}GET /_snapshot/sigterms/_all //可选）检查库内关于快照的详细信息。POST /_snapshot/sigterms/snapshot/_restore //开始还原过程。会在集群中创建两个索引： mlmovies 和 mlratings 。GET /mlmovies,mlratings/_recovery //（可选）使用 Recovery API 监控还原过程。

// 数据集有 50 MB 会需要一些时间下载。

在本演示中，会看看 MovieLens 里面用户对电影的评分。在 MovieLens 里，用户可以推荐电影并评分，这样其他用户也可以找到新的电影。 为了演示，会基于输入的电影采用 significant_terms 对电影进行推荐。

让我们看看示例中的数据，感受一下要处理的内容。本数据集有两个索引， mlmovies 和 mlratings 。首先查看 mlmovies ：

GET mlmovies/_search {   "took": 4,   "timed_out": false,   "_shards": {...},   "hits": {      "total": 10681,      "max_score": 1,      "hits": [         {            "_index": "mlmovies",            "_type": "mlmovie",            "_id": "2",            "_score": 1,            "_source": {               "offset": 2,               "bytes": 34,               "title": "Jumanji (1995)"            }         },         ....

mlmovies 里的每个文档表示一个电影，数据有两个重要字段：电影ID _id 和电影名 title 。可以忽略 offset 和 bytes 。它们是从原始 CSV 文件抽取数据的过程中产生的中间属性。数据集中有 10，681 部影片。

现在来看看 mlratings ：

GET mlratings/_search{   "took": 3,   "timed_out": false,   "_shards": {...},   "hits": {      "total": 69796,      "max_score": 1,      "hits": [         {            "_index": "mlratings",            "_type": "mlrating",            "_id": "00IC-2jDQFiQkpD6vhbFYA",            "_score": 1,            "_source": {               "offset": 1,               "bytes": 108,               "movie": [122,185,231,292,                  316,329,355,356,362,364,370,377,420,                  466,480,520,539,586,588,589,594,616               ],               "user": 1            }         },         ...

这里可以看到每个用户的推荐信息。每个文档表示一个用户，用 ID 字段 user 来表示， movie 字段维护一个用户观看和推荐过的影片列表。

基于流行程度推荐（Recommending Based on Popularity）

可以采取的首个策略就是基于流行程度向用户推荐影片。 对于某部影片，找到所有推荐过它的用户，然后将他们的推荐进行聚合并获得推荐中最流行的五部。

我们可以很容易的通过一个 terms 聚合 以及一些过滤来表示它，看看 Talladega Nights（塔拉迪加之夜） 这部影片，它是 Will Ferrell 主演的一部关于全国运动汽车竞赛（NASCAR racing）的喜剧。 在理想情况下，我们的推荐应该找到类似风格的喜剧（很有可能也是 Will Ferrell 主演的）。

首先需要找到影片 Talladega Nights 的 ID：

GET mlmovies/_search{  "query": {    "match": {      "title": "Talladega Nights"    }  }}

Talladega Nights 的 ID 是 46970 。
有了 ID，可以过滤评分，再应用 terms 聚合从喜欢 Talladega Nights 的用户中找到最流行的影片：

GET mlratings/_search{  "size" : 0,   "query": {    "filtered": {      "filter": {        "term": {          "movie": 46970         }      }    }  },  "aggs": {    "most_popular": {      "terms": {        "field": "movie",         "size": 6      }    }  }}

在 mlratings 索引下搜索，然后对影片 Talladega Nights 的 ID 使用过滤器。由于聚合是针对查询范围进行操作的，它可以有效的过滤聚合结果从而得到那些只推荐 Talladega Nights 的用户。 最后，执行 terms 聚合得到最流行的影片。 请求排名最前的六个结果，因为 Talladega Nights 本身很有可能就是其中一个结果（并不想重复推荐它）。

{...   "aggregations": {      "most_popular": {         "buckets": [            {               "key": 46970,               "key_as_string": "46970",               "doc_count": 271            },            {               "key": 2571,               "key_as_string": "2571",               "doc_count": 197            },            {               "key": 318,               "key_as_string": "318",               "doc_count": 196            },            {               "key": 296,               "key_as_string": "296",               "doc_count": 183            },            {               "key": 2959,               "key_as_string": "2959",               "doc_count": 183            },            {               "key": 260,               "key_as_string": "260",               "doc_count": 90            }         ]      }   }...

通过一个简单的过滤查询，将得到的结果转换成原始影片名：

GET mlmovies/_search{  "query": {    "filtered": {      "filter": {        "ids": {          "values": [2571,318,296,2959,260]        }      }    }  }}

最后得到以下列表：

1. Matrix, The（黑客帝国）
2. Shawshank Redemption（肖申克的救赎）
3. Pulp Fiction（低俗小说）
4. Fight Club（搏击俱乐部）
5. Star Wars Episode IV: A New Hope（星球大战 IV：曙光乍现）

好吧，这肯定不是一个好的列表！我喜欢所有这些影片。但问题是：几乎 每个人 都喜欢它们。这些影片本来就受大众欢迎，也就是说它们出现在每个人的推荐中都会受欢迎。 这其实是一个流行影片的推荐列表，而不是和影片 Talladega Nights 相关的推荐。

可以通过再次运行聚合轻松验证，而不需要对影片 Talladega Nights 进行过滤。会提供最流行影片的前五名列表：

GET mlratings/_search{  "size" : 0,  "aggs": {    "most_popular": {      "terms": {        "field": "movie",        "size": 5      }    }  }}

返回列表非常相似：

Shawshank Redemption（肖申克的救赎）
Silence of the Lambs, The（沉默的羔羊）
Pulp Fiction（低俗小说）
Forrest Gump（阿甘正传）
Star Wars Episode IV: A New Hope（星球大战 IV：曙光乍现）

显然，只是检查最流行的影片是不能足以创建一个良好而又具鉴别能力的推荐系统。

基于统计的推荐（Recommending Based on Statistics）

significant_terms 会分析喜欢影片 Talladega Nights 的用户组（ 前端 用户组），并且确定最流行的电影。 然后为每个用户（ 后端 用户）构造一个流行影片列表，最后将两者进行比较。

统计异常就是与统计背景相比在前景特征组中过度展现的那些影片。理论上讲，它应该是一组喜剧，因为喜欢 Will Ferrell 喜剧的人给这些影片的评分会比一般人高。

GET mlratings/_search{  "size" : 0,  "query": {    "filtered": {      "filter": {        "term": {          "movie": 46970        }      }    }  },  "aggs": {    "most_sig": {      "significant_terms": {         "field": "movie",        "size": 6      }    }  }}

正如所见，查询也几乎是一样的。过滤出喜欢影片 Talladega Nights 的用户，他们组成了前景特征用户组。默认情况下， significant_terms 会使用整个索引里的数据作为统计背景，所以不需要特别的处理。

与 terms 类似，结果返回了一组桶，不过有更多的元数据信息：

...   "aggregations": {      "most_sig": {         "doc_count": 271, //1. 前景特征组里文档的数量。         "buckets": [            {               "key": 46970,               "key_as_string": "46970",               "doc_count": 271,               "score": 256.549815498155,               "bg_count": 271            },            {               "key": 52245, //2. 聚合的键值（如影片的ID）               "key_as_string": "52245",               "doc_count": 59, //桶内文档的数量               "score": 17.66462367106966,               "bg_count": 185 //   背景文档的数量，表示该值在整个统计背景里出现的频度。            },            {               "key": 8641,               "key_as_string": "8641",               "doc_count": 107,               "score": 13.884387742677438,               "bg_count": 762            },            {               "key": 58156,               "key_as_string": "58156",               "doc_count": 17,               "score": 9.746428133759462,               "bg_count": 28            },            {               "key": 52973,               "key_as_string": "52973",               "doc_count": 95,               "score": 9.65770100311672,               "bg_count": 857            },            {               "key": 35836,               "key_as_string": "35836",               "doc_count": 128,               "score": 9.199001116457955,               "bg_count": 1610            }         ] ...

可以看到，获得的第一个桶是 Talladega Nights 。它可以在所有 271 个文档中找到，这并不意外。让我们看下一个桶：键值 52245 。

这个 ID 对应影片 Blades of Glory（荣誉之刃） ，它是一部关于男子学习滑冰的喜剧，也是由 Will Ferrell 主演。可以看到喜欢 Talladega Nights 的用户对它的推荐是 59 次。 这也意味着 21% 的前景特征用户组推荐了影片 Blades of Glory （ 59 / 271 = 0.2177 ）。

形成对比的是， Blades of Glory 在整个数据集合中仅被推荐了 185 次， 只占 0.26% （ 185 / 69796 = 0.00265 ）。因此 Blades of Glory 是一个统计异常：它在喜欢 Talladega Nights 的用户中是显著的共性（注：uncommonly common）。这样就找到了一个好的推荐！

如果看完整的列表，它们都是好的喜剧推荐（其中很多也是由 Will Ferrell 主演）：
Blades of Glory（荣誉之刃）
Anchorman: The Legend of Ron Burgundy（王牌播音员）
Semi-Pro（半职业选手）
Knocked Up（一夜大肚）
40-Year-Old Virgin, The（四十岁的老处男）

这只是 significant_terms 它强大的一个示例，一旦开始使用 significant_terms ，可能碰到这样的情况，我们不想要最流行的，而想要显著的共性（注：uncommonly common）。