Google要用机器学习检测恶意评论
来源:互联网 发布:name 域名 编辑:程序博客网 时间:2024/04/30 04:17
Google旗下的Jigsaw开发了一款AI工具Perspective,它使用机器学习检测网络上的骚扰和辱骂内容,可以帮助新闻机构和内容平台识别恶意评论。
Perspective软件可以确定网上评论的“毒性”,有毒程度则是通过挖掘数百万条评论,然后由 10 位评委进行打分而得到的。它会基于评论与被贴上“有毒”标签的评论的相似度,或评论迫使别人不再对话的可能性,进行打分。
Perspective的API现在在官网可以试用,感兴趣的朋友可以测试一下。
据称,纽约时报、卫报、经济学人和维基百科,正在测试这一新技术,Google和Jigsaw也希望其它新闻机构也能使用。它还可以减少人工审核。根据测试结果,川普的名言“Grab her by the pussy”毒性达到了92%(由于这句话涉及对女性的 严重歧视,就不翻译了)。
虽然评论可以提升用户参与度,但总拦不住有的人会因为匿名性而发表不当言论,这样看来Perspective还是很有用的。
只是由于人类语言的复杂性,它的评价不一定准确。
Jigsaw表示,技术将会向所有平台公开,未来还会继续增强,用来识别个人攻击评论和偏离主题的评论。
Jigsaw成立于 2010 年,还开发过能找到潜在ISIS恐怖分子的软件。雷锋网曾报道,它的前身是网络和政策智囊团Google Ideas,后变成了科技孵化器Jigsaw。它主要专注于使用技术“解决棘手的地缘政治挑战,包括打击暴力极端主义,遏制网络审查,从而减轻与数字攻击相关的威胁”。Jigsaw将投资这样的技术,它能帮助最需要的人群获取信息,并抵御最有挑战的安全威胁。
0 0
- Google要用机器学习检测恶意评论
- 喷子注意了,Google要用机器学习检测恶意评论
- 机器学习之恶意软件分类和检测
- Google:机器学习检测垃圾邮件准确率已达99.9%
- 通过机器学习识别恶意url
- 用机器学习检测异常点击流
- Roller如何拒绝恶意评论
- 谷歌发布基于机器学习的Android APP安全检测系统:Google Play Protect
- 恶意URL检测
- Google为macOS量身打造的恶意软件检测系统“Santa”已开源
- 机器学习之异常检测
- 机器学习算法~异常检测
- google “恶意软件”警告出错
- Google收购评论
- 基于机器学习的人头检测模型
- Stanford机器学习---第十一讲.异常检测
- 机器学习复习——异常检测
- 机器学习(十八)异常检测
- How do I force a query to use bind-aware cursor sharing?
- Qt连接Sqlserv数据库设置端口号问题
- 寻找手机(本人自编题)
- PAT_A 1023. Have Fun with Numbers (20)
- Python实现冒泡排序
- Google要用机器学习检测恶意评论
- 深入理解C语言指针(四)之 函数
- 虚拟键盘弹出挡住textfield的分析以及解决办法
- so使用原则(要么不支持,要么全部支持) 固定的运行平台 指定目录:System.load("/data/data/<package-name>/mydir/libmath.so");
- 定义数组(by rust)
- 【ORACLE】ORA-00911 无效字符
- Delphi 案例
- FCN
- python 文件操作总结