如何用AI对付“朋友圈”泛滥的假新闻？

本篇文章1840字，读完约5分钟

这可能是互联网历史上的第一个错误消息:1984年，有人在usenet上发布了苏联与互联网相连的消息。这只是一个无害的愚人节恶作剧，但它与今天朋友圈里的虚假新闻和谣言相去甚远。因为现在虚假信息是有害和不道德的。2017年，有无数误导和恶意的虚假网络内容，人类无法靠自己摆脱这一困境。相反，用机器拯救人类是可能的。

一家名为ad Rif . ai的创业公司设计了一个同名的算法，它能把我们从黑暗中拯救出来。人工智能软件可以监控虚假新闻、裸照、恶意软件和其他有问题的内容。目前，广告公司已经与一些不希望涉及虚假或攻击性新闻的欧美平台和广告网络公司合作，并于11月推出了测试版。

或者说，公司创始人levi说，公司专注于为公司而不是普通用户提供产品。个人消费者可能不会担心点击信息的真实性，但广告商和网络平台将因托管或推广恶意内容而遭受损失。如果广告商和平台改变他们的服务，他们可以切断那些通过制造虚假新闻获利的人的收入来源。李维说:这将是处理这类新闻的一大进步。

广告是如何发现虚假新闻的？

ai通过扫描检测到一些可疑的迹象，比如标题与内容不匹配，或者标题中有太多的大写字母。它还通过数千个合法或虚构的新闻数据库交叉核对新闻，这些数据库每周更新一次。客户可以看到由系统识别的可疑消息的报告，并使用分数来评估哪些消息可能是假消息，哪些消息可能携带恶意软件或包含客户要求系统注意的内容，如裸信息。最终，李维说，他计划提高advisof . ai识别篡改图像和浏览器插件的能力。

如果人工智能能够检验副词的样本，就可以认定洋葱是讽刺新闻(过去很多人都被愚弄过)；它将breitbart新闻归类为不可靠的、右翼的、政治的和有偏见的，而《世界主义》杂志是左翼的；它可以判断一个twitter账户何时使用了一个商标，这个链接与它所描述的品牌无关。人工智能发现，自然新闻中题为“比特币是国家安全局数字现金的证据”的新闻来自黑名单网站，它在没有任何合法新闻机构的情况下弹出了其他黑名单网站，因此被确认为虚假新闻。

尽管如此，还是有一些可疑的信息逃脱了。例如，一个名为“行动新闻3”的网站发表了一篇题为“美国国家足球联盟球员在更衣室被拍到焚烧美国国旗！这篇文章已被确认为恶意伪造，但人工智能没有检测到它。因此，为了进一步完善系统，虚假新闻黑名单可以一个一个手工更新。

当人工智能欺诈遇到人工智能伪造时，

ai并不是唯一一家抓住机会利用人工智能向在线公司提供真相的初创公司。此外，网络安全公司特别迅速地将机器定位和虚假新闻监控操作添加到目录中，并指出许多监控方法类似于黑客攻击；Facebook正在调整其算法，以减少虚假新闻推送；同时，谷歌还与事实验证网站合作，对虚假信息进行监控，但验证结果仍然参差不齐。此外，去年年底，人工无线城市志愿者发起了一项识别虚假新闻的挑战，旨在鼓励开发打击恶意报道的工具。

joostware(一家开发机器学习系统的公司)的组织者和创始人迪利普·拉奥(Delip rao)表示，监控虚假新闻需要多个步骤来完成挑战。第一步是位置监控，即先选择一条新闻，然后指出其他新闻网站对此类话题的评价。这样，手动事实检查器可以依靠多个新闻来验证其他新闻的真实性，同时减少逐一检查的时间。

虚假新闻挑战发布了供团队使用的数据集，50个团队提交了数据。最终，思科网络安全部门的塔拉斯智能公司赢得了挑战，其设计的算法准确率达到80%以上。尽管塔拉斯情报公司没有赢得重大胜利，但结果仍然令人鼓舞。下一个挑战可能是带有文本的图像(带有虚假新闻的思维模因)，这在社交媒体上被广泛使用，因为算法很难破解和理解其格式。

饶说:我们想为事实检验者开发最好的工具，这样他们可以像检测血清中的类固醇一样快速地工作。

即使人们可以开发一个系统来有效地打击虚假内容，这也不是最终目标。人工智能系统已经能够创造虚假文本和极其逼真的图像和视频。(参考文章“太多了，我不仅学会了P图片，但现在用我自己的眼睛看它不一定是真的”)

或许正因为如此，gartner research最近预测，到2022年，发达国家的大多数人将会看到虚假信息，而不是真实信息。类似的报告显示，在此之前，虚假信息将超过人工智能的监控能力，并改变人们对数字信息的看法。

ai和其他公司更像是发起一场竞争，而不是一场虚假信息的战争。在竞争中，虚假内容的创造者开发了他们自己的人工智能系统，试图击败人工智能。因此，我们必须重新审视我们获取信息的方式。