AI产生的无休止的垃圾邮件可能会屏蔽谷歌的搜索结果

2021-10-14 08:52:11

大家好,我是本栏目的编辑郝帅。现在我给大家解释一下上面的问题。在过去的一年里,人工智能系统在生成令人信服的文本方面取得了巨大进展,从歌词到短篇小说。专家警告说,这些工具可能被用来传播虚假的政治信息,但还有另一个同样合理、可能更有利可图的目标:玩谷歌。

人工智能可以制造无限的博客、网站和营销垃圾,而不是制造假新闻。内容制作成本低,填充了相关关键词。然而,和大多数AI生成的文本一样,它只有表面意义,与现实世界几乎没有对应关系。这将是相当于空卡路里的信息,但可能仍然很难区分搜索引擎和真实的东西。

看完这篇博文,回答这个问题:“什么样的照片滤镜最适合Instagram营销?”乍一看,这似乎是合法的,先是平淡的介绍,然后是各种营销类型的参考。但如果你仔细阅读,你会发现它引用了杂志、人物,以及——至关重要的是——不存在的Instagram过滤器:

你可能不认为mumford brush是Insta故事的好过滤器。不,《国家录音技术杂志》通讯主任艾米费宝说。Freeborn的选择包括Finder(蓝色条纹让她的账号看起来像一个旧的像素块)、Plus和Cartwheel(她说它让你的照片看起来像一个城镇的地形图。

网站其余部分都是类似的帖子,涵盖了“如何写Clickbait Title”和“为什么内容策略很重要?”但是每个帖子都是人工智能生成的,直到作者的个人资料图片。这是内容营销机构Fractl的全部创作,他说这是AI文本生成对搜索引擎优化或SEO业务“巨大影响”的展示。

“因为[AI系统]可以在基本上无限的规模上创建内容,而人类和搜索引擎很难区分内容[.],我们认为这是一个非常重要的话题,目前讨论太少,”Fractl合伙人Kristin Tynski告诉The Verge。

为了写博客文章,Fractl使用了一个名为Grover的开源工具,该工具由艾伦人工智能研究所生产。Tynski说,公司没有使用AI为客户生成帖子,但这并不意味着其他人不会。“我想我们会看到我们已经看到的,”她说。“黑帽会用颠覆战术来获得竞争优势。”

SEO的历史当然支持这个预测。它总是猫捉老鼠的游戏,无良玩家试图吸引尽可能多的眼球,谷歌和其他网络代码是谷壳里的麦子。

正如廷斯基在自己的博客文章中解释的那样,过去这种动态的例子包括10到15年前开始的“文章轮换”趋势。文章修剪器用自动化工具重写现有内容;并找到替换词,使重建的材料看起来像原来的一样。谷歌和其他搜索引擎对新的过滤器和指标做出了回应,以消除这些疯狂的博客,但这几乎不是一夜之间的解决方案。

Tynski写道,人工智能文本生成将使文章“像儿童游戏一样”旋转,允许“计算机生成的内容在每个可能的利基市场掀起巨大海啸。”。

SEO顾问和专家Mike Blumenthal表示,这些工具肯定会吸引垃圾邮件发送者,尤其是考虑到它们可以大规模生成文本。Blumenthal告诉The Verge,“人工智能编写的内容至少在网络搜索方面的问题是,它可能会降低这种内容制作方法的成本。

如果垃圾邮件发送者的目的只是为了产生流量,那么假新闻文章可能是完美的。虽然我们经常担心虚假新闻商家的政治动机,但大多数人采访创造和分享这种背景的人,并声称他们这样做是为了广告收入。这并不妨碍它具有政治破坏性。

那么关键的问题是:我们能可靠地检测到AI生成的文本吗?艾伦研究所的罗文泽勒尔斯说,答案是肯定的,至少目前是这样。Zellers和他的同事们负责创建Grover,这是Fractl用于虚假博文的工具,可以设计一个系统,以92%的准确率找到Grover生成的文本。

泽勒尔斯在接受《The Verge》采访时表示:“在人工智能出现之前,我们还有很长的路要走,因为它可以生成所有无法检测到的新闻文章。“所以现在,在我看来,这是研究人员研究这个问题的绝佳机会,因为它并不完全危险。”

泽勒尔斯说,找到虚假的人工智能文本并不太困难,因为它有许多语言和语法语句。他举了一个AI重用一些短语和名词的例子。“他们重复着什么.因为这样做更安全,而不是发明新的实体。就像孩子在学说话;反复使用相同的单词和短语,不考虑收益递减。

然而,正如我们在视觉深度研究中看到的那样,仅仅因为我们可以构建能够发现这些内容的技术,这并不意味着它不是一种危险。将探测器集成到互联网基础设施中是一项艰巨的任务,在线世界的规模意味着即使是具有高精度水平的探测器也会产生大量的错误。

谷歌没有回应有关这个主题的问题,包括它是否在可以发现人工智能生成文本的系统上工作的问题。(不过,考虑到谷歌的工程师处于这个领域的最前沿,这是一个不错的选择。)相反,该公司发出了一个样板回复,说它已经打击了几十年的垃圾邮件,并始终跟上最新的战术。

搜索引擎优化专家布卢门撒尔对此表示赞同,并表示谷歌长期以来已经证明它可以对“不断变化的技术环境”作出反应。但他也表示,我们在网上查找信息的方式也可能使人工智能垃圾邮件不再成为问题。

Blumenthal表示,越来越多的网络搜索是通过像Siri和Alexa这样的代理进行的,这意味着像谷歌这样的网守只需要产生“一个(或两个或三个)伟大答案”而不是几十个相关链接。当然,强调“一个真正的答案” 有其自身的问题,但它确实最大限度地减少了大量垃圾邮件的风险。

尽管如此,这一切的最终结局可能会更加有趣。人工智能文本的产生速度非常快,该领域的专家认为它可以带来一些令人难以置信的突破。毕竟,如果我们能够创建一个能够读取和生成具有人类精确度的文本的程序,它可以在互联网上肆虐并成为最终的AI助手。

“可能会出现这样的情况:在接下来的几年中,这种技术变得非常好,人工智能生成的内容实际上提供了近乎人类甚至人类的价值,”廷斯基说。在这种情况下,她说,参考一个Xkcd漫画,它将“解决问题。”因为如果你创造了一个人工智能,可以产生与人类写的内容无法区分的事实正确的文本,为什么要打扰人类呢? ?

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。