这不仅仅是一个社交媒体问题 - 搜索引擎如何传播错误信息

搜索引擎,如社交媒体算法,请通过学习其他人点击即可单击链接。诱惑错误信息通常出现在顶部。

由华盛顿大学Chirag Shah / March 15, 2021
Shutterstock

搜索引擎是社会之一’■信息和人的主要网关,但它们也是错误信息的导管。相似 有问题的社交媒体算法,搜索引擎学会为您服务您和其他人以前单击。因为人们被吸引到耸人听闻,这算法与人性之间的这种舞蹈可以促进错误信息的传播。

搜索引擎公司,如大多数在线服务,不仅通过销售广告赚钱,还可以通过跟踪用户并销售他们的数据 通过实时竞标 在上面。人们往往导致他们对耸人听闻和娱乐新闻的渴望和争议或确认他们的观点的信息。一项研究发现,关于糖尿病的更多受欢迎的YouTube视频是 不太可能有医疗有效的信息 例如,在主题上的流行视频不那么流行。

广告驱动的搜索引擎,如社交媒体平台,旨在奖励点击诱惑链接,因为它有助于搜索公司提高其业务指标。作为一名研究员 研究搜索和推荐系统,我和我的同事表明,这种危险的企业利润动机和个人易感性结合 使问题难以解决.

搜索结果如何出错

单击搜索结果时,搜索算法了解您单击的链接与搜索查询相关。这就是所谓的 相关反馈。此反馈可帮助搜索引擎给出未来该查询的该链接更高的权重。如果足够的人点击该链接足够的时间,从而提供强大的相关反馈,该网站在搜索结果中开始升级和相关查询。

人们是 更有可能点击显示更高的链接 在搜索结果列表中。这创建了一个正反馈循环–网站越高,点击次数越多,而且又使网站移动更高或保持更高。搜索引擎优化技术使用这些知识来增加网站的可见性。

此错误信息有两个方面问题:如何评估搜索算法以及人类如何对头条新闻,标题和片段作出反应。搜索引擎,如大多数在线服务,使用一系列指标来判断,其中一个是用户参与。它位于搜索引擎公司中’为您提供您想要阅读的东西,观看或单击的最佳兴趣。因此,作为搜索引擎或任何推荐系统创建要存在的项目列表,它计算您的可能性’ll点击物品。

传统上,这意味着揭示最相关的信息。然而,相关性的概念已经产生了模糊,因为人们一直在使用搜索来查找 娱乐搜索结果以及真正相关的信息.

想象一下,你正在寻找钢琴调谐器。如果有人向你展示一只猫的视频,你会点击它吗?很多,即使与钢琴调整无关。搜索服务感到验证,积极的相关反馈,并了解到当人们寻找钢琴调谐器时,可以显示一只猫的猫。

事实上,在许多情况下,它比显示相关结果更好。喜欢看搞笑猫视频的人,搜索系统更多点击和用户参与。

这似乎是无害的。那么如果人们不时被分散注意力,那么点击aren的结果是怎样的’与搜索查询相关吗?问题是人们被吸引到令人兴奋的图像和耸人听闻的头条新闻。他们 倾向于点击阴谋理论和敏感的新闻,不只是猫弹钢琴,这样做 不仅仅是点击真正的新闻 或相关信息。

着名但假蜘蛛

2018年,搜索“new deadly spider” 在谷歌上飙升 在一个新的致命蜘蛛处杀死了多个州的几个人。我的同事和我分析了Google搜索的前100个结果“new deadly spider”在此趋势查询的第一周。

谷歌搜索结果的前两页‘new deadly spider’2018年8月(阴影区)与原始假新闻帖有关,关于该主题,而不是揭穿或其他信息。 ch, cc by-nd

它结果这个故事 是假的,但搜索它的人在很大程度上暴露于与原始假职位相关的错误信息。随着人们继续点击并分享误导,谷歌继续在搜索结果顶部提供这些页面。

这种令人兴奋和未经验证的故事的模式和人们仍然存在,人们显然要么漠不关心,要么认为,如果谷歌搜索等值得信赖的服务是向他们显示这些故事,那么故事必须是真的。最近,一个 不当报告 声称中国让冠状病毒因在搜索引擎上获得的实验室泄漏,因为这个恶性循环。

发现误导

要测试人们如何在准确的信息和错误信息之间歧视,我们设计了一个简单的游戏“谷歌与否.”此在线游戏显示同一查询的两组结果。目标很简单–选择可靠,值得信赖或最相关的集合。

屏幕截图并排显示两组谷歌搜索结果
在测试中,大约一半的人可以’T讲述了谷歌搜索结果之间的差异,其中包含错误信息和只有值得信赖的结果。 ch, cc by-nd

这两组中的一个具有一个或两个结果,可以验证和标记为错误信息或被揭露的故事。我们通过各种社交媒体渠道公开提供游戏,并通过各种社交媒体渠道广告。总体而言,我们从30多个国家收集了2,100个响应。

当我们分析结果时,我们发现了 大约一半的时候,人们被错误地被认为是值得信赖的一个或两个错误信息结果。我们在许多迭代中有数百名其他用户的实验导致了类似的结果。换句话说,大约一半的时候人们正在挑选含有阴谋理论和假新闻的结果。随着越来越多的人选择这些不准确和误导性的结果,搜索引擎就会了解这一点’s what people want.

大型技术监管与自我监管的问题’对于人们来说,很重要,了解这些系统如何工作以及他们如何赚钱。否则市场经济体和人民’被引人注目的联系所吸引的自然倾向将保持恶性循环。

[了解每周科学,健康和技术的新发展。 订阅谈话’s science newsletter。]

ch,信息科学副教授, 华盛顿大学

本文已重新发布 谈话 在创造性的公共许可证下。阅读 来源文章.


永远不会错过每日Govtech今天的故事时事通讯。

订阅


E.Republic平台& Programs