定向投放还是存在歧视?大数据“腹黑”面遭疑
电脑投放职位广告也会有偏见吗?当然,至少谷歌家的是这样。
近日,卡耐基梅隆大学研究者通过一款名为AdFisher的追踪工具,对谷歌在第三方网站上的广告定向过程进行了追踪。数据显示,当谷歌判定一位访客为男性求职者时,为他推送高薪主管职位广告的几率要远高于同等条件的女性求职者。
哎呦,即便是一堆数据也学会性别歧视啦?别急,还有:根据AdFisher的追踪,人们还发现,谷歌所谓的透明度插件并不能如约为用户提供保护个人隐私的设置。举例来说,当研究者在谷歌中搜索浏览了与药物滥用有关的网站后,研究人员会收到谷歌投放的大量康复计划广告,但在透明度插件工具中,用户仍无法自主修改这些内容以屏蔽康复性广告投放。
截至目前,到底是什么机制导致了这一问题人们还不清楚,因为谷歌广告服务系统本身就非常复杂。一般情况下,谷歌会用自己的数据来定向投放广告,但有时广告商也会要求根据兴趣资料和用户行为来定向投放。
对此,AdFisher的开发者表示:“我认为,我们的发现揭露了目前广告生态中开始浮现的诸多歧视和不透明现象。从社会的角度来看,它很值得担忧。”是的,像谷歌这样体量的广告系统决定着人们能接触到什么样的信息,它甚至会潜在地影响人们所做的决定,所以厘清它们的运作机制是非常必要的。
目前,谷歌还没有对这些研究做出正式回应。然而,最近研究团队注意到谷歌在广告设置页面添加了一份免责声明,声称该页面的兴趣分类只能用于控制“某些谷歌广告”,而第三方借此投放的部分完全不归其管辖。但研究者随即指出,作为“后台操控者”,谷歌这是在打太极推卸责任,“这些广告投放的最终关在他们手里,如果他们愿意,他们完全可以展示投放这些广告的兴趣点。”
据了解,本次用于追踪数据的AdFisher可通过某一特定渠道向某一网站发送大量访问请求,如此一来,广告定向将据此为不同的访问定制不同的广告,而AdFisher会记录下谷歌所推送的广告以及广告设置界面的变化,并自动标记出系统所采用的特定兴趣分类。另外,哥伦比亚大学的研究者也开发了一个类似的工具,名为XRay。
然而研究者坦言,AdFisher类工具提供的结果只能用作参考,“你无法从中得出全局性的推论,因为我们的研究还不够深入,某些例子可能只是非常罕见的特例。而我们迫切需要的是能全局掌控这一系统的设施和工具。”同时,研究者指出,了解科技公司追踪用户行为的过程以及定向投放广告的算法,对于人权组织和监管机构来说是至关重要的。
去年,一份研究大数据影响的白宫报告也表露出相似的看法,报告写道:“我们长期坚持的公民权利保护政策对居民信息如何在住房、信用卡、雇佣、健康、教育和交易市场等方面使用有严格的限制,而数据分析技术有可能会击溃这一防线。”