骚扰者、霸凌者在网络上横行霸道,有没有什么技术手段可以打压他们呢?
“许多年了,在网络平台上处理暴力行为,我们一直做得不够好。”前任推特(Twitter)首席执行官迪克·科斯特罗(Dick Costolo)在一份去年泄露给媒体的备忘录中这样写道,“这根本不是秘密,世界每天都围绕这个话题叽喳不停。”
尽管有些令人尴尬,但在很多人听来,这样的言辞像是一份迟来的坦白。网络暴力行为普遍得可怕,而霸凌者制造混乱的网络空间,也绝不仅仅是推特一个。超过半数的英国青少年曾在网上受到过欺凌,新闻里无情侵犯个人隐私的案例屡见不鲜,如果你觉得在这个问题上仍无人有所作为,那也不为过。但是,有迹象表明,对于网络欺凌,我们并非无计可施。
近期的一系列研究论文探究了科技对于尽早识别网络霸凌者、避免后续网络暴力有何帮助。以一项关于互联网暴力评论的研究为例,研究者查阅了18个月内,在美国有线电视新闻网(CNN)、Breitbart新闻网等网站上出现的约4000万条评论。研究作者之一,康奈尔大学信息科学学院的克里斯蒂安·丹尼斯库-尼古列斯库-米茨(Cristian Danescu-Niculescu-Mizi)解释道,通过分析用户行为(不一定限于措辞),就有可能预测出他们未来是否会被一些网站或论坛禁言。
“不友好的用户通常只着重于某几点。他们对此大书特书,而其他的用户一般会采用发散的思维。”丹尼斯库-尼古列斯库-米茨说道。通过识别这种行为,团队可以编写出一个算法,用于快速预测用户是否具有反社会倾向。这个算法虽然不是直接搜索脏话和粗鲁的羞辱,却会找出一种特定的行为模式——其可适用的网站似乎也不少。
网络暴力行为是可以预测的。(图源:iStock图库)
丹尼斯库-尼古列斯库-米茨向我们解释:“结果显示,根据(用户)发的最初的五到十条状态,就已经可以预测他们将来是否会被禁言了,准确率高达80%。”
研究者强调,这个算法并非意在用电脑化手段取代真人的网站管理员(他们会根据用户发的最初几条状态来设置禁言)。团队的研究目的在于,通过及时标记出某些个人用户,协助管理员对反社会者发出警告,从而让他们无法蒙混过关,最终减少网络上的恶性行为。正如丹尼斯库-尼古列斯库-米茨所说:“决定,还得由人来做。”
《联线杂志》(Wired)也报道了斯坦福国际研究所(SRI International)的一项“用智能算法来识别网络暴力行为”的研究。斯坦福国际研究所即Siri(智能语音助手)的研发机构,Siri后来被苹果公司(Apple)买下,用于iPhone手机。这项研究将以自动化的方式代替目前由人力完成的监督工作。更多的研究则致力于探索诸如Instagram(图片分享应用)等社交网站上的网络暴力特征。
要处理网络暴力行为,传统的方式是宣传相关知识及其发生机制。这种方式多在网络上实现,例如,英国政府最近创建了一个“停止网络暴力”(Stop Online Abuse)的网站,目的是杜绝网络上针对女性、同性恋、双性恋及跨性别者(LGBT)的网络暴力行为。
有趣的是,一些人决定“以暴制暴”。由激进团体“彭氏集团”(The Peng Collective)推出的“网暴零容忍”运动(Zero Trollerance)就是一个例子。“推特机器人”(Twitter bots,推特自动账号)可以找出发布不友善推文的账号,这些账号的用户会收到一份半开玩笑的“自救”邀请,邀请他们自己从网络暴力行为中走出来。
短短一周时间,这场运动就向千余名推特账户推送了消息。“我想做点能激起浪花的事,能与网络暴力者交战的事,”运动合伙人之一的艾达·斯托尔茨(Ada Stolz)说道,“这就是我们所做的。我们也使用了‘暴力’——我们造出了一支机器人军队。”