TikTok在向美国青少年推送什么样的加沙战争视频?

想象一下,家里13岁的孩子注册了TikTok账号,刷视频的时候,目光久久停留在展现以哈战争中爆炸、火箭弹和惊恐家庭的画面。

你的孩子未搜索或关注任何账号。但是,只要在有关这场冲突的视频上停顿,该应用程序就会开始奉上更多战争相关内容。

这就是《华尔街日报》(The Wall Street Journal)为了解TikTok就这场冲突向年轻用户展示什么内容而创建的几个机器人账号的遭遇。这些机器人账号注册为13岁的用户,浏览了TikTok的“For You”信息流,这是一个由算法驱动的高度个性化、无休止的内容流。

在注册后的几小时内,TikTok就开始为一些账号提供高度两极化的内容,此类内容反映出的对于这场冲突的立场往往极端化,或者亲巴勒斯坦,或者亲以色列。许多内容煽动恐惧。

有些内容采用末日论调,声称美国“已决定消灭所有阿拉伯国家”,预言第三次世界大战,或表示尼罗河水已变成血红色,意指《圣经》中的灾祸场景。

其中几十个宣扬世界末日或危言耸听的视频,向《华尔街日报》以13岁用户名义注册的八个账号播放了逾150次。有些视频敦促观众为应对袭击做好准备。其中一个警告说:“如果你没有枪,那就买一把。”

展示给《华尔街日报》上述账号的战争相关视频中,支持该冲突中一方或另一方的视频数量可观,但多数都支持巴方观点。

研究表明,越来越多的年轻人从TikTok上获取新闻。在《华尔街日报》的实验中,该应用程序提供了西方和阿拉伯新闻机构发布的一些视频。但它们只是少数,约占冲突视频的七分之一。其余的视频主要是由网红、活动人士、匿名账户、新闻记者和以色列政府发布的。

其中一些账号很快就陷入了所谓的算法“兔子洞”,一半或更多的视频都与战争有关。在一个账号中,第一个与冲突有关的视频出现在TikTok提供的第58个视频中。在浏览了几个类似视频后,该账号很快就被抗议、受难儿童和描述死亡的视频淹没了。

TikTok根据用户观看的内容通过复杂的算法决定向用户推送哪些内容,而不是像其他社交媒体那样主要根据用户关注的账号或订阅的内容。这使得研究人员和家长很难了解年轻人在这款流行应用上的体验。

《华尔街日报》使用的机器人账号只会在与冲突有关的视频上短暂浏览,它们让我们得以一窥年轻用户在TikTok上可能会遇到的内容,也让我们测试了TikTok为该应用所展示的视频设置的保护机制,以及展示的视频数量。

TikTok的一位发言人说,《华尔街日报》的实验 “绝不反映TikTok上青少年真人的行为或经历”。

这位发言人在一份书面声明中说:“真人会点赞、分享和搜索内容,会收藏视频、发表评论、关注他人,并在TikTok上欣赏五花八门的内容。”

TikTok表示,在10月7日至11月30日期间删除了690多万个带有冲击力、画面逼真的视频,240万个宣扬暴力和仇恨的组织和个人的视频,200万个带有仇恨言论的视频,以及13.1万个带有有害错误信息的视频。

《华尔街日报》将其中一个账号设置为限制模式,据TikTok所述,这种模式会限制可能不适合所有受众的内容。但这并没有阻止该应用向用户大量展示战争信息。登录后不久,该账号的推送几乎全部是关于10月7日开始的冲突的生动图片和描述。10月7日,哈马斯武装分子越过边境,在以色列杀害了约1,200人。

TikTok的算法具有独特的强大功能,可以发现哪些视频能引起用户的注意,然后向他们提供相关话题最吸引人的内容。华盛顿特区智库大西洋理事会(Atlantic Council )下属Digital Forensic Research Lab研究数字平台的常驻资深研究员Emerson Brooking表示:“你不必自己刷内容,只需坐下来观看,把剩下的工作交给这个平台。”

TikTok向《华尔街日报》账户提供的大部分视频似乎都没有违反该应用的社区政策,即禁止宣传恐怖组织或者血腥或极端暴力的内容。但其中有数以百计的视频描绘了死亡或展示了受惊吓的儿童。许多这类视频中都难以核实。

有些视频显示的是以色列所称被哈马斯绑架或杀害的人,其中一个视频声称所显示的是儿童被烧死的打了马赛克的图像。TikTok称这个视频没有违反其政策。

另一个视频称所显示的是哈马斯恐怖分子闯入一户家中,并在隔壁房间杀害这家几个女孩之中的一名。该视频中有两个面容模糊的孩子正在哭泣,一个说“我姐姐死了”,另一个说“我希望她还活着”,同时有一个声音告诉她们 “放松,放松”。TikTok后来在该视频前加了一条警告,并禁止在任何人的For You推送中推荐。

TikTok上还曾有一段显示儿童哭泣的视频,发布者的账号后来被该公司封禁。

TikTok向《华尔街日报》的账号提供了数以百计的图片,其中大部分是战争时期的加沙儿童,并把其中一些描述为受到惊吓、受伤或哭泣。

一些至少14次推送给机器人的战争相关视频现在已被标记为敏感视频,有时会被阻止向年轻用户播放。另有数百个战争相关视频后来无法在TikTok上观看,要么是因为TikTok删除了这些视频,要么是因为发布者将视频撤下或设为私密——不过,在这些视频被推送给《华尔街日报》测试账号之前,它们是可以被看到的。

“对于成年人来说,看这么多内容是不正常的;但对于孩子们来说,这就像以每小时100英里的速度行驶,没有任何减速带,不断被打击士气的、情绪化的内容淹没,”#HalfTheStory的创始人Larissa May说。#HalfTheStory是一家非营利性教育机构,关注青少年的数字健康以及技术对心理健康的影响。

TikTok表示,家庭控制功能可以让父母过滤掉关键词,并限制儿童账户的搜索。TikTok还表示,自10月7日以来,平台已阻止青少年账户观看100多万个含有暴力或相关图片内容的视频。

在《华尔街日报》的八个测试账号中,有五个账号在第一次被推送冲突相关视频后刷了不到100个视频时,掉入了兔子洞。(如果机器人账号被推送的视频(包括前25个视频和后25个视频的滚动平均值)中有一半以上与冲突有关,就会被认为掉入了兔子洞。)另外两个测试账号在第一次被推送冲突相关视频后刷了不到250个视频时,掉入了兔子洞。

与其他社交媒体平台类似,TikTok向《华尔街日报》测试账号推送的大部分战争内容都是亲巴勒斯坦的:在向机器人推送的4,800多条视频中,有59%的视频经《华尔街日报》评估后认为与这场冲突或战争有关。其中,约15%的视频是亲以色列的。

TikTok的这名发言人表示,该平台不会在某个问题上宣扬其中的一方、打压另一方。

TikTok向《华尔街日报》的这些账号90多次推送了来自一个亲巴勒斯坦账户的视频。该账户名为@free.palestine1160,没有简介,但包含一个总部设在卡塔尔的慈善机构的筹款页面链接,款项用于加沙的紧急救援和庇护所。

该慈善机构没有回应置评请求。

该账号的许多视频都以驻加沙的制片人和内容创作者Bisan Owda为主角,描述以色列空袭和地面行动造成的人员伤亡。

在其他视频中一些人指责以色列士兵嘲弄巴勒斯坦人,其中一个视频显示了一名士兵坐在椅子上的Instagram帖子的截图。该帖子后来在Instagram上被标记为修改过;网上其他地方几乎一模一样的照片版本表明,一张桌子和蓝色涂鸦被添加了进去。

“相关事实是,这名士兵骄傲地坐在平民家的门前。这是毫无人情味的。”发布该TikTok视频的Nuha El-Quesny说。

一些人讨论了抵制那些被视为支持以色列的西方公司。

支持巴勒斯坦的视频中最多的一批是展示抗议活动或鼓励观看者参与激进活动的视频,其中一些视频呼应了“从河流到海洋,巴勒斯坦将获得自由”的口号。

虽然支持巴勒斯坦的内容更为常见,但视频源中也夹杂着支持以色列的视频,包括数十个来自以色列军队和政府的视频。

“我看到被斩首的小孩。我们不知道哪个头颅属于哪个小孩,”一名援助人员在TikTok推送给这些账号的一段视频中说道。该视频被《华尔街日报》的一个机器人账号看过后,后来被删掉了。

来自以色列军方官方账户的几段视频中有一段红外镜头视频,视频内容是以军方称由于附近平民太多,官方决定不轰炸一栋建筑那刻的情形。

还有许多视频展示或描述了10月7日被劫持到加沙的人。一位名叫Noa Argamani的女性被绑架的视频被拍了下来,有人为她弹奏了一首慢节奏的《生日快乐》钢琴曲。

一些视频带有强烈的沙文主义色彩,这些视频通常来自匿名账户。比如一个美国航空母舰的视频,在跳动的音乐节奏中说:“向加沙说拜拜”。

TikTok向《华尔街日报》账户推送的数百个视频在不直接展示死亡的情况下暗示了死亡。其中一段视频拍的是加沙的万人坑,以及“儿童的尸体被存放在冰淇淋车中,因为停尸房已经放不下了”。

一位妇女描述了她儿子从Nova音乐节上打来电话的情景;哈马斯袭击者在该音乐节上杀害了数百人。

她说,她在电话中听到自己的儿子告诉他的朋友们枪手又回来了;然后她听到了枪声,接着是一片寂静。

她说:“我们正在通话时,他们杀了我的儿子。”

其他视频中有些人留言,说他们想分享一条信息,以防万一他们没能活下来。

一名女性说:“我们不知道当阳光再次出现时,我们是否还能活着。”她说,她和家人不肯撤离加沙城。

在另一段以动画播放10月7日袭击事件的一名受害者照片的视频中,受害者似乎在讲述他在中弹前是如何救人的。在TikTok上发布这个视频的账号经确定是属于这名受害者的女友,她没有回应置评请求。

播放了近20次的视频中,包含似乎是裹尸布包裹的尸体的图像。

即使没有直观画面的内容仍然能给儿童造成创伤。

“任何孩子都不应该一天花几个小时一段又一段地看战争中儿童的视频,”May说。“日复一日地接触这些内容,会削弱孩子们的情感表达能力和处理所见内容的能力,他们就会开始变得冷漠。”