澳大利亚拟立法强制社交与游戏平台提供算法关闭开关

有毒的算法不让他们离开——现在澳大利亚想要一个关闭开关

由Tiffanie Turnbull

悉尼

警告：本文包含一段关于患有进食障碍的生活记述

Varsha Yajman 在13岁加入社交媒体时，就已经对自己的外貌感到不自信。

无尽的健身视频打着不可能实现的承诺填满了她的推送。透过屏幕，素未谋面的女孩们怂恿她报名参加危险的卡路里挑战。其他人在个人资料上骄傲地宣扬自己的身高和体重——甚至被送进医院的次数——以一种扭曲的竞争形式。

每天晚上入睡时，Varsha 都会观看互联网上一个陌生人记录他们当天吃了什么。

“我当时想，‘我不需要吃饭。我只要看别人吃就行’，” Varsha 告诉 BBC。

“我发现自己会陷入这些非常深的兔子洞……就像无论你多努力想出来，都出不来一样。”

现年24岁且正在从厌食症中恢复，Varsha 说她仍在社交媒体上收到减肥内容——尽管她开启了所有安全设置，并且有一份详尽的禁用词列表。

澳大利亚政府表示，它正试图通过一套打击大型科技公司的新法律来保护像她这样的人，这些法律已于本周提交议会。

他们提议的改革的核心是：一项算法开关，将强制社交媒体平台让用户关闭推荐内容。其理念是，你只能看到你关注的账号发布的帖子。

这并非第一个尝试此举的政府，但现有的算法控制往往是临时性的，并伴随着应用功能上的权衡。

澳大利亚已着手使其立法更严格以阻止此事。并且它希望其新法律——该法律还将对在线服务施加法律上的注意义务——将帮助澳大利亚人变得更快乐、更健康。

但批评者担心总理 Anthony Albanese 的政府在对抗大型科技公司的斗争中承担了超出其能力范围的事情，而包括 Trump 政府在内的其他人则表示这些改革威胁到了言论自由。

选择

Flynn Martin 知道被卷入算法螺旋是什么感觉。

自封的厌女网红 Andrew Tate 和其他男性圈人物大约在四年前开始充斥当时20岁的人的社交媒体推送。

那是一段 Flynn 最终被诊断出患有双相情感障碍、缺乏安全感、对生活感到沮丧并与心理健康作斗争的时期。他说自己信了那套说辞。

他很快因为在澳大利亚的两段视频而走红：一段大谈作为异性恋白人男性是否没问题，另一段中他因为约会对象点的冷冻酸奶而批评她。

“你会发现自己在有点像回声室的地方……很容易就被卷进去，”他告诉 BBC。

“我真的相信了那种我们生活在这样一个矩阵里、我们有一个专门设计来针对你的非常负面的系统的想法。而打破它的唯一方法就是成为这个阿尔法男性角色。”

这位墨尔本男子只有在经历了一段精神病和住院治疗后才脱离了男性圈。

如今，他发现回顾那个版本的自己很难：“虽然有一些羞耻和尴尬……但我对那个年轻的男人抱有一点同情。”

Flynn 和 Varsha 都知道，生活中最糟糕的篇章不能只怪社交媒体，但表示它是一个关键因素。

无数其他人都有遭遇他们并未主动寻找、也不想看到的社交媒体内容的故事——而且长期以来一直有人怀疑，这些平台的推荐算法正在伤害用户。

社交媒体公司辩称，潜在的风险被夸大了，并且他们已经为用户提供了有效的安全工具。

但世界各地涌现的研究一直在勾勒出不同的图景。

研究发现，使用社交媒体会引发与赌博和物质成瘾，外部类似的大脑反应；算法——往往是未经请求的——推送出危害用户心理健康的内容，外部，并且它们正在传播虚假信息并加剧两极分化，在现实中引发暴力。

诉讼案件和举报人公开声称，这些公司知道其中的危险，却愿意视而不见，因为这项技术提升了用户参与度和它们的利润底线。

“结果是它们推广那些令人愤慨或引发人们强烈情绪的内容——可能是愤怒、恐惧、欲望、 lust（ lust）、不安全感，无论是什么，都会让我们不停刷下去，”Chanel Contos 告诉 BBC。

在大学习该课题时，这位活动人士——曾帮助改革澳大利亚的性同意教育标准——想出了一场推动变革的运动。

“Fix Our Feeds” 要求推荐算法默认关闭，并让社交媒体用户有选择启用它们的权利。

Contos 设想怀旧地回到2010年代初的社交媒体——那时一个人的社交媒体上充满了朋友或他们真正关注的人的帖子，且他们的信息流是有限的。

超过15,000人签署了她的请愿书，该运动还赢得了两位前总理、几位议员、有影响力的人物、心理健康倡导者和在线安全专家的支持。

政府于9月表示，已听取了那些支持 Contos 运动的澳大利亚人的意见，并宣布了她的提案的一个版本：强制大型科技公司引入算法开关——但未要求其自动设置为关闭。

“这不是关于给予政府控制，而是关于给予民众控制，” Albanese 说。

“如果人们想厄运刷屏……那没关系，那是他们自己的事。”

该政策是政府 Digital Duty of Care 法案的一部分，该法案将要求在线服务——社交媒体公司、游戏网站、聊天机器人等——"在合理可行的范围内确保安全的网络环境"。

儿童必须受到保护，免受"有害的"材料和设计特征——例如，色情内容以及鼓励饮食失调或对女性有害态度的材料——的侵害，成年人必须受到保护，免受"严重有害的"材料和行为的侵害，后者是一份范围窄得多的非法内容清单。违反该法律可能会招致高达 A$100m（£52m, $70m）的罚款。

"数字照管义务解答了社交媒体最低年龄法许多的'那怎么办'疑问，因为它宽泛得多；它涵盖所有在线服务，并将责任负担从受害者的肩上转移到试图从澳大利亚用户身上赚钱的大型科技运营者肩上，"通信部长 Anika Wells 告诉 BBC。

挑战

大型科技公司的反应冷淡。Meta、Snap、TikTok、X 以及拥有 YouTube 的 Google 都拒绝了 BBC 的置评请求，并且没有就这项立法发表公开声明。

在公告发布后的几天里，Instagram 老板 Adam Mosseri 辩称，非算法推荐的信息流意味着用户会看到更少来自朋友的帖子，并且表示他不认为自己的应用会让人上瘾 – 尽管美国陪审团最近作出了相反的裁决。

“我认为我们混淆了日常用语中‘上瘾’一词的用法——比如‘我沉迷于这部剧，正在疯狂追剧’——和临床上的成瘾，”他在悉尼的一场新闻发布会上表示

澳大利亚的右翼政党 – 以及 Trump 政府 – 表示算法提案和更广泛的法案都可能导致过度审核与审查。

但那些为该法律辩护的人说，这不会发生，因为你仍然可以关注你想关注的人，分享你想分享的内容。 Wells 本周表示："如果成年人听 manosphere 播客，或人们发布对政府的看法，或制作表情包，或想说登月是假的——他们可以继续不受限制地这样做。"

与澳大利亚针对儿童的社交媒体禁令相比，该提案在公众和网络安全专家中似乎争议小得多。

然而，一个大问题是：澳大利亚将如何实施这项政策，因为到目前为止，它一直在艰难地实施该禁令？调查显示，禁令前使用社交媒体的大部分儿童仍在使用，且未开出任何罚款。

欧盟在 2023 年尝试引入算法控制——之后平台推出了仅关注来源的推送——就是一个警示故事。

社交媒体公司指出，此类安全与控制功能的采用率一直很低，并以此为证据，称用户喜欢他们产品原本的样子。专家表示，这背后是有原因的。

“平台遵守法律要求，但方式笨拙，用户实际上并不喜欢该选项，而是坚持使用默认的算法体验，” 研究员 Chris Zomer，来自 ARC Centre of Excellence for the Digital Child，在 The Conversation 中写道，外部。

例如在 Instagram 上，当你关闭算法时，无法查看直接消息或访问你的个人资料和设置。当你离开应用时，返回时会恢复为算法控制的推送。

唯一不存在这些问题的地方是荷兰。去年荷兰一家法院裁定 Meta 违反欧盟的《数字服务法》后，当地进行了更改。

澳大利亚的规则尚未敲定，但政府表示，仅关注信息流不能更难使用或功能更少，算法设置必须"明显"，并且即使用户离开应用，未经用户"明确选择"也不得更改。

凭借在澳大利亚的成功，Contos 现在将她的运动推向全球。

"我们感觉加拿大、英国、澳大利亚在网络安全方面都非常一致……那么如果这三个司法管辖区都这样做，它可能会成为临界规模的事情。"

尽管像他们这样的经历帮助启发了这些改革，Flynn 和 Varsha 都对它们有些怀疑。

Varsha 说她难以相信像澳大利亚这样的国家能胜过科技巨头：所以她不确定数字照护义务法案是否会奏效。Flynn 则表示立法者应该对算法切换的潜力保持"现实"态度："归根结底，我们使用社交媒体作为一种娱乐形式。"

本月早些时候的民调显示，三分之二的 Z 世代同伴会保留自己的社交媒体算法——尽管更普遍来看近一半澳大利亚人会关闭自己的算法。

尽管瓦尔莎承认自己不太可能过多使用算法切换功能，但她很感激有这个选择。

“在状态不好的日子里，我仍然容易像17岁时那样受到所有事情的影响。知道如果哪天状态不好，我可以选择退出，这让我感觉真的很好。”

如果您受到了本报道中所提及问题的影响，可以咨询医疗专业人员或提供援助的组织。为英国民众提供建议与支持的组织详情，可从 BBC Action Line 获取。