全文共字，预计学习时长19分钟
来源：Pexels你知道吗？深受孩子们喜爱的网络游戏，如《堡垒之夜》、《我的世界》、《部落冲突》和《罗布乐思》，已经渐渐成为恋童癖的狩猎场。
近期报告表明，至少有成千上万的孩子（可能远不止于此）被洗脑、哄骗、欺骗、恐吓或勒索，这些受害者将自己或他人的性爱图片发送给在游戏平台和聊天应用程序的“撒网”的“捕食者”。
在人们普遍认识到一种成人无法理解的新趋势，且新技术对儿童构成威胁时，通常会引起一种道德恐慌感，《纽约时报》的一项调查清楚地表明，这一问题真实存在、影响广泛而且正在不断加剧。如果你仍然持怀疑态度的话，从一家为在线应用开发家长式控制的初创公司巴克（Bark）员工那里了解“捕食者”是怎样的的第一手资料，就可以说明这个问题在社交媒体和信息平台上是多么普遍。父母在不担心孩子在网络游戏世界中的安全和福祉的情况下，绝不会阅读这些故事。
但是，到目前为止，尚未完全清楚地报告解决该威胁的实际措施。
《泰晤士报》报道中提到的大多数公司——包括罗布乐思、Discord、索尼（“游戏站”的开发商）和微软（Xbox和《我的世界》的开发商等）——都指出，它们至少采取了一些措施来保护未成年用户，但很少有公司能够证明取得了意义非凡的成果。几乎所有讨论的方法都有明显的缺点。
内容审核、网络上的性剥削和互联网法律方面的专家说，希望以有意义的方式解决该问题。这并不容易——有些人认为，如果不修改保护在线平台免受多种形式责任的基本法律，这一切不会改变。
监管游戏如此棘手，部分原因在于“掠食者”和孩子之间的互动几乎不会停留在游戏平台上。通常，这些掠夺者会在游戏网站上找到孩子们，并与他们建立联系，转移到FacebookMessenger或Kik等更加私密的聊天应用程序，进而进行性照片交易并敲诈他们。加州大学洛杉矶分校信息研究助理教授莎拉·T·罗伯茨（SarahT.Roberts）将未受监管的游戏聊天比作“到处充斥着不怀好意的人的虚拟游乐场”——而且没有家长在场。
“我对这种零敲碎打的方式感到更加乐观。”—罗凯蒂
你可以想象保护这样一个场地的众多方法。一种办法是让负责任的成年人来监督——也就是审核。另一种办法是安装监视摄像机，通过自动化程序进行监督。第三种办法是检查进入游戏的每个人的身份或年龄（笔者将其称为验证类别）。第四种是确保社区中的所有父母和孩子都意识到游戏的风险，并帮助他们更安全地玩游戏，即进行相关教育。最后一种，社会可以制定限制此类游戏的法律，或要求其开发者对以上提到发生的事情负责，也就是做到监管。
如果只有一个虚拟游戏，则可能只有一个正确答案。但是有很多这样的游戏，而且功能各不相同，因此无法制定一项有效的政策。“我看不到一个宏大的技术解决方案，”罗凯蒂说，他是非营利组织Meedan的在线审核专家和内容审核项目负责人，Meedan为记者和非营利组织构建开源工具。
这并不意味着陷入绝境。她补充说：“我对这种零敲碎打的方式感到更加乐观。”罗凯蒂，罗伯茨和其他专家建议的解决办法可以大致分为以下概述的五个类别。
1.监督
来源：Pexels监管网络空间最明显的方法也许是引入人为监督，无论是通过委派用户担任主持人（如Reddit所做的那样）还是雇用承包商或员工来完成这样的工作。但是，对于那些业务建立在软件和规模基础上的科技公司来说，每一次聊天都让一名员工参与很耗费成本，对于那些希望在没有就差队长监督的情况下轻松交谈或协调游戏的用户来说也是如此。
在专门传递私人消息的平台环境中，审核也没有多大意义。许多大型多人在线游戏，例如暴雪的“魔兽世界”，都使玩家能够通过称为“密语”的功能，随时向其他任何玩家发送私人消息。EpicGames的《堡垒之夜》让你可以在好友列表中向其他玩家发送私人信息，并提供小组文本和语音聊天。罗伯茨提出，此类平台应“转为减少私人消息传递，而更多面向群体的消息传递的模型”，并由社区经理进行监控。她说，虽然保留孩子的私人空间对他们的成长很重要，但没有理由将游戏平台纳入这些空间。
当然，监控远非完美的解决方案。问问Facebook吧，其的签约监管者忍受着艰苦的工作条件，难以坚持执行这些规则。还有一种风险是，限制诸如Minecraft之类的游戏平台上的私人消息传递只会将用户推向甚至更多的私人平台上进行聊天，例如Discord。但是，鉴于尚不存在完美的解决方案，因此假设你可以使用平台来进行游戏聊天，那么在聊天中有更多的监管将是一个好的开始。（我们将进一步应对这一挑战。）
你还可以选择简单地限制或删除聊天功能。年发行的暴雪游戏《炉石传说》允许玩家仅通过预设消息菜单与匹配的对手进行交流。该公司当时告诉游戏网站Polygon，目标是“让《炉石传说》保持有趣、安全并吸引所有人。”
2.自动化
Fortnite拥有约2.5亿注册玩家，其中在任何给定时间，都可能有超过一百万在线。任何时候，规模都是个问题-在这种情况下，因为太多的人同时玩大型多人在线游戏，而却无法监视他们彼此说的一切——至少值得考虑一下自动化是否可以作为其中一种解决方案。事实证明，在某些情况下，自动化已经成为解决方案的一部分。这取得了胜利。
自年以来，微软发布了一款名为PhotoDNA的免费工具，该工具可扫描静态图像以查找与儿童色情作品已知实例的匹配情况，此后此方法已被其他公司广泛使用。去年，它扩展了该工具以包含监测视频。上周，这家公司宣布，它正在发布一项名为ProjectArtemis的新技术，该项目利用机器学习扫描在线对话，寻找儿童性诱拐的线索，并将可疑的指标标记出来，供人类审查。微软与包括Roblox和Kik在内的其他技术公司以及非营利组织Thorn合作开发了这项技术，而且将免费提供给其他平台使用。
Roblox告诉OneZero，这项技术已经将过滤工具应用于其平台上的所有聊天，并对13岁以下的孩子有额外的限制。过滤器会阻止粗俗语言，但还会尝试检测并阻止玩家试图诱使另一位玩家退出游戏并进入私人交流（例如通过询问其电话号码）。一位发言人说，ProjectArtemis将为Roblox的系统增加另一层。
同时，Facebook一直在构建自己的机器学习软件，其中包括一个试图识别“掠食者”为儿童提供美容的例子的工具——即与他们成为朋友，以便以后再获取性图片。使用此类软件的公司通常会与美国全国失踪和被剥削儿童中心(NCMEC)合作，向执法部门报告材料。但正如《泰晤士报》在另一项针对FacebookMessenger等平台儿童色情内容的调查中所报道的那样，NCMEC本身近年来也出现在各大报道中。
来源：jingyan.baidu诸如PhotoDNA之类的图像扫描工具在游戏平台上的适用性较差，因为性图片倾向于在更多的私人消息传递服务中进行交换。罗说，像ProjectArtemis这样的一种分析聊天中可疑语音模式的方法，可能会为游戏平台带来希望，但这取决于聊天的上下文。在一些在线设置中，这种监控可能被用户和监管机构视为侵犯隐私。如果系统不够复杂且无法持续更新，“掠食者”将了解其工作原理，并使用加密暗号来应对。在Discord之类的平台上，这种系统可以被忽略，因为该平台允许用户通过语音和文本进行聊天。
美国海军学院的网络安全法助理教授杰夫·科塞夫（JeffKosseff），也是《通信礼仪法案》（互联网法律的一个基础部分）第条的作者，他指出，在一些环境下，尝试对语音通信进行记录和分析可能受到隐私法的限制。此外，科瑟夫说，如果科技公司与执法部门在监视用户方面太过于密切合作，这些做法可能会违反《第四修正案》对政府无权搜查的限制。希望进行此类监控的游戏公司必须独立进行，并适当地通知用户以获取其同意，例如通过其服务条款。
要实现这种人工智能，可能需要一些小型游戏工作室所缺乏的资源。罗指出，“这就是行业合作和标准可以提供帮助的方面。”但是，此类系统必须不断发展，否则“掠夺者”将迅速了解监督者正在寻找的内容并部署规避策略（例如编码语言）以避免被发现。罗补充道，“即使是最先进的系统，也可能无法与训练有素的监控者的效率相媲美。”自动检测仍然是第一层价值，例如标记可疑互动以进行人工跟踪，但前提是必须将其作为更全面方法的一部分。
3.验证
其中一种最简单的方法就是在在线平台上将孩子与成人分开。但是有很多游戏，例如《我的世界》，既吸引青少年，又吸引成年人。按年龄将他们完全分开将是很艰难的一步，也许是不现实的一步。
适当一点的措施可能是将某些功能（例如私人聊天）限制为只允许成年人使用。“说到儿童和游戏，仅仅是因为可以让他们拥有不受限制的信息传递能力，是否应该允许这样做？”，罗伯茨说。“儿童的隐私对他们的成长至关重要。但也许并不是在任何时候任何地方都允许他们有自己的隐私。”
另一种可能的方案是要求用户以真实姓名注册。Facebook要求用户验证其身份，这限制了困扰Twitter和Reddit等平台的部分（尽管不是全部）匿名闲逛和谩骂行为。
但这些政策需要核实人们的身份，这在整个游戏和社交网络的发展史上都是一个令人头疼的问题。科塞夫指出，试图通过立法或法规限制匿名可能会引起《第一修正案》的
转载请注明：http://www.0431gb208.com/sjszyzl/5396.html
