🅾️ - 致力于打造一流的手游娱乐平台

2020年疫情居家期间，为了打发时间，动漫流媒体平台Crunchyroll的创始人高昆（Kun Gao）与老友在线上聚首打游戏，却发现游戏环境“正变得非常有毒性（toxicity）”。

这成为他又一次创业的起点：创办游戏社区治理公司GGWP，采用人工智能（AI）审核技术解决游戏中的毒性问题。

“当时行业最先进的审核方式，只是脏话词表过滤。”高昆在接受澎湃新闻（www.thepaper.cn）专访时解释称，但同一句脏话，老友之间庆祝高光时刻时说没问题，资深玩家冲着刚失利的新玩家说就是冒犯。区分二者的不是词句本身，而是语境、关系和意图。让AI读懂“意图”而非匹配“词句”，正是AI审核公司试图跨越的那一步。

AI如何帮助实现健康的游戏社区，正日渐成为一个新兴的讨论话题。在8月28日由香港数码港主办的“2026数码娱乐领袖论坛（DELF）”上，多位从业者在专场对谈 “好的游戏：构建更健康的娱乐社群，创造持久的社会与经济价值”中提出了洞见。

8月28日，在“2026数码娱乐领袖论坛（DELF）”上，美国南加州大学互动媒体教授迈克·菲舍尔（左）、GGWP联合创始人高昆（中）和剑桥数字游戏与创新学院（CADGI）创始人扬·亨利克·斯托加兹进行对谈。

“游戏不只是娱乐，而是跨越文化、语言与距离，把人凝聚在一起的社交形态。”对谈主持人、美国南加州大学互动媒体教授迈克·菲舍尔（Mike Fischer）表示。他随即抛出追问：“我们有MAU（月活跃用户数）、ARPU（每用户平均收入）一整套衡量收入的指标，却没有任何衡量‘社区健康度’的指标。”

菲舍尔举了不丹的例子——除了国民生产总值，该国还统计国民幸福总值。言下之意，如果连度量都没有，治理就无从谈起。

被量化的毒性

游戏社区的“毒性”不是新话题，但直到最近几年才被认真量化。

美国反诽谤联盟（ADL）连续多年进行的调查显示，2020年，81%的美国线上多人游戏玩家曾遭遇某种形式的骚扰，68%遭受过包括人身威胁、跟踪和持续骚扰在内的“严重骚扰”。女性、性少数与少数族裔玩家被针对的比例更高，41%的女性玩家曾因性别遭受骚扰。

更极端的行为也不罕见：44%受访者报告曾被跟踪，12%遭遇过“报假警”（swatting）——陌生人向警方谎报某人住址发生暴力案件，诱使特警上门。

2021年的报告将“遭遇过骚扰”的比例推高到六分之五，涉及超过8000万美国成年人；71%报告遭受过严重骚扰，22%曾被“开盒”（doxing），即个人住址、电话等隐私信息被恶意公开。

8月29日，儿童在“2026数码娱乐领袖论坛（DELF）”上体验游戏。

游戏玩家遭受伤害是一个亟待解决的社会治理问题，而游戏开发商从自身利益出发，也不得不重新审视游戏的毒性问题。

在上述机构2019年的调查中，19%的玩家因骚扰彻底放弃了某款游戏，23%因某款游戏“环境出了名的差”而刻意回避它。

这些数字指向一个行业长期回避的事实：毒性环境是一笔真实的成本，只是它通常被记在别处——买量、获客、留存，每一项都因玩家流失而变贵。

“拥有一个正向的社区显然更好，因为正向的社区更赚钱。”高昆表示，“如果有玩家尤其是新玩家，在游戏旅程的一开始就遭遇毒性体验，他就再也不玩这个游戏了。”

好在叙事正在改变。5年前，游戏毒性在行业内还多被当作“社区运营问题”，是客服团队和志愿者管理员的事务，现在它越来越多地出现在财务和合规的语境里。

“从经济学角度看，我认为核心指标是玩家的终身价值。我有朋友25年前就在玩《魔兽世界》和《RuneScape》——这叫忠诚度。所以忠诚度是关键的度量。”剑桥数字游戏与创新学院（CADGI）创始人扬·亨利克·斯托加兹（Jan Henrik Storgårds）在对谈中表示。

菲舍尔还提到了另一个层面：“我们刚刚看到Meta不得不支付一笔巨额和解金，就因为他们打造了一个非常不健康的在线社区。”

就在此次论坛举行两天前，美国社交巨头Meta同意支付约170亿美元，与美国47个州、哥伦比亚特区及多个属地就青少年成瘾诉讼达成和解。

一个创业者的注脚

高昆的创业经历正好对应了行业的发展路径。他在2006年与几位加州大学伯克利分校的校友联合创办了Crunchyroll，最初定位是一个日本动漫的在线视频分享和字幕交流社区，后来逐渐转型为全球最大的动漫流媒体平台。2021年，该公司被索尼以近12亿美元收购。前面那段“重拾游戏”的经历，就发生在他退出之后。

当时，多数游戏厂商的文本审核依赖关键词匹配，语音聊天则几乎处于无人监管的状态。

那一年，高昆与电竞选手出身的Dennis "Thresh" Fong、数据科学家George Ng共同创办GGWP，公司名字取自玩家间的礼节用语“Good Game, Well Played（好局，打得漂亮）”。

2022年3月，GGWP公布1200万美元种子轮融资，主打用AI治理游戏中的辱骂、骚扰等有害行为。今年5月，GGWP宣布完成1500万美元A轮融资。

技术路线的更替比融资节奏更能说明行业方向。高昆在采访中详细解释了“意图”判断的运行逻辑。

简单来说，关键词过滤的逻辑是“这个词不能出现”，而意图识别的逻辑则是“这句话在此时此地意味着什么”。

落到产品上，GGWP的系统综合对局内的社交关系、对话语境和历史记录判断行为性质，并据此为每个玩家建立长期信誉档案，配套渐进式处置，比如初犯仅作提醒，再犯“冷却”一小时，多次违规才升级处罚。

据高昆介绍，在简单基线案件上，系统独立判断的正确率可达99.9%以上；低置信度且高严重度的案件则强制转入人工复核，玩家可以申诉，恶意举报者也会失去举报信誉。

从“能不能删”到“该不该罚”

GGWP不是孤例。2021年10月，微软公司宣布收购内容审核公司Two Hat，后者当时每月对超过1020亿次用户交互进行实时分类，其技术此前已被用于Xbox和《我的世界》。

2023年8月起，美国游戏发行巨头动视（Activision）与美国AI语音审核公司Modulate合作，在《使命召唤》系列中部署语音实时审核系统ToxMod，当年11月随《现代战争3》在全球上线（亚洲除外），这是AI语音审核首次进入这个量级的射击游戏。

与文本不同，语音的即时性和匿名性使它长期成为骚扰的重灾区，也是技术上最难啃的部分：系统需要在实时对话流中同时处理词语、语气、情绪和上下文，并在几十秒内给出风险评分。

据亚马逊云科技的案例材料和动视发布的进度报告，ToxMod部署后玩家暴露于毒性语音的时长最高降低约50%，受处罚玩家中约80%未再犯规。

今年1月，ToxMod接入即时通信平台Discord的开发者SDK，中小团队接入语音审核的门槛从“自建系统”降为“打开一个集成开关”。

规模化的另一面是成本结构的变化。人工审核按人头扩张，AI审核按调用量计费，这也是为什么游戏厂商愿意为第三方服务付费：自建一套覆盖文本、语音、用户名和举报工单的审核体系，对大多数中等规模工作室而言，成本远高于订阅一个服务。

GGWP公布的客户与合作名单包括Unity、索尼、Krafton、thatgamecompany等游戏相关企业，其服务还已延伸至游戏之外的粉丝社区平台Fandom。审核正在从每家公司的内部成本项，变成一个可以外包的市场。

这些进展合在一起，也勾勒出行业正在形成的共识：审核不再是“删除违规内容”，而是一套围绕行为、信誉和语境的治理系统。处罚的目的不是清场，而是改变行为，ToxMod的“80%未再犯”与GGWP的渐进式处置，体现的是同一个逻辑。

偏见的代价

然而，AI审核的第一个软肋也是它自己。当一套算法决定谁被禁言、谁被“冷却”时，谁来审核审核者？欧盟的《数字服务法》（DSA）对此给出的答案是透明度和申诉义务——平台必须说明处置理由，申诉必须有人工介入。

欧盟基本权利署（FRA）2026年1月发布的一份报告显示，2025年上半年，在线平台向DSA透明度数据库提交了超过100亿条内容处置“理由说明”，其中超过一半的处置由自动化系统完全作出。

规模化自动审核的副作用已经显现：FRA于2022年发布的算法偏见研究报告发现，仇恨言论检测算法容易对含有”穆斯林”、“犹太人”等词汇的内容过度反应；另有一项研究显示，同类模型将非裔美式英语内容误判为攻击性言论的概率约为其他内容的1.5倍。

高昆没有回避这个问题，他在专访中表示，大语言模型天然会带有底层数据的偏见，所以还需要有本地（in-region）的人工来帮助标注数据。“即使在同一个地区，普通人说话和玩家黑话也有差异。”

他由此提出，必须结合文化和语言去训练AI，让它更好地理解文化语境和语言本身。“举个例子，在中文里，有很多用数字甚至单个字来表达负面含义的方式——在特定语境下就变成骂人的话。这些都必须‘喂’给 AI，才能实现好的检测效果。”

隐私是另一个争议点。语音实时审核意味着“永远在听”，尽管Modulate强调系统对未触发标记的音频不作保留，只有被标记的片段才会进入人工复核阶段，但对监控尺度的疑虑并未因此消散。

高昆表示，“我认为AI或者说技术的了不起之处在于规模化：横跨数百万条对话、实时完成，且每一次的判断标准都一致。这是人类不可能做到的。”但他强调，仍然存在需要主观判断、由人介入的情形，而且人还应该持续告诉AI该做什么调整，AI再把这些反馈纳入下一轮的数据训练。

8月30日，“2026数码娱乐领袖论坛（DELF）”举行乐龄电竞及体验日活动，邀请老年人体验电竞。

AI如何影响游戏业

除了利用AI技术审核游戏社区，论坛还展望了游戏业的“下一站”。当行业正在用大量AI工具来开发、测试和审核游戏时，未来三五年与今天会有何不同？

斯托加兹看到了悲观的一面。“我们不幸地已经看到一个现象：初级游戏设计师拿不到工作和实习了。因为最初的概念、最初的点子，AI已经能做了；而到了开发环节，公司要找的是能超越AI生成代码的资深开发者。”他说。

但斯托加兹仍然强调自己是个“AI乐观派”。他曾在与英国政府交流时被问及AI将如何影响创意产业，给出的答案是：“它（AI）会把你脑子里那些浪费时间的事拿走，让你更有创造力，因为你能更快地获得想法并投入使用。以前你画一个角色草图要一天甚至更久——当然取决于你水平如何——而你需要的角色何止一个？现在你能以快得多的速度把想法过一遍。所以这是件积极的事。”

菲舍尔则指出，在一些更富裕、更工业化的国家，的确有人在失业。但在一些发展中国家，“比如我去乌兹别克斯坦、哈萨克斯坦或越南拜访开发者时，他们热爱AI——它让他们第一次有能力在全球层面参与竞争。”

高昆则预测，游戏创作正在迎来“YouTube时刻”：依靠生成式AI，个人开发者就能独立完成玩家愿意付费的完整体验，全球游戏供给主体将从几千家工作室变成数百万创作者。

“至于内容审核这一侧，我认为它将变成基线配置（table stakes）。直到今天，在线社区还没有一个基础的安全底线，而各国政府已经把这视为对民众的风险，所以这条底线终将建立，并且会走向监管。这意味着运营商将有责任确保玩家在他们的环境里获得不受伤害的体验。而这正是AI大显身手的地方——用它来确保这一切落地。”他说。

澎湃新闻记者 方晓