潜精研思 笔耕不辍

出版物/Publications更多分类

地址:北京市东城区建国门内大街26号新闻大厦7-8层

电话:86 10 8800 4488, 6609 0088

传真:86 10 6609 0016

邮编:100005

国枫视角

AI与游戏碰撞的合规探讨(上)

发布时间:2023.10.12 来源: 浏览量:1696

作者:施忞旻、周禹洛


一、AI与游戏:缘起

 

AI与游戏的羁绊甚至滥觞于电子游戏发明之前——1952年,计算机科学之父艾伦·图灵(Alan Turing)亲自制作了一个能够下国际象棋的自动程序(这被认为是世界上第一个AI程序),来进一步验证计算机能否“像人类一样思考”解决游戏中的问题。虽然因为当时计算机的算力不足,这个程序与图灵同事的对弈以失败告终,但这却成就了AI与游戏的初次见面。


1997年,IBM开发的深蓝(Deep Blue)首次击败世界国际象棋卫冕冠军加里·卡斯帕罗夫(Garry Kasparov),但很多人依旧认为围棋将是人类智慧王冠上最后一颗不可撼动的明珠。2016与2017年,AlphaGo终于在被称为“人类净土”的围棋运动上接连击败世界冠军李世石与柯洁。时至今日,已经没有人再怀疑“AI能够玩游戏,并且玩的比人类好得多”这样的说法。


在过去的“AI与游戏碰撞”概念下,所有人都认识到它与游戏结合的无限可能,游戏行业也被普遍认为是AI赋能的确定性受益者。作为最具包容性与开拓性的“第九艺术”的制作者,各家游戏企业也已经将AI融入其游戏产品及服务全生命周期的各个方面。


二、AI赋能:游戏发展新世代


9月26日,在杭州电竞中心进行的《王者荣耀(亚运版本)》的决赛中,中国队表现出色,以2:0击败马来西亚队,夺得了该项目赛事的金牌。这是杭州亚运会电子竞技项目诞生的首枚金牌,同时也是亚运会历史上产生的首枚电竞正式比赛的金牌。此次亚运会共有《英雄联盟》、《王者荣耀(亚运版本)》、《和平精英(亚运版本)》、《刀塔2》、《梦三国2》、《街霸5》和《FIFA Online4》7个电子竞技项目入选,在本次亚运电竞项目中,国枫所服务的AG电子竞技俱乐部共为国家队输送了3名选手和1名教练,中国队在AG选手及教练参与的《王者荣耀(亚运版本)》、《和平精英(亚运版本)》项目均斩获金牌,并最终在6个电竞项目中取得了4金1铜的优秀成绩。


从本次亚运会的数字火炬手、虚实融合赛事体验、亚运智能出行等一系列元素中,参与者都能看见AI的身影,而相关电子竞技项目更是已与AI结缘颇深。以《英雄联盟》为例,早在2018年,肯德基就开始为《英雄联盟》比赛量身定制了一个专为游戏走向预测大数据分析的,受到粉丝们广泛喜爱和欢迎的AI形象——KI上校。基于大数据样本,KI上校能够高精度预测战队的相对获胜机会,判断游戏对抗的预期结果。随着比赛的进行,KI上校更会将游戏中的多种因素转化为可衡量数据代入到赛场上的实际情况中,从而输出实时胜率曲线。根据局势的跌宕起伏,双方的获胜机会也将不断变化。AI智能预测使KI上校成为观众口中的“赛事预言家”,极大地丰富了《英雄联盟》赛事的观赛体验。无独有偶,《王者荣耀》为了让听障人士即时体验到电竞赛事的内容,提升听障用户观赛的参与感和沉浸感,在2022年KPL春季赛总决赛中使用了由腾讯游戏语音团队、腾讯AI交互部联合开发的AI“无障碍观赛”功能,利用AI自动生成的解说字幕以及由游戏英雄“云缨”担当的AI手语数字人,为观众提供自动字幕和符合《国家通用手语词典》的标准手语解说。


除了增强赛事观赏性外,AI也已被应用于玩家在游戏中的互动体验。如网易在其推出的《逆水寒》手游中深度嵌入了其自行研发的伏羲游戏AI,玩家可在角色创建阶段使用“文字捏脸”功能,只需要用文字描述心中所想人物形象,AI即可通过对玩家输入的文本进行深层语义理解、关键信息抽取、深层情感推理,将玩家的脑中所想具象化;更令人惊叹的是,该款游戏中有大量NPC都被植入了不同的智能AI,智能NPC不再固定的站在某个位置充当“工具人”,而是能够进行包括主动跟玩家们聊天搭讪、针对玩家行动给予合理的行动回馈、陪伴不愿意社交的玩家共同在副本中并肩战斗等在内的一系列拟人化交互。


上述案例中的AI字幕、AI手语人与AI辅助玩家进行角色创作等场景主要为AIGC(生成式人工智能)的应用,应受包括自2023年8月15日起施行的《生成式人工智能服务管理暂行办法》在内的涉生成式人工智能相关监管要求约束;AI智能赛事预测以及智能NPC则涉及AI自动化决策,其中涉及个人信息部分应当受《个人信息保护法》下个人接受自动化决策的相关规则规制。


三、AI技术应用于用户端的场景及原则合规探讨


从游戏企业的角度出发,AI在游戏全生命周期的应用及合规可分为开发端和用户端两大板块。本文拟立足于用户端,盘点AI应用的典型场景并开展场景化合规问题的讨论。而在本系列后续之下篇,我们将带来着重与开发端相关的涉AIGC知识产权、数据来源等法律合规要点的分享。

(一)合规探讨:游戏AI的数据处理场景


1. AI利用个人信息进行反外挂自动化决策

随着游戏行业的蓬勃发展,市场需求随之扩大的游戏外挂黑色产业屡禁不止,外挂制作者行动隐蔽、更新迅速,对游戏产业的健康发展造成了巨大危害,为玩家、游戏商们深恶痛绝。AI的出现为各大游戏企业打击游戏外挂黑产提供了高效率的新型解决方案,其智能化的识别算法能够通过大数据算力监测新型外挂、建立完善的游戏信用系统等手段,对作弊玩家账号及时惩罚,为外挂黑产源头的追溯提供建设性线索。

但是,在AI反游戏外挂系统得到广泛热捧的当下,有关个人信息的收集和处理合规建设理应得到同等程度的重视:例如网易推出的智能反外挂产品“网易易盾”即包含“游戏信用体系”功能,其宣称将通过大数据创建玩家信用体系,从源头上促进游戏环境优化。AI反外挂程序如通过人工智能利用玩家个人信息(可对应至个人的账号ID、手机号码、设备IP地址等)进行自动化决策(对游戏玩家进行信用体系评价,筛选系统信用评级较低的玩家作为重点关注对象并对其实行如低优先级匹配等防范措施),应根据《中华人民共和国个人信息保护法》(“《个人信息保护法》”)受到以下规制:

《个人信息保护法》第二十四条第一款:“个人信息处理者利用个人信息进行自动化决策,应当保证决策的透明度和结果公平、公正,不得对个人在交易价格等交易条件上实行不合理的差别待遇。”

《个人信息保护法》第二十四条第三款:“通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求个人信息处理者予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。”

同时,游戏企业必须向玩家披露自身的产品和/或服务中使用了AI智能反外挂程序,明示其如何处理用户个人信息的规则并获得充分、必要且明确的授权同意。从实践上看,各大游戏企业的做法多为利用《用户协议》、《隐私政策》等条款对相关事项进行说明,而根据要求,游戏产品或平台的最佳做法应以弹窗等方式明示AI技术并征求同意。虽然由AI全流程负责识别玩家在游戏中使用外挂行为,并对其处以账号财产冻结、账号封禁等处罚的反外挂政策如今已被游戏行业广泛应用,但此类冻结账号内虚拟财产、封禁账号等处罚涉及玩家用户个人的账号使用、虚拟财产处分等相关权利,如该类处罚被认定落入上述“对个人权益有重大影响”的范围,玩家用户则应有权要求游戏企业予以说明,并有权“拒绝仅通过自动化决策的方式作出决定”。针对AI自动识别并作出冻结、封禁处罚的行为,实践中各游戏企业通常为受处罚玩家提供“人工申诉”的救济方式,但玩家能够进行此等“人工申诉”救济是否与上述能够“拒绝仅通过自动化决策的方式作出决定”相等同,仍有待商榷。


2. AI技术辅助玩家生成游戏内容


如前文介绍,AI辅助玩家生成游戏内容的具体应用已经较为普遍,其中相对成熟的当属玩家创建角色时的AI自动捏脸技术。目前市面上多款玩家能够自行创建角色的网络游戏均为玩家提供了AI识图捏脸功能,游戏内置AI通过识别玩家提供图片中的人物五官、骨相等特征作为参考,为玩家生成游戏中可操控的“自我”或明星。而根据《个人信息保护法》,如相关人脸信息提取后能够对应至个人,其无疑属于可用于生物识别的敏感个人信息:


《个人信息保护法》第二十八条:“敏感个人信息是一旦泄露或者非法使用,容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害的个人信息,包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息,以及不满十四周岁未成年人的个人信息。
只有在具有特定的目的和充分的必要性,并采取严格保护措施的情形下,个人信息处理者方可处理敏感个人信息。”

《个人信息保护法》第二十九条:“处理敏感个人信息应当取得个人的单独同意;法律、行政法规规定处理敏感个人信息应当取得书面同意的,从其规定。”

《个人信息保护法》第三十条:“个人信息处理者处理敏感个人信息的,除本法第十七条第一款规定的事项外,还应当向个人告知处理敏感个人信息的必要性以及对个人权益的影响;依照本法规定可以不向个人告知的除外。”


基于有关敏感个人信息的法律要求,如若玩家上传自己本人肖像用于游戏内角色的生成,则在相关面部识别数据与账号强关联情形下,该等信息极有可能被对应至玩家真实个人,一旦泄露或者非法使用将导致用户遭受人格尊严侵害或人身、财产安全危害。针对肖像识别的信息处理,游戏企业在采取严格保护措施之外应充分考虑相应处理行为的合目的性及必要性,同时应按要求取得个人单独同意并尽到《个人信息保护法》第三十条所列的告知义务。在相关处理完成之后,作为个人信息处理者的游戏企业不应将相关数据进行留存或用于其他目的。根据《互联网信息服务深度合成管理规定》,相关AI合成算法也应当按照《互联网信息服务算法推荐管理规定》履行算法备案,算法推荐服务提供者应履行安全评估和配合监督检查义务。但由于游戏企业不可能针对玩家上传的图片进行检验以确认其是否为玩家本人肖像,在玩家使用他人照片上传进行AI识图创作的情形下,除玩家是否侵犯他人肖像权问题外,游戏企业作为AI提供者与人脸信息处理者,其在该等法律关系中的定位究竟如何及是否应当承受相应法律后果,也是十分值得探讨的法律合规问题。

3. AI技术辅助进行玩家身份画像

2021年8月30日出台的《关于进一步严格管理切实防止未成年人沉迷网络游戏的通知》,将未成年人游戏沉迷保护推上了全新的高度,该通知也被称为“史上最严防沉迷新规”。为满足新规要求,不少游戏平台都采用了账号验证和人脸识别等先进技术手段,而部分游戏企业更是利用AI进行用户画像以实施严格防沉迷措施。

《腾讯游戏隐私保护指引》在其“未成年人保护”一节中以加粗形式提示,为了进一步提高实名认证的精准度,最大限度防止未成年人冒用他人身份信息,腾讯可能收集玩家在游戏过程中产生的游戏行为数据以构建算法模型并根据实时行为初步判断玩家是否为未成年人,相关游戏行为数据可能包括:玩家在终端设备操作游戏时形成的点击压力和半径、点击相对位置、加速度方向、重力方向等数据,以及玩家在游戏中通过在线语音等方式与其他玩家进行互动时产生的语音数据(就语音数据而言,系统会随机通过玩家的部分在线语音来判断是儿童音还是成人音)。该等数据如足够详细以至能够识别到玩家个人,则应视情况构成个人信息、敏感个人信息或不满十四周岁未成年人个人信息,游戏企业除应当仅为未成年人防沉迷的目的收集和使用这些信息外,还应符合法律针对不满十四周岁未成年人个人信息的特别规定:

《个人信息保护法》第三十一条:“个人信息处理者处理不满十四周岁未成年人个人信息的,应当取得未成年人的父母或者其他监护人的同意。
个人信息处理者处理不满十四周岁未成年人个人信息的,应当制定专门的个人信息处理规则。”

4. AI个性化游戏内容或产品推荐

在AI智能决策对玩家行为进行判断和处罚之外,AI面向用户的更广泛应用是“个性化推荐”。电商平台以及短视频平台都利用AI提供“个性化推荐”,关于购物商品及感兴趣视频的智能推荐已颇为成熟。在游戏产品中,AI个性化推荐同样被应用于游戏内容或游戏产品及服务的市场推广。

当AI个性化推荐应用于游戏产品或游戏平台中,其往往通过对玩家游戏时长、过往游戏经验及习惯等数据总结玩家偏好。过去数年来,多家买量型游戏企业大获成功的先例极大的改变了游戏从业者对于行业发展的看法,各大游戏开发和运营商也随之开始日益意识到除了关注游戏品质以外,根据AI画像对玩家进行针对性的个性化游戏内容推荐(如:向热爱交友的社交型玩家推荐组队性游戏任务或游戏产品、向热衷于制造建设的生活型玩家推荐养成性游戏任务或游戏产品等)从而有效增强玩家用户粘性的重要性。根据法律要求,相关以AI自动化决策方式推荐游戏内容或游戏产品的信息推送、商业营销行为应向用户提供不针对其特征的选项或便捷地拒绝受自动化决策推荐的方式:

《个人信息保护法》第二十四条第二款:“通过自动化决策方式向个人进行信息推送、商业营销,应当同时提供不针对其个人特征的选项,或者向个人提供便捷的拒绝方式。”


如游戏内相关算法推荐具有舆论属性或者社会动员能力,则按照《互联网信息服务算法推荐管理规定》,游戏企业亦应按要求进行算法备案、履行安全评估和配合监督检查义务。


(二)合规探讨:游戏AI的数据处理原则


1. AI处理的告知与透明


根据《个人信息保护法》第七条的要求,处理个人信息应当遵循公开、透明原则,公开个人信息处理规则,明示处理的目的、方式和范围。因此,游戏企业采取的涉及个人信息的AI处理行为应当于获取信息前通过游戏平台或游戏产品的《隐私政策》明示说明。《个人信息保护法》第十四条同时规定,如基于个人同意处理个人信息的,个人信息的处理目的、处理方式和处理的个人信息种类如发生变更,则应当重新取得个人同意。


但在如今新一代AI广泛应用的现实背景下,深度学习的神经网络建模通常由学习算法通过大量数据的输入,识别特定数据特征关联以产生输出。因该过程在很大程度上是AI自我指导的,其可解释性和透明度较低,将不可避免地产生与个人信息处理所要求的系统化的透明原则的矛盾。这一AI可解释性和透明度的问题不仅是AI行业发展的难题,也是AI相关个人信息处理活动的合规与监管难题,而场景化至游戏AI,更有例如智能NPC等的相关游戏AI是否会收集玩家反馈数据、该等数据是否可能成为个人信息等一系列合规问题值得探讨。


而在AI自动化决策的透明度要求下,除AI自身特性与监管的合规矛盾外,更存在着AI应用目的与监管要求的矛盾。例如前文所述的AI反外挂程序,其应遵循监管要求对个人信息处理的公开透明原则,但基于反外挂的应用场景,又存在相当程度的保密要求以免因算法过程的披露导致漏洞被游戏外挂制作者发现和利用。前述各项AI应用的固有矛盾是否能够在今后成为《个人信息保护法》第十八条所称“法律、行政法规规定应当保密或者不需要告知的情形”,亦有待后续对实践技术发展及合规建设的观察与讨论。

 

2. AI处理的必要性与最小化

以AI智能反外挂为代表的各项游戏内自动化决策机制,如涉及个人信息则应当遵循《个人信息保护法》第五条、第六条规定的必要性与最小化收集处理原则。但在实践中,部分AI反外挂程序将在开启后跟踪搜集一切系统内运行信息甚至遍历系统存储内所有目录,通过查阅市场上各主流AI智能反外挂产品的隐私政策及技术帮助文档,反外挂程序可能收集处理的数据包括设备信息、日志信息、应用信息中的多项敏感信息(如:设备唯一识别码;设备IP地址;用户开机、点击、安装行为信息;系统注册表信息等)。这一普遍现象似乎说明,反外挂决策时收集和处理大量与游戏无关数据的操作将豁免于监管要求的信息处理必要性及最小化原则,但对比过往的人工反外挂工作,AI所收集的相关数据与之存在数量级间的差距。


这一问题随着AI应用的加入而变得更为复杂。因AI处理数据进行自动化决策的过程也是自行深化学习的过程,在当今大数据时代下,AI对数据的渴求可谓“多多益善”,从正面许可的角度对AI的数据处理设定必要性与最小化限度,可能导致对相关产业发展的严重阻碍。鉴于AI的数据驱动特殊性,或许通过反面规避的模式、以“基于设计的必要性与最小化”为个人信息开辟隐私避风港,能够成为最具实操价值的合规制度。


3. AI处理的拒绝权


根据《个人信息保护法》第二十四条第二款,通过AI自动化决策处理个人信息的,应当同时提供不针对其个人特征的选项或提供便捷的拒绝方式,即游戏玩家应当有权利拒绝其信息受到AI处理,但相比起电商购物等简单提供相应选项的操作,因游戏AI在用户端的应用涉及方方面面,相关合规处理显然更加困难。


在AI智能反外挂的应用场景下,如在事前给予所有玩家拒绝AI决策选项,则玩家可以选择由人工判断自身游戏行为是否违规,将显著增加在反外挂机制中本应作为复核环节的人工审核负担,AI应用的高效率优点无疑将被削弱;而智能NPC作为游戏内容的一个有机组成部分,将相关游戏内容与整体游戏割裂从而实现玩家对智能NPC自动化决策的拒绝,在实践中显然亦难具可行性。


针对上述用户单独拒绝AI处理的实现难题,游戏企业能够采取的似乎只有一种路径:即将相关AI处理与游戏产品的使用一并打包,如玩家拒绝相关AI对其数据的处理,将无法享受全部游戏内容。例如多数游戏企业在隐私条款中说明,部分个人信息(例如实名认证信息)的收集和使用对应其游戏服务的基础功能,如玩家希望撤回相关个人信息收集和使用的授权可能导致游戏企业无法为玩家提供服务,在此情形下,如玩家仍希望撤回相关授权,则应当申请账号注销实现该需求。但该等游戏企业作出的,对玩家一旦行使拒绝权即不能进行游戏的安排,却大概率存在构成对消费者自主选择商品或服务的强制,违反《中华人民共和国消费者权益保护法》的合规风险。


在AI深度内嵌于游戏产品或服务的场景下,上述拒绝权安排是否能够合规实现、游戏产品或服务的“基础功能”应如何界定、AI如已经构成游戏产品或服务难以剥离的部分,AI所需信息是否与实名认证信息性质一致同游戏的“基础功能”强关联、深度内嵌的AI处理玩家数据是否满足《个人信息保护法》第十三条第一款“为订立、履行个人作为一方当事人的合同所必需”的个人信息法定处理情形等日后可能存在的合规问题,也将随着游戏AI数据合规实践的发展逐步显现。


image.png

相关人员