王融?腾讯研究院首席数据法律专家
本期观点摘要：
1.ChatGPT等AI应用服务商直接面向个人提供服务，收集并处理个人信息，可被视为个人信息保护合规主体——数据控制者。
2.与移动互联网APP的典型场景相比，生成式AI服务商的个人信息处理活动有其自身特征，数据合规重点也有所不同。
3.根据GDPR，欧盟数据保护机构是监管机构，而非市场准入机构，其职责主要在指导督促企业满足数据合规要求。
4.未来真正的挑战来自于AI赋能的各类应用服务，解决新的数据安全问题需要新思维。
C端AI应用服务商是
数据控制者
并非所有的市场主体都是数据合规框架下的义务主体，需要根据技术原理、业务场景和法律规范来进一步确定。当主体身份重合时，也需基于不同业务流程匹配合规义务。基于此分析框架，我们在上一篇文章里详细论证了大模型研发者，在模型研发阶段有可能并不认定为隐私数据合规上的法律主体。
基于同样的分析框架，我们认为面向C端个人用户提供生成式AI服务的运营者可被认定为隐私数据合规上的数据控制者。例如，当OpenAI在2022年11年面向公众发布ChatGPT应用服务，并在2个月内突破1亿用户，成为历史上增长最快的消费者应用时，作为数据控制者的身份已确定无疑。
Vela Exchange 更新代币经济学，将减少 5000 万枚代币总供应量:1月31日消息，去中心化衍生品协议 Vela Exchange 通过内部审查和与顾问、合作伙伴、社区成员的对话之后，将其代币经济学的总供应量减少 5000 万枚。如果社区认为有必要增加供应量，将需要在未来几年进行治理投票。
据悉，最初的 Vela Exchange 代币供应和分配被设计为类似于 DXP 代币经济学，但在运行模拟时，即使在通货膨胀率最高的情况下也不需要超过 5000 万枚代币。此外，还有一些社区内部提议增加通缩因素，包括但不限于燃烧因素和额外回购。[2023/1/31 11:38:30]
事实也如此。从国外实践看，目前已面向个人的AI应用服务商，在数据合规部分已完整配置隐私政策和用户协议，以充分告知用户收集了哪些类型的数据，以及如何处理数据。OpenAI在隐私政策中列举了收集类型；包括账户信息、通信内容、使用记录等；数据处理的目的包括但不限于：提供、改进服务，预防欺诈，网络信息安全、履行法定义务所需等。类似的，面向公众的图片生成AI服务商Midjourney也提供了清晰明了的隐私政策。国内目前虽然没有正式上线的产品，但已有部分厂商在测试版本中嵌入隐私政策。
这也就不难解释为什么数据保护机构DPA是第一批入场的监管机构。3月31日，意大利数据监管机构Garante宣布暂时禁止ChatGPT，并要求OpenAI在20天内相关问题作出回应。这是数据监管机构DPA对一项新兴应用的正常反映，但被误读为DPA可以对特定业务采取永久性措施。相反，根据欧盟GDPR，DPA虽然有天价处罚权，但其职权被严格限制在矫正性权力范围内，包括建议，警告以及暂时性的或者具有明确期限的禁令。换言之，只要服务提供者满足数据合规要求，则DPA不得对其采取市场禁入措施。在其临时禁止令受到广泛批评后，4月12日，Garante释放信号：“如果OpenAI采取有效措施，我们准备在4月30日重新开放ChatGPT”。
Chain Discord回应XCN暴跌：整个市场总体下跌，团队无法控制价格:6月14日消息，有用户在Chain官方Discord上询问为何XCN暴跌，Chain Discord官方主持人James表示：“这是一个自由市场，整个市场总体上是下跌的，我不能讨论价格，但任何人都可以根据自己的意愿买卖。团队无法控制价格。”[2022/6/14 4:25:48]
生成式AI服务商
数据合规的独特性
与移动互联网相比，面向个人的生成式AI应用在数据合规上有很多相似之处，包括制定隐私政策、业务协议，明确处理用户数据的合法性基础，通过隐私保护设计在信息系统中支持用户围绕其账户信息和使用服务过程中产生的个人信息的相关权利，包括查询、访问、更正、删除等。但一方面，我们更加关注其在个人信息处理活动中的独特性：
第一、收集的个人信息种类相对较少。导航软件、打车、购物等典型的移动APP为实现对用户个性化服务的闭环，需要实时收集用户较多类型的个人信息；而目前的生成式AI应用，以OpenAI和Midjourney为例，从其底层逻辑出发，其更加关注生成内容的质量，在应用服务阶段收集个人信息主要是建立用户账户体系，接受用户指令并与之交互，因此收集的个人信息相对较少，包括账户信息、使用记录，如果涉及购买服务等交易，则还包括支付信息。因此，Midjourney更是以表格的形式，明确列出了不收集的用户信息种类：包括用户敏感信息，生物识别信息、地理位置信息等等。这些信息对于生成式AI应用确实也无关紧要。
中科曙光推出区块链专用存储系统ChainStor:1月5日消息，中科曙光在北京发布了基于区块链存储应用打造的一款智能高效的专属存储系统ChainStor，该系统沿用分布式存储架构，底层核心是基于裸设备的数据对象管理系统，不仅继承分布式存储系统EB级扩展、高可靠和易管理的优势，更针对区块链存储应用进行了包括核心部件、数据IO通道及模式适配等在内的多方面深度优化。[2021/1/5 16:28:59]
第二、在更早阶段以及更广泛地采取个人信息去标识化以及匿名化措施。在提供服务过程中，生成式AI主要围绕用户账号体系及通信内容构建数据安全防护体系。以ChatGPT为例，尽管在模型训练阶段，其采集的数据源中的用户个人信息较少，但在应用服务阶段，问答式的会话功能会产生较为敏感的通信内容，模型根据与用户通信内容进一步分析并生成回复。为降低用户通信内容泄露后产生的风险，生成式AI会在更早阶段采取用户身份信息去标识化及匿名技术，或者将用户身份信息与通信内容相互分离，或者在模型生成回复内容后及时删除通信内容等安全类措施。这也是由生成式AI更关注反馈内容，而非用户行为的逻辑所决定，这与建立在用户行为特征基础上，以个性化推荐见长的移动APP有显著差异。
第三、由以上两方面影响，生成式AI与移动APP在数据安全的风险领域有所不同。移动互联网APP需要直接收集大量个人信息，用户数据库易成为黑客攻击和数据泄露的目标。然而，在生成式AI应用中，虽然其直接收集的用户信息种类少，但其风险集中在模型被攻击从而反向溯源数据库，以及用户通信内容泄露的隐患。意大利数据监管机构对OpenAI发出暂时禁令，即是由于用户通信内容因出现服务bug而泄露的事故。为减轻风险，在技术上已经明显具备先发优势的OpenAI，开始探索支持用户可以选择将个人删除通信记录。4月23日，OpenAI推出新控件，允许ChatGPT用户可以选择关闭其聊天历史记录，且可以不用于模型训练目的。
Joy：链上ChainUP已推出了DEX系统技术解决方案:9月9日15:00，链上ChainUP深圳负责人Joy做客B·Talk “穿越变局”第十期专访, 本期主题为《DeFi如日中天，老牌技术服务商ChainUP如何助力交易所布局规划》。
?对于DeFi项目的安全和风险，Joy表示，对一般用户来说，参与DeFi项目要看是否做过安全审计，于项目方而言，可以选择技术实力较强的技术服务商。而交易所在确保资产安全的前提下可以快速抓住这波热潮，吸引流量。
Joy提到，链上ChainUP已在第一时间推出了DEX系统技术解决方案Chainswap，并支持各种主链开发改造DAPP，助力客户布局去中心化赛道。同时接入并上线了30+DeFi热门币种，并且可以通过WaaS及流动性为非链上ChainUP系交易所提供此类服务。[2020/9/9]
第四、在输出阶段，如果用户引导的问题涉及个人信息时，基于大模型的语言预测生成的算法逻辑，输出结果中的个人信息有可能是编造的，虚假的，这可能违反了个人信息保护法上的信息质量原则，即保持个人信息准确性要求。但这类问题的背后实质是生成式AI在内容治理中面临的一般性问题，即AI进入“幻想”，编造不准确甚至是虚假的信息。
OpenAI在研发阶段，即致力于改善和解决此类问题，包括引入人类专家意见反馈机制和强化学习，引导AI输出准确内容。目前，部分生成类AI还加入了输入+输出双重过滤机制,来进一步避免出现有害内容或侵权问题。尽管大语言模型的进步速度令人瞠目结舌，仅用了4个月，ChatGPT4相比于GPT3.5，其输出信息的准确率就大幅提升了40%，违反内容政策的输出可能性降低82%，但目前仍不能保证其生成内容具有可靠的准确性。因此作为用户也应当对ChatGPT的回答保持一定警惕和判断力，避免被误导。
动态 | 瑞波高管Ben Melnicki加入Blockchain Association:Ripple美国监管事务主管Ben Melnicki发推表示，期待与Blockchain Association及其成员合作，为行业和市场参与者在这个关键问题上提供清晰的监管！在Melinicki加入该协会之前，Ripple的全球政府关系负责人Michelle Bond此前也已加入该区块链协会董事会。[2019/11/23]
综上，看待生成式AI的数据合规问题，需要从移动互联网服务中的数据合规惯性中跳脱出来，围绕其在隐私和数据安全方面的不同特点，有的放矢采取相应的合规和安全保护措施。
面向未来的挑战：
前所未有的数据汇聚
基于大语言模型的生成式AI为世人所瞩目，不在内容生成，而在其所具有的通用人工智能潜力，业界惊呼：AGI的奇点时刻正在到来。未来，除了面向普通大众的内容生成式AI应用外，业界普遍认为AI也将改写互联网范式。现有商业模式将广泛引入AI智能模型，大幅提升用户交互效率。这不是将来时，而是进行时。2023年3月17日，微软发布Microsoft365Copilot，将大语言模型功能与微软办公应用相结合，帮助用户解锁生产力。
Copilot将会被内置到办公全家桶内，在Word、Excel、PowerPoint中，AI将与个人通过便捷的语言交互，一起撰写文档，演示文稿，实现数据可视化；在Outlook，Teams，BusinessChat中，AI能够帮助用户回复邮件，管理邮箱，实时完成会议摘要和待办事项，提高会议效率。
办公效率的飞越提升，不仅建立在强大的AI模型能力基础之上，更建立在广泛的数据打通链接基础之上，使用Copilot意味着用户将授权微软打通跨越各业务平台的个人数据。正如微软隐私政策所陈述，为实现业务提供，改进和开发产品等目的，微软会从不同的业务环境中收集的数据进行合并。
这只是未来超级数字助理的雏形，在智能基础设施的支持之下，每个人甚至可以拥有多个数字分身，协同完成任务。可以想见，数字助理的背后是大语言模型访问、链接个人以及商业企业的私有数据，数据的融合利用一定是无缝丝滑的。此类数据的访问处理如何以安全、合规、保护隐私的方式进行，对安全技术保障措施提出了更高要求。
图：MicrosoftGraph是Microsoft365中数据和智能的网关。它提供了统一的可编程性模型，以安全便捷地跨业务平台访问数据。
同时,我们也迫切需要审视现有的隐私保护与合规机制。在当前移动互联网个人信息保护实践中，对于必要性原则解释是非常严苛的，以最大程度的避免数据收集与汇聚。例如：《常见类型移动互联网应用程序必要个人信息范围规定》不仅针对每类应用区分了基本功能和附加功能，还针对基本功能收集的必要信息进行了明确。在大部分基本功能中仅能收集两三类个人信息，例如定位和导航功能仅能收集位置信息、出发地、到达地三种信息；《App违法违规收集使用个人信息行为认定方法》中更是明确：不得仅以改善服务质量、研发新产品等理由收集个人信息。这种基于“严防死守”的数据合规思路在未来的AI应用场景中是否还能继续走下去，是一个值得探讨的问题。
从移动互联网到我们正在步入的AI时代，虽然数据利用一直在向更广更深的方向发展，但各类新技术应用仍将隐私保护作为价值对齐的重要方面。隐私和数据安全的真谛从来也不是对数据的使用进行各种限制，或者人为增加数据利用门槛，而在于通过激烈的市场竞争、健全的法律机制和更加强大的技术安全措施来切实保障用户隐私与数据安全。
参考资料来源:
https://openai.com/policies/privacy-policy
https://docs.midjourney.com/docs?/privacy-policy
https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9870832
GDPR?Article58&Article83
https://www.reuters.com/technology/italys-data-watchdog-chatgpt-can-resume-april-30-if-openai-takes-useful-steps-2023-04-18/
https://openai.com/blog/new-ways-to-manage-your-data-in-chatgpt
https://openai.com/product/gpt-4
https://news.microsoft.com/zh-cn/microsoft-365-copilot/
https://privacy.microsoft.com/zh-cn/privacystatement
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。