Google Play宣布整顿 AI 类工具应用

近年来，海内外科技大厂的人工智能（AI）潮涌现。关于 AI 的王炸消息接踵而至：近期苹果与OpenAI达成合作，未来苹果的 Siri 语音助手可以连接ChatGPT；OpenAI丢出颠覆级文生视频模型-Sora；谷歌发布了一系列基于 Gemini 的「AI 全家桶」等等。与此同时，人工智能（AI）的崛起引起了我们的广泛的讨论和担忧。

6月7日，谷歌商店针对生成式 AI 类的APP实施新的整顿措施，要求开发者必须限制不当内容的传播，标志着谷歌在维护网络环境、促进健康信息流动方面迈出了重要步伐。 

谷歌颁布 AI 类应用新政策官方文档详见：

https://support.google.com/googleplay/android-developer/answer/14094294?hl=en

一、新政策概述

在新政策中谷歌表示，加强对生成式AI类 App 的治理，减少“不适当的”和“被禁止的”内容。Google Play 的AI生成内容政策旨在确保AI生成的内容对所有用户来说都是安全的，并且开发人员会采纳用户反馈以实现负责任的创新，以及开发者有责任确保其生成式AI应用不会生成令人反感的内容，违规的人工智能（AI）生成内容的示例包括但不限于以下内容：

• 违规的人工智能（AI）生成内容的示例包括但不限于以下内容：

• 色情内容：禁止人工智能生成主要用于满足性需求的内容。

• 暴力：禁止鼓励有害行为（例如危险活动或自残）的内容。

• 欺凌和骚扰：禁止发布助长欺凌和骚扰的内容。

• 欺诈：禁止用于欺诈的真人录音或录像。

• 恶意代码：禁止创建恶意代码的人工智能。

• 官方文件：禁止人工智能生成“官方”文件以促进不诚实行为。

该政策涵盖各种生成型人工智能的APP：

• 包括文本转文本人工智能聊天机器人应用、使用人工智能生成图像的文本转图像、语音转图像和图像转图像应用。

• 使用人工智能创建真实人物的语音和/或视频录制的应用。

• 仅托管人工智能生成内容而无法使用人工智能创建内容的应用（例如不包含人工智能内容生成功能的社交媒体应用）不在本政策的涵盖范围内。

二、对开发者的影响

谷歌要求开发者对其人工智能模型进行“严格测试”，以确保它们不会生成违禁内容。这包括对具有攻击性、非法或有害的内容进行测试。为了实施这些变更，开发者必须将用户举报和举报功能集成到他们的应用中。这样，用户无需退出应用即可举报令人反感的内容，开发者也能够据此制定内容过滤和审核策略。此外，开发者必须确保他们的应用遵守 Google Play 的不当内容政策。

政策更新还影响了应用处理用户数据和权限的方式。例如，请求广泛照片和视频权限的应用现在必须使用系统选择器（如新的 Android 照片选择器），以确保用户了解正在访问的数据。此外，该政策将全屏通知限制在高优先级情况下，要求应用获得全屏通知的特殊权限。

三、未来发展

Google Play 还计划在未来添加新的应用功能，使向商店提交生成式 AI 应用程序的过程更加开放、透明和简化。这将帮助开发人员更好地了解其应用程序的要求和指南。未来，我们可以期待看到对生成式 AI 应用程序开发人员的更严格的要求。这可能包括：

• 强制独立第三方对人工智能模型进行测试和审核，以验证安全性和准确性。
• 使用先进的人工智能和人工审核进行主动内容审核，以识别和删除违规内容。
• 对生成可能不适合儿童的内容的应用实施严格的年龄限制和家长控制。
• 应用程序的透明度要求，披露内容是否由人工智能生成，以避免欺骗。

• 互操作性标准，实现跨平台报告和执行内容违规行为。

• 谷歌和其他科技公司可能会与政策制定者、学者和民间社会合作，制定负责任的人工智能开发和部署的综合框架。目标是促进创新，同时降低用户安全、隐私和福祉的风险。

四、结论

以上内容是针对本次谷歌商店政策更新的解读，适用于大多数开发者。谷歌商店更新后的政策是确保 AI 类的应用得到合理的监管，并且保证不会生成有害或非法内容的重要前提。积极优先考虑安全和道德的应用开发者将最有可能在这个快速发展的环境中取得成功。另外政策的更新生效时间不统一，具体以官方为准，建议大家早做准备。