谷歌将要求 Android 应用更好地管理人工智能生成的内容

近日，据报道，随着生成式人工智能在各地的爆炸式增长，谷歌将开始要求 Android 应用程序包含一种报告攻击性人工智能生成内容的方法，并遵循有关可接受的人工智能内容的新审核规则。

使用人工智能生成内容的应用程序将被要求在明年初添加一个按钮来标记或报告攻击性材料，以便保留在谷歌的 Play 商店中。 除了围绕人工智能生成内容的新规则外，谷歌还通过限制应用程序访问数据的范围来加强 Play 商店的照片和视频权限政策。 

根据铋读网了解，谷歌还推出新的“关于此图像”工具，旨在提供有关谷歌搜索中图像的基本背景信息和上下文。该功能首次在 5 月份的 Google I/O 开发者大会上宣布，现在正在向全球英语用户推出。

“关于此图像”工具旨在向您显示图像的起源，包括其元数据（如果可用），并提供有关新闻和事实核查网站随着时间的推移如何描述该图像的重要背景。因此，您可能会看到图像第一次被 Google 搜索索引，并且元数据可能会提供有关图像是否由 AI 生成的详细信息。谷歌已经提供了“关于此结果”功能来帮助用户审查基于文本的来源。

Google表示，其人工智能生成内容政策涵盖人工智能聊天机器人、人工智能生成图像应用程序以及使用人工智能创建真人语音或视频内容的应用程序。托管人工智能生成内容的应用程序、仅使用人工智能来总结书籍等材料的应用程序以及使用人工智能作为功能的生产力应用程序将不受新政策的约束。

对于谷歌来说，有问题的人工智能内容的例子包括未经同意的性内容深度伪造、为诈骗而设计的真人录音、虚假或欺骗性的选举内容、具有“主要目的是性满足”的生成式人工智能应用程序以及恶意代码创建。