A medida que la tecnología generada por IA se generalice, Google comenzará a exigir que las aplicaciones de Android proporcionen una manera de informar sobre contenido objetable generado por IA y cumplir con nuevas reglas de moderación sobre qué tipo de contenido generado por IA es aceptable.
Las aplicaciones que utilizan inteligencia artificial para generar contenido deben agregar un botón para marcar o denunciar contenido ofensivo a principios del próximo año para seguir estando disponibles en la Play Store de Google.
Google quiere que el proceso de informes sea lo más simple posible para que los usuarios puedan informar sin salir de la aplicación, similar al sistema de informes existente en la aplicación.
La compañía dijo que su política de contenido generado por IA cubre chatbots de IA, aplicaciones que usan imágenes generadas por IA y aplicaciones que usan IA para crear contenido de voz o video de personas reales. Las aplicaciones que alojan contenido generado por IA, las aplicaciones que solo usan IA para resumir materiales como libros y las aplicaciones de productividad que usan IA como característica no estarán sujetas a la nueva política.
En opinión de Google, el contenido problemático de IA incluye material sexual falso no consensuado, grabaciones de personas reales utilizadas para fraude, contenido electoral falso o engañoso, aplicaciones generadas por IA "principalmente con el propósito de satisfacer el deseo sexual" y la creación de código malicioso.
En su anuncio, Google reconoció que la generación de IA "es una categoría de aplicación en rápido crecimiento", dando la impresión de que Google podría revisar sus políticas de IA a medida que la tecnología siga evolucionando.
Además de las nuevas reglas sobre el contenido generado por IA, Google también ha endurecido sus políticas de permisos de fotos y videos de Play Store, limitando la cantidad de aplicaciones que pueden acceder a los datos.
"Las fotos y videos en el dispositivo de un usuario se consideran datos personales sensibles del usuario y deben tratarse con las mejores prácticas de privacidad más estrictas", dijo la compañía. "Esta información confidencial puede convertir a los usuarios en objetivos fáciles de filtraciones o explotación, por lo que minimizar dicho acceso ayuda a evitar la carga que supone para los desarrolladores manejar datos tan confidenciales".
Sólo las aplicaciones que requieran un amplio acceso a fotos y vídeos seguirán obteniendo permisos generales, mientras que las aplicaciones con uso limitado de archivos multimedia deberán utilizar el selector de fotos.