Google lanzó recientemente una nueva función en Gemini que está profundamente ligada a Google Photos, permitiendo a este asistente de inteligencia artificial extraer información directamente de la biblioteca de fotos del usuario para generar contenido de imágenes más personalizado.El objetivo de Google es que los sistemas "utilicen imágenes reales de usted y sus seres queridos" al crear imágenes de IA, en lugar de depender únicamente de que los usuarios proporcionen largas descripciones de apariencia, miembros de la familia y estilo personal en las indicaciones.
El cambio es parte de la estrategia más amplia de "Inteligencia personal" de Google, que apunta a conectar Gemini con aplicaciones como Fotos, Gmail, Búsqueda, Mapas y YouTube para incorporar un contexto más personal en las respuestas y hacer que parezcan más relevantes para los usuarios. En términos de generación de imágenes, Gemini utilizará la información de la fotografía obtenida al conectarse a Google Photos para completar los detalles automáticamente, tratando de reducir la molestia de escribir palabras largas de "mininovela" en proyectos tradicionales.
El modelo de imagen subyacente que impulsa esta función es Nano Banana 2, que es el modelo de generación de imágenes recientemente actualizado de Google. Oficialmente, se posiciona como una forma de generar más rápidamente escenas de IA que “parecen realmente relevantes para usted”. En resumen, si el usuario acepta activar esta función, Gemini hará referencia automáticamente a las fotos relevantes en el álbum del usuario al generar imágenes para ajustar la apariencia del personaje, el estilo de la escena y otros elementos para que el resultado se acerque más a usted y a su familia en la vida real.
Sin embargo, tan pronto como la función fue expuesta, desató una nueva ronda de alarmas de privacidad y controversia pública. Muchos críticos temen que las fotos familiares, los recuerdos personales e incluso varias fotos sensibles se involucren aún más en la "fábrica de contenido de IA" y se conviertan en parte de contenido generado por máquinas, lo que refuerza el temor de que "los datos personales sean reprocesados en materiales de producción de IA". En el contexto de la función Recall de Microsoft, que ha recibido una fuerte reacción debido a problemas de privacidad, este tipo de innovación de IA que "profundiza en los datos del dominio privado del usuario final" es particularmente sensible.
A juzgar por la información divulgada por Google, este no es un servicio activado de forma predeterminada, sino que utiliza un mecanismo de "inscripción voluntaria". Google dijo que la "inteligencia personal" es una característica opcional y que los usuarios pueden decidir qué aplicaciones quieren conectar a Gemini. El primer lote de objetos que acceden a la función de generación de imágenes de Fotos son suscriptores elegibles de Google AI en los Estados Unidos. En otras palabras, actualmente Google no escanea ni analiza directamente todos los álbumes de Google Fotos sin el conocimiento del usuario.
En términos de uso de datos, Google enfatiza que la aplicación Gemini no utilizará directamente la biblioteca privada de Google Photos del usuario para el entrenamiento de modelos. Al mismo tiempo, el usuario puede hacer clic en el botón "Fuentes" después de generar la imagen para ver qué foto fue seleccionada por el sistema como referencia para guiar el proceso de generación de los resultados actuales. Estas instrucciones intentan aliviar algunas de las preocupaciones de los forasteros y proporcionar a los usuarios un nivel de visibilidad y trazabilidad.
Sin embargo, estas garantías no disiparon por completo las dudas. Los defensores de la privacidad señalan que la credibilidad de los sistemas llamados "opcionales" depende en gran medida de cuán claras y honestas sean las empresas al describir sus características, y el historial de las Big Tech en este sentido no es tranquilizador. Incluso si no se utilizan directamente para capacitación, el hecho de que las imágenes privadas de los usuarios se utilicen para inferencias en tiempo real y generación de contenido puede resultar perturbador para muchas personas.
En términos generales, la situación actual no es que Google esté "activándolo en secreto con un clic" y escaneando las bibliotecas de fotos de todos los usuarios de forma predeterminada. Pero "dejar que la IA deambule libremente por su álbum de fotos privado y extraiga fragmentos de memoria para generar contenido nuevo" es en sí mismo un concepto que fácilmente puede hacer que los usuarios comunes y corrientes se sientan a la defensiva. En un momento en el que los límites entre los servicios de IA y la privacidad personal se están redefiniendo constantemente, es probable que estos intentos de productos relacionados con la "inteligencia personal" sigan convirtiéndose en el foco de la innovación tecnológica y las disputas sobre privacidad durante algún tiempo.