Gemma es un modelo de inteligencia artificial de código abierto lanzado por Google. El modelo está disponible para todos los desarrolladores a través de Google AI Studio y otros canales. Sin embargo, puede resultar difícil para los desarrolladores encontrar a Gemma en Google AI Studio porque Google ha retirado el modelo.
Google no explicó por qué eliminó el modelo de inteligencia artificial de código abierto, pero antes de que Google eliminara el modelo, la senadora republicana estadounidense Marsha Blackburn envió una carta al director ejecutivo de Google, Sundar Pichai, pidiéndole a Google que explicara por qué el modelo contenía acusaciones falsas sobre ella.
Blackburn también pidió a Google que explicara por qué sus modelos experimentan tales fallas, mientras vinculó el problema con las audiencias en curso que acusan a Google y otras compañías de crear chatbots que denigran a los conservadores.
En la audiencia, Malcolm Erickson de Google explicó que las alucinaciones de la inteligencia artificial son un problema común en la inteligencia artificial generativa y que Google está haciendo todo lo posible para mitigar el impacto de tales errores, pero ninguna empresa ha podido eliminar por completo las alucinaciones hasta el momento.
En una carta abierta, Marsha Blackburn afirmó que sólo se enteró de las acusaciones falsas en su contra por parte de la modelo de Google Gemma después de la audiencia. Cuando se le preguntó si Marsha Blackburn había sido acusada de violación, la modelo Gemma respondió que tuvo una aventura impulsada por las drogas con un policía estatal, e incluso la modelo generó enlaces falsos a contenido de noticias inventado (es decir, la fuente del contenido al que se hace referencia en sí no existía y fue puramente fabricada por la propia modelo).
De hecho, esta situación no es infrecuente en los modelos de inteligencia artificial generativa. Mientras el usuario lo guíe deliberadamente, los modelos de inteligencia artificial generativa son propensos a sufrir este tipo de alucinaciones. En particular, Google AI Studio incluye herramientas que pueden ajustar el comportamiento del modelo, por lo que no es fácil difundir rumores.