Margaret Atwood, escritora canadiense y autora de "El cuento de la criada" y "El asesino ciego", habló recientemente sobre inteligencia artificial generativa (IA) en el Festival Literario y Cultural de Babell en Oporto, Portugal, y admitió que no estaba satisfecha con esta tecnología. En una entrevista in situ, Atwood recordó su única experiencia utilizando un chatbot de IA. Intentó utilizar Claude de Anthropic para consultar información sobre el drama de detectives británico "Father Brown", pero descubrió que la otra parte había llegado a conclusiones erróneas, lo que la hizo cuestionar la confiabilidad de los grandes modelos de lenguaje actuales.
Atwood dijo que Claude claramente estaba "inventando cosas" en sus respuestas a las preguntas. Señaló que esto no se debe a que el sistema "mienta intencionalmente", sino a que es simplemente un gran modelo de lenguaje entrenado en cantidades masivas de texto y carece de las capacidades reales de comprensión de los humanos. Según su descripción, Claude parecía "saquear y unir" información de una gran cantidad de reseñas de televisión y reseñas de películas, pero las reseñas generalmente no revelaban directamente el final de la trama, lo que provocó que el modelo fuera "engañado" por el corpus de entrenamiento sobre los puntos clave de la trama de "Padre Brown".
Además de criticar las propias herramientas de inteligencia artificial, Atwood también expresa su descontento con quienes se vuelven adictos a dicha tecnología. Ella llama a estos usuarios "oportunistas", creyendo que intentan tomar "atajos" con la ayuda de la IA y "hacer trampa" de manera indetectable, en lugar de invertir el tiempo y la energía necesarios para verificar o crear contenido personalmente. En su opinión, la tecnología por sí sola no puede reemplazar el juicio y la responsabilidad humanos. Si la producción de contenidos se entrega completamente a máquinas no verificadas, el riesgo recaerá en última instancia en los propios humanos.
Atwood enfatizó que los grandes modelos de lenguaje actuales dependen en gran medida de materiales de red publicados y datos de texto rastreados. Esta información puede estar desactualizada, sesgada o incluso incorrecta. Por lo tanto, recordó que tanto los usuarios comunes como las instituciones que los utilizan con fines comerciales no deben considerar los resultados generados por máquinas como la "autoridad suprema", sino que deben realizar revisiones manuales y verificación de hechos. Señaló que muchas empresas están integrando la IA en los procesos de negocio, pero incluso para mejorar la eficiencia, deben aceptar la realidad de que estos sistemas cometerán errores y que la calidad del resultado depende en gran medida de la confiabilidad e integridad de los datos de entrada.
Cuando se trata de los problemas fundamentales de la IA generativa, Atwood resume su enfoque con un simple dicho tecnológico: "Basura entra, basura sale". Ella cree que si los datos de entrenamiento en sí son defectuosos o consisten en contenido de Internet sin filtrar, entonces no importa cuán compleja sea la estructura del modelo y la enorme escala de parámetros, no puede resolver fundamentalmente el problema de los errores y el sesgo. Para ella, no se trata sólo de una cuestión sobre la fiabilidad de la tecnología, sino de una reflexión más amplia sobre la creatividad, la originalidad y el papel del escritor humano.
Al final de la conversación, Atwood recordó una vez más a la audiencia que las máquinas no son artistas perfectos como los robots, y mucho menos seres humanos con moral y experiencia, sino solo un conjunto de herramientas para leer y reorganizar textos. Ella defiende que en los campos de la creación, la crítica y la producción de conocimiento, la gente necesita mantener la vigilancia y el sentido de responsabilidad para evitar que la búsqueda de la verdad y la precisión se sacrifique detrás de la "comodidad" prometida por la tecnología.