Después de que OpenAI mejorara el rendimiento de su gran modelo de chat el verano pasado, cientos de usuarios de todo el mundo le preguntaron sobre los métodos de producción y lanzamiento de armas biológicas y agentes altamente tóxicos. En ausencia de un control rígido a nivel federal en los Estados Unidos, el modelo proporcionará respuestas detalladas y sus instrucciones paso a paso son lo suficientemente simples como para que las comprendan los estudiantes de biología de secundaria. Según personas familiarizadas con el asunto, los expertos en bioseguridad y antiterrorismo revisaron posteriormente los registros de conversaciones relevantes de ChatGPT y determinaron que algunas de las respuestas eran lo suficientemente precisas como para ser fatales.
OpenAI afirmó que la gran mayoría de estas cuestiones giran en torno a la preparación de agentes altamente tóxicos.
OpenAI prohibió las cuentas de estos usuarios que preguntaron sobre la producción de drogas y el desarrollo de armas biológicas, pero no informaron pistas a las autoridades. Actualmente no existe ninguna ley federal en Estados Unidos que obligue a las empresas de inteligencia artificial a restringir este tipo de preguntas o informar registros de búsqueda que involucren la fabricación de armas o planes de ataques mortales.
La rápida mejora de las capacidades de la tecnología de IA, especialmente la capacidad de diseñar con precisión planes de ataque crueles a nivel biológico y de red, ha hecho que los ejecutivos de las principales empresas de IA y los altos funcionarios de la Casa Blanca estén profundamente alerta. Las principales instituciones de investigación y desarrollo de IA del mundo están atrapadas en un dilema: deben impedir que usuarios malintencionados utilicen la tecnología para causar desastres, pero no deben obstaculizar las necesidades normales de investigación y consultoría de los investigadores científicos que cumplen con las normas.
Empresas de inteligencia artificial como OpenAI y Anthropic dijeron que están trabajando estrechamente con la Casa Blanca para promover el control de publicación de modelos y tener en cuenta las restricciones y prohibiciones a los usuarios con comportamiento sospechoso.
