En una demanda contra OpenAI, Elon Musk criticó el historial de seguridad de OpenAI en el último testimonio del juicio público, afirmando que su xAI se toma la seguridad más en serio y dijo con dureza: "Nadie se suicidó por culpa de Grok, pero obviamente alguien se suicidó por ChatGPT".
La declaración se produjo cuando los abogados interrogaron a Musk sobre una carta abierta. Esta carta abierta se publicó en marzo de 2023. Musk fue uno de los firmantes en ese momento y pidió a los principales laboratorios de IA que suspendieran el desarrollo de sistemas más potentes que el modelo insignia de OpenAI, GPT-4, durante al menos seis meses. La carta abierta, firmada por más de 1.100 personas, incluidos varios expertos en IA, cree que los grandes laboratorios, sin una planificación y gestión adecuadas, han caído en una "carrera fuera de control" para desarrollar y desplegar "mentes digitales" cada vez más poderosas, y estos sistemas "ni siquiera pueden ser comprendidos, predichos o controlados de forma fiable por sus creadores".
En acontecimientos posteriores, estas preocupaciones adquirieron una base más realista. OpenAI se enfrenta actualmente a múltiples demandas, alegando que ChatGPT contiene palabras manipuladoras en las conversaciones, lo que ha provocado graves problemas de salud mental a muchos usuarios, algunos de los cuales terminaron en tragedias de suicidio. Musk vinculó directamente el "incidente suicida" con ChatGPT, lo que se interpretó como un intento de utilizarlo como moneda de cambio para atacar a OpenAI en la demanda.
El testimonio en video de Musk se grabó en septiembre del año pasado y la transcripción se presentó como documento público esta semana, allanando el camino para un juicio con jurado programado para comenzar el próximo mes. El núcleo de esta demanda apunta a la transformación de OpenAI de una institución de investigación de IA sin fines de lucro a una estructura corporativa con fines de lucro. Musk afirmó que este cambio violaba los acuerdos pertinentes cuando se fundó la empresa. Sostuvo además que la cooperación con grandes socios comerciales y vías de comercialización permitirían a OpenAI priorizar la velocidad, la escala y los ingresos sobre la seguridad en la toma de decisiones, comprometiendo así la prioridad de la seguridad de la IA.
Sin embargo, desde que se registró el testimonio, el propio xAI de Musk y su producto Grok también se han visto envueltos en controversias de seguridad. En enero de este año, una gran cantidad de fotografías de desnudos no consensuales generadas por Grok de xAI aparecieron en la plataforma social de Musk. El incidente atrajo gran atención por parte de las autoridades reguladoras y la Oficina del Fiscal General de California inició una investigación sobre xAI y Grok. La Unión Europea también ha iniciado una investigación independiente sobre privacidad y algunas agencias reguladoras nacionales y regionales han tomado medidas como bloquear o restringir el acceso para hacer frente a este torrente de fotografías de desnudos "muy falsas".
En el último testimonio público, Musk dijo que firmó la carta abierta de seguridad de la IA ese año porque "le parecía una buena idea", no porque acabara de registrar una empresa de IA que se estaba preparando para competir con OpenAI. "Lo firmé, como lo hizo mucha gente, para instar a la cautela en el desarrollo de la IA". Musk dijo: "Sólo espero que... se pueda priorizar la seguridad de la IA".
A Musk también se le hicieron una serie de preguntas relacionadas con las perspectivas de la IA durante su testimonio, incluidas sus opiniones sobre la "inteligencia general artificial" (AGI). AGI generalmente se refiere a sistemas de IA que pueden igualar o superar las capacidades de razonamiento humano en una amplia gama de tareas. Musk dijo en su testimonio que AGI "presenta riesgos". También admitió que su anterior mención repetida de donar "100 millones de dólares" a OpenAI era inexacta. La segunda acusación enmendada del caso, basada en registros financieros relevantes, estimó la donación real de Musk a OpenAI en aproximadamente 44,8 millones de dólares.
Al hablar de la intención original de establecer OpenAI, Musk recordó que impulsó la creación de esta organización en parte por "la creciente preocupación por el peligro de que Google forme un monopolio en el campo de la IA". Dijo que las muchas conversaciones que tuvo con el cofundador de Google, Larry Page, sobre cuestiones de IA fueron "impactantes" porque Page "no parecía tomar en serio las cuestiones de seguridad de la IA". En la narrativa de Musk, OpenAI se concibe como una "fuerza de cobertura" para controlar y equilibrar esta amenaza potencial.