OpenAI dijo que su servicio de chatbot ChatGPT se negó a ayudar a una persona con vínculos con las autoridades chinas a planificar una campaña de difamación en línea contra el primer ministro japonés. En su última actualización sobre "Combatir el uso malicioso de la inteligencia artificial", la startup con sede en San Francisco reveló que la solicitud del usuario incluía revisiones de múltiples informes de estado relacionados con una gama más amplia de operaciones de influencia encubiertas dirigidas a adversarios nacionales y extranjeros.
OpenAI juzgó, basándose en la evidencia que obtuvo, que estas acciones demostraban que las agencias de aplicación de la ley chinas estaban tratando de reprimir la disidencia en una operación "a gran escala, que requiere muchos recursos y en curso".
Respecto a las acusaciones pertinentes, el portavoz del Ministerio de Asuntos Exteriores chino, Mao Ning, respondió en una conferencia de prensa habitual el jueves: "No estoy al tanto de la situación que usted mencionó y no veo ningún fundamento para esta acusación".
La noticia llega cuando el rival de OpenAI, Anthropic PBC, decidió relajar sus compromisos característicos de "barrera" de seguridad de IA, al tiempo que resiste la presión del Departamento de Defensa de EE. UU. para debilitar las restricciones de seguridad relacionadas.
OpenAI dijo el miércoles que ha identificado recientemente una serie de casos de comportamiento inapropiado utilizando sus modelos, incluidas estafas románticas en línea dirigidas a personas indonesias, granjas de contenido de redes sociales con vínculos con Rusia y más cuentas que posiblemente se originaron en China y que buscan información de funcionarios estadounidenses.
Según OpenAI, este plan contra el primer ministro japonés, Takaichi Sanae, apareció a mediados de octubre del año pasado, justo antes de su elección. En ese momento, Gao Shi criticó públicamente la situación de los derechos humanos en la región china de Mongolia Interior. Los usuarios relevantes intentaron utilizar ChatGPT para formular un plan para amplificar los comentarios negativos sobre Gao Shi, retratarlo como una figura de extrema derecha y aumentar la presión pública en Internet.
Desde entonces, el primer ministro japonés ha recibido críticas de China por sus comentarios sobre Taiwán, una isla autónoma que China considera parte de su propio territorio. Las tensiones diplomáticas provocadas por esta serie de disputas continúan afectando el turismo y el comercio entre China y Japón.