Zoë Hitzig anunció su renuncia la misma semana que ChatGPT probó la publicidad y advirtió que los usuarios revelaban una gran cantidad de pensamientos privados al interactuar con ChatGPT, y que si OpenAI construye un sistema de publicidad basado en estos datos, podría conllevar el riesgo de manipular a los usuarios. Es una ex investigadora estrella de OpenAI y actualmente es miembro junior de la Asociación de becarios de la Universidad de Harvard.
El artículo completo que escribió es el siguiente:
Esta semana, OpenAI comenzó a probar anuncios en ChatGPT. También renuncié a la empresa esa misma semana. En los últimos dos años, he estado involucrado como investigador en la construcción de modelos y diseño de mecanismos de fijación de precios, y en la formulación de políticas de seguridad tempranas antes de que se establecieran los estándares de la industria.
Alguna vez creí que podía ayudar a los desarrolladores de IA a prepararse para los problemas que traería esta tecnología. Pero esta semana me ha confirmado un juicio que se ha vuelto cada vez más claro: OpenAI parece haber dejado de plantear seriamente las preguntas clave que esperaba responder cuando me uní.
No creo que la publicidad per se sea inmoral o poco ética. Ejecutar sistemas de inteligencia artificial es costoso y la publicidad puede ser una fuente importante de ingresos. Pero tengo profundas preocupaciones sobre la estrategia actual de OpenAI.
A lo largo de los años, los usuarios de ChatGPT han creado un "archivo de franqueza humana" sin precedentes, en gran parte porque creen que están hablando con una persona sin motivos egoístas. A medida que las personas interactuaban con esta voz conversacional adaptable, revelaban una amplia gama de pensamientos íntimos, incluidas ansiedades médicas, angustia emocional, creencias sobre Dios y el más allá, y más. Si se construye un sistema de publicidad basado en estos datos, puede conllevar el riesgo de manipulación por parte del usuario, y actualmente carecemos de las herramientas para comprender este riesgo, y mucho menos prevenirlo de manera efectiva.
Muchos describen la cuestión de la financiación de la IA como el “menor de dos males”: o mantener la tecnología transformadora disponible sólo para unos pocos que pueden permitírselo, o adoptar el modelo publicitario, incluso si eso significa explotar los miedos y deseos más profundos de los usuarios para vender productos. Creo que esta es una propuesta falsa. Las empresas de tecnología pueden elegir un tercer camino: mantener las herramientas ampliamente disponibles y al mismo tiempo limitar los incentivos corporativos para monitorear, perfilar y manipular a los usuarios.
OpenAI declaró que cumplirá con los principios publicitarios de ChatGPT: los anuncios estarán claramente marcados, solo aparecerán al final de la respuesta y no afectarán el contenido de la respuesta. Creo que lo más probable es que la primera versión del anuncio se adhiera a estos principios. Pero me preocupa que las versiones posteriores no lo hagan, porque la empresa está construyendo un motor económico que reforzará cada vez más los incentivos para romper sus propias reglas.
Facebook también prometió en sus primeros años que los usuarios controlarían sus propios datos y podrían votar sobre cambios de políticas. Pero estos compromisos posteriormente se erosionaron. La compañía eliminó los mecanismos de votación pública, y la Comisión Federal de Comercio de EE. UU. determinó posteriormente que algunos ajustes de privacidad pretendían mejorar el control del usuario sobre los datos para hacer pública más información privada. Estos cambios se están produciendo gradualmente bajo la presión de un modelo publicitario que da prioridad a la “participación del usuario”.
Es posible que la tendencia a debilitar los principios para maximizar la participación ya esté ocurriendo dentro de OpenAI. En principio, la empresa se opone a optimizar la participación de los usuarios únicamente para obtener ingresos publicitarios, pero los informes han sugerido que la empresa ya está optimizando en torno a los "usuarios activos diarios", posiblemente haciendo que el modelo sea más complaciente y halagador. Esta optimización mejorará la dependencia emocional de los usuarios de la IA. Ya hemos visto las consecuencias de la dependencia, incluidos casos de "psicosis de chatbot" documentados por psiquiatras y acusaciones de que ChatGPT en algunos casos reforzó las tendencias suicidas de sus usuarios.
Por supuesto, los ingresos por publicidad también pueden ayudar a garantizar que las herramientas de inteligencia artificial más poderosas no estén reservadas solo para quienes más pueden permitírselas. Anthropic afirmó que Claude nunca publicará anuncios, pero la base de usuarios de Claude es mucho más pequeña que los aproximadamente 800 millones de usuarios activos semanales actuales de ChatGPT, y su modelo de ingresos también es completamente diferente. Además, los precios de suscripción de alto nivel para ChatGPT, Gemini y Claude han alcanzado entre 200 y 250 dólares al mes, más de diez veces el precio de una suscripción estándar de Netflix.
La verdadera pregunta, por tanto, no es “¿deberíamos tener publicidad?” sino más bien si podemos crear estructuras institucionales que eviten excluir a las personas de la tecnología y al mismo tiempo evitar tratarlas como consumidores que pueden ser manipulados. Creo que se puede hacer.
Una forma es un mecanismo explícito de subsidio cruzado: utilizar las ganancias de un cierto tipo de clientes o servicios comerciales de alto valor para subsidiar el uso gratuito o de bajo costo por parte del público. Por ejemplo, si una empresa utiliza IA para reemplazar el trabajo de alto valor realizado originalmente por humanos a gran escala (por ejemplo, una plataforma inmobiliaria usa IA para redactar listados de propiedades e informes de valoración), debería pagar un recargo para subsidiar el costo del acceso público a las herramientas de IA.
Esta idea es similar a los mecanismos de subsidio público para infraestructura crítica. La Comisión Federal de Comunicaciones de Estados Unidos exige que los operadores de telecomunicaciones aporten fondos a un fondo para garantizar comunicaciones y servicios de banda ancha para grupos rurales y de bajos ingresos. Muchos estados también añaden un recargo por beneficio público a la factura de electricidad para la asistencia a personas de bajos ingresos.
La segunda forma es permitir la publicidad, pero debe ir acompañada de una estructura de gobernanza verdaderamente vinculante: no una declaración de principios al estilo de una publicación en un blog, sino un acuerdo institucional con supervisión independiente del uso de datos personales. Por ejemplo, la Ley de Gobernanza Compartida de Alemania exige que grandes empresas como Siemens y Volkswagen den a sus empleados hasta la mitad de los puestos en sus consejos de supervisión, lo que indica que las empresas privadas también pueden verse obligadas a incluir mecanismos de representación de las partes interesadas. El Meta también está sujeto a las decisiones de su comité de supervisión externa, aunque la efectividad de este mecanismo es controvertida.
Lo que la industria de la IA necesita es una combinación de estos mecanismos: el establecimiento de una junta de gobierno que incluya expertos independientes y representantes de los derechos de los datos, y que tenga poder de toma de decisiones vinculante sobre cuestiones como qué datos de conversaciones pueden usarse para publicidad dirigida, qué constituye cambios políticos importantes y qué información se debe informar a los usuarios.
El tercer camino es entregar los datos de los usuarios a un fideicomiso o cooperativa independiente para su gestión, que legalmente debe anteponer los intereses de los usuarios. La cooperativa Midata de Suiza es un ejemplo: los miembros pueden almacenar datos de salud en una plataforma cifrada y decidir, caso por caso, si ponerlos a disposición de los investigadores. Los miembros adoptan la Política de Gobernanza de la Asamblea y hacen que su Comité de Ética electo revise las solicitudes de acceso a datos.
Ninguna de estas opciones es fácil de implementar. Pero todavía tenemos tiempo para mejorar el sistema y evitar los dos resultados que más me preocupan: uno es un sistema tecnológico gratuito pero que controla a los usuarios; el otro es un sistema tecnológico que sólo sirve a un pequeño número de pagadores.