Meta Corporation ha disuelto su equipo de Inteligencia Artificial Responsable (RAI) a medida que dedica más recursos al campo de la inteligencia artificial generativa. The Information dio la noticia hoy, citando un texto interno que vio. Según el informe, la mayoría de los miembros de RAI pasarán al equipo de productos de inteligencia artificial generativa de la compañía, mientras que otros trabajarán en la infraestructura de inteligencia artificial de Meta.
Meta a menudo afirma que desarrolla inteligencia artificial de manera responsable, e incluso crea una página específicamente para este propósito, enumerando sus "pilares de inteligencia artificial responsable", incluida la responsabilidad, la transparencia, la seguridad, la privacidad, etc.
El informe de Information citó al representante de Meta, Jon Carvill, diciendo que la compañía "continuará priorizando la inversión en el desarrollo de inteligencia artificial seguro y responsable". Añadió que mientras la compañía divide el equipo, esos miembros "continuarán apoyando los esfuerzos relacionados en Meta para desarrollar y utilizar la inteligencia artificial de manera responsable".
Meta no respondió a una solicitud de comentarios al cierre de esta edición.
El equipo había sido reorganizado a principios de este año, y Business Insider escribió en el informe que la reorganización incluyó despidos, dejando a RAI como "un equipo fantasma". El informe también dice que el equipo de la RAI existe desde 2019, pero tiene poca autonomía y sus iniciativas deben pasar por largas negociaciones con las partes interesadas antes de ser implementadas.
RAI se creó para descubrir problemas en sus métodos de entrenamiento de inteligencia artificial, incluido si los modelos de la compañía fueron entrenados con información suficientemente diversa para evitar problemas de moderación en la plataforma. Los sistemas automatizados en la plataforma social Meta han causado problemas, como problemas de traducción de Facebook que llevaron a un arresto falso, la generación de calcomanías de IA de WhatsApp que produjo imágenes sesgadas bajo indicaciones específicas y algoritmos de Instagram que ayudaron a las personas a encontrar material de información dañino CSAM.
Mientras los gobiernos de todo el mundo se apresuran a erigir barreras regulatorias en torno al desarrollo de la inteligencia artificial, Microsoft tomó una medida similar a principios de este año. El gobierno de Estados Unidos llegó a un acuerdo con empresas de inteligencia artificial y, posteriormente, el presidente Joe Biden ordenó a las agencias gubernamentales que desarrollaran reglas de seguridad para la inteligencia artificial. Mientras tanto, la Unión Europea dio a conocer sus principios de IA y todavía está trabajando para aprobar su proyecto de ley sobre IA.