El 22 de julio, según el New York Times, Meta utiliza cada vez más la IA para revisar contenido, con la esperanza de reemplazar a los revisores humanos, pero ha habido casos en los que la IA ha eliminado por error cuentas de usuarios. Para desbloquear, los usuarios deben presentar una apelación, pero su apelación aún se dirige a la IA.

La cuenta de enseñanza de inglés de los Hansen fue bloqueada

Una noche de marzo de este año, Camille Hanson se despertó con una notificación. Dirige un negocio que enseña inglés a hablantes no nativos de inglés con su esposo a través de cuentas en Facebook e Instagram, con casi 1 millón de seguidores, pero estas cuentas ahora están marcadas para su eliminación. Meta dijo que violó los estándares de la comunidad con respecto al fraude y el comportamiento engañoso.

"Yo sólo era profesora de inglés", recuerda Hansen, de 40 años. Estaba desconcertada por las acusaciones de fraude y engaño. "¿Qué hice mal?" se preguntó a sí misma.

El aviso decía que podía apelar, por lo que hizo clic en el botón para iniciar el proceso de apelación. Una semana después, recibió otra notificación: su denuncia había sido desestimada.

"Toda su información será eliminada permanentemente", dijo Meta en su respuesta. "No podrá presentar una nueva solicitud de revisión para esta decisión".

Sr. y Sra. Hansen

"Se siente como si abrieras una tienda física y alguien cerrara tu oficina o tienda", dijo el marido de Hansen, Calvin, de 42 años, en una entrevista en su casa en Portugal.

¿Puede la IA asumir un papel importante?

Lo que le pasó a la familia Hansen es un caso de error de la IA. La tecnología tiene cada vez más la tarea de determinar qué cuentas violan las reglas de contenido de Meta, al mismo tiempo que maneja apelaciones contra esas decisiones. Aún más preocupante es que usuarios como los Hansen a menudo tienen problemas para contactar a alguien en Meta para decidir qué hacer.

En marzo, Meta anunció planes para dar más poder a los robots de inteligencia artificial, permitiéndoles decidir qué cuentas prohibir o eliminar imágenes dañinas. Meses después, la empresa despidió a miles de empleados, incluidos los que desempeñaban esos trabajos.

Los usuarios se han organizado en línea y más de 60.000 personas firmaron recientemente una petición pidiendo a Meta que proporcione más información sobre las cuentas prohibidas y que permita la revisión humana de las apelaciones. Algunas comunidades en Reddit y otras plataformas también están llenas de numerosas quejas de los usuarios de Meta sobre los sistemas de inteligencia artificial de la empresa.

Meta usa IA para moderar el contenido

El portavoz de Meta, Daniel Roberts, cuestionó la idea de que la IA sea peor que los humanos en el manejo de cuentas, diciendo que la nueva herramienta de revisión de IA de la compañía comete un 13% menos de errores y encuentra un 10% más de contenido ilegal que los empleados humanos. Roberts dijo que de las cinco cuentas marcadas por The New York Times en Meta, todas fueron prohibidas por las antiguas herramientas de moderación de inteligencia artificial de la compañía.

"Estamos comprometidos a reducir los errores de ejecución y ayudar a las personas a proteger sus cuentas. La IA está dando resultados en ambas áreas", afirmó.

Meta se ha encontrado con problemas de IA muchas veces. En mayo de este año, los piratas informáticos explotaron las vulnerabilidades de su chatbot de servicio al cliente con inteligencia artificial para atacar 34.000 cuentas de Instagram, incluida la antigua cuenta de Obama en la Casa Blanca. Ese mismo mes, las protestas de los empleados por un programa que rastreaba las pulsaciones de teclas para entrenar IA llevaron a Meta a suspender el programa.

La semana pasada, 26 ex empleados de Meta alegaron en una demanda que la empresa los despidió utilizando un algoritmo de inteligencia artificial dirigido a empleados con discapacidades. Un portavoz de Meta dijo: "La gestión de recursos humanos y las decisiones organizativas fueron y son tomadas por humanos, no por IA".

People Over Platforms, un grupo de defensa de usuarios que brinda servicios de recuperación de cuentas, lanzó una petición en línea este año para obligar a Meta a cambiar su política de moderación de cuentas. Meta acusó a muchos de los firmantes de la petición de compartir material de explotación infantil y posteriormente los prohibió. Los usuarios creen que esta acusación es "añadir insulto a la herida".

No hay manera de apelar

Esto es exactamente lo que Meta alegó contra Athenia Rodney el año pasado. Rodney es el director de JuneteenthNY, un grupo que conmemora el fin de la esclavitud en Estados Unidos. El año pasado, Meta prohibió todas sus cuentas personales y laborales en Facebook e Instagram.

El aviso de Meta decía: "Nuestra tecnología encontró que su cuenta o la actividad en su cuenta no cumplía con nuestras reglas. Como resultado, nuestra tecnología tomó medidas".

rodney

Rodney dijo que no podía entender el razonamiento de Meta para tomar la decisión porque el contenido que publica su organización es "contenido apto para familias". Después de que su cuenta fue suspendida, buscó en los archivos fotográficos de Juneteenth New York, tratando de encontrar publicaciones que pudieran haber activado el robot de IA, pero no encontró nada.

Más tarde, Rodney recordó que poco antes de que Meta cancelara su cuenta, la compañía la alertó sobre inicios de sesión sospechosos desde Seattle y Singapur, a pesar de que vivía en Atlanta. Esto sugiere que su cuenta pudo haber sido pirateada.

Rodney cambió rápidamente su contraseña, pero seis cuentas de Instagram y Facebook que usó para diversos fines comerciales y personales permanecen bloqueadas.

En un esfuerzo por restaurar las cuentas, dijo que presentó documentos de identificación, presentó quejas ante el Better Business Bureau y la Comisión Federal de Comercio, se comunicó con las oficinas estatales de protección al consumidor y envió mensajes a los empleados de Meta en LinkedIn. Pero todos los esfuerzos fueron en vano.

Desde entonces, Juneteenth New York ha tenido que convencer a sus patrocinadores de que es una organización legítima que existe desde hace casi dos décadas.

"Nuestros patrocinadores revisarán nuestras páginas de redes sociales para confirmar que somos una organización legítima y que lo hemos estado haciendo durante 17 años", dijo Rodney. "Pero ahora, tan pronto como inicien sesión en nuestra cuenta y vean que sólo tenemos 500 seguidores, dirán que no lo has estado haciendo por tanto tiempo y que eres un farsante".

Bloqueado por error

Después de que el New York Times señalara las cinco cuentas prohibidas a Meta, Meta dijo que la compañía llevó a cabo una investigación y descubrió que dos de las cuentas fueron prohibidas debido a piratería informática y la otra cuenta fue prohibida por razones legítimas. Meta dijo que la cuenta pirateada fue debidamente prohibida porque el pirata informático violó las políticas relativas a la seguridad infantil.

Posteriormente, Meta restauró las dos cuentas pirateadas, incluida la cuenta Juneteenth New York de Rodney. La empresa dijo que de las cinco cuentas señaladas, dos fueron bloqueadas por error, incluidas las de los Hansen.

Roberto Suárez es una celebridad de Instagram que acumuló más de 500.000 seguidores antes de ser prohibido este año. Fue una de las personas que recibió un correo electrónico de Meta notificándole que su cuenta había sido restaurada, junto con sus fotos, fans, mensajes, etc. Comenzó a volver a publicar contenido para los fans que no habían sabido nada de él en meses.

La cuenta de Suárez ha sido bloqueada continuamente

Unas semanas más tarde, Meta le envió otro correo electrónico. "Su cuenta ha sido suspendida", decía el correo electrónico, alegando que su contenido violaba la ley de derechos de autor. "Si no toma medidas, su cuenta quedará inhabilitada permanentemente".

Suárez niega haber violado ningún derecho de autor. Su cuenta fue restablecida poco después de que The New York Times preguntara sobre la nueva prohibición.

La Sra. Hansen también recibió un correo electrónico de Meta informándole que su cuenta había sido restaurada.

"Revisamos su cuenta y descubrimos que la actividad anterior cumple con nuestras pautas comunitarias sobre fraude y engaño, por lo que puede usar Instagram nuevamente", decía el correo electrónico. "Lamentamos haber cometido un error". (Autor/Xiao Yu)

Para obtener más noticias de primera mano, descargue el cliente Phoenix News y suscríbase a Phoenix Technology. Si desea ver informes detallados, busque "Tecnología ifeng.com" en WeChat.