Los usuarios de Facebook e Instagram contarán en lo sucesivo con la ayuda del asistente de inteligencia artificial Meta AI para resolver problemas que hasta la fecha requerían supervisión humana. Y en ese proceso lo esperado es que se reduzca la dependencia de empresas que hasta la fecha vienen ofreciendo servicios de moderación de contenido en la medida en que esa tecnología se hace cargo de más tareas, según ha anunciado Meta.
De hecho, la compañía explica en su blog que sus sistemas basados en inteligencia artificial han ofrecido resultados preliminares mejores que las empresas a las que actualmente le subcontratan el servicio de revisión de publicaciones. En concreto, cita la detección y eliminación de 5.000 intentos de estafa cada día que «ningún equipo había encontrado antes».
Además, la inteligencia artificial ayudó a Meta a reducir en más de un 80% los avisos de usuarios sobre las personalidades más suplantadas y también afloró el doble de contenido de solicitud sexual por parte de adultos. En este último caso redujo la tasa de fallo en más de un 60%.
Así las cosas, la compañía confiará cada vez más en inteligencia artificial para detectar esas y otras prácticas no permitidas por parte de sus usuarios. Pero también asegura que los expertos humanos seguirán al cargo de diseñar, entrenar, supervisar y evaluar estos sistemas, especialmente en los casos en los que afronten decisiones complejas y de alto impacto.
El gigante tecnológico prevé que en los próximos años la tecnología permita poner a menos personas ante contenidos potencialmente devastadores para ellas.
Eso alterará la actual relación de Meta con la multitud de empresas con las que trabaja en diferentes lugares del mundo para garantizar la moderación de contenidos. Esas subcontratas emplean a su vez a miles de personas cuya labor es ver algunos de los contenidos más inquietantes que circulan por internet, lo que puede suponer consecuencias para su salud mental.
Así quedó establecido por primera vez en el acuerdo extrajudicial al que llegaron en mayo de 2020 revisores de contenido que se adhirieron a la demanda interpuesta en septiembre 2018 por Selena Scola. La entonces Facebook acordó el pago de 52 millones de dólares, unos 1.000 por cabeza, a moderadores que se habían unido a la causa desde California, Arizona, Texas y Florida, y que reclamaban indemnización para costearse atención médica.
Más allá de esos pagos, que podían aumentar en función de si un médico determinaba que los trabajadores tenían una enfermedad derivada de esa ocupación, la clave del proceso estaba en el compromiso por parte de la empresa de proteger a los empleados con diferentes medidas. Entre ellas, atención semanal por parte de profesionales de la salud mental y omisión por defecto de sonido o reducción de claridad en imágenes.
