SAN FRANCISCO (AFP) – Twitter dijo el miércoles (19 de mayo) que estaba descartando un sistema automatizado de recorte de imágenes después de que su revisión encontró sesgo en el algoritmo que controla la función.
La plataforma de mensajería dijo que encontró que el algoritmo ofrece «un trato desigual basado en diferencias demográficas» con blancos y hombres preferidos a negros y mujeres, y un sesgo de «objetivación» que se centró en el pecho o las piernas de una mujer, descrito como «apariencia masculina».
La noticia llega un mes después de que Twitter dijera que estaba lanzando una iniciativa de justicia algorítmica como parte de un esfuerzo por reducir el sesgo en su plataforma introducido por la automatización.
Twitter introdujo en 2018 el llamado algoritmo de prominencia para recortar imágenes, con el objetivo de mejorar la coherencia en el tamaño de las fotos en la línea de tiempo y centrarse en sus elementos más importantes.
Rumman Chowdhury, jefe de ingeniería de software de Twitter y experto en ética e inteligencia artificial, dijo que la empresa determinó luego de su análisis que es preferible dejar las decisiones de corte a los usuarios.
«Consideramos las compensaciones entre la velocidad y la consistencia del corte automatizado con los riesgos potenciales que vimos en esta investigación», dijo en un blog.
«Una de nuestras conclusiones es que no todo en Twitter es un buen candidato para un algoritmo, y en este caso, cómo recortar una imagen es una mejor decisión que toman las personas». El anuncio se produce en medio de una mayor preocupación por los algoritmos avanzados que pueden proporcionar resultados sesgados debido a la falta de datos sobre minorías u otros factores.
Esta semana, Amazon dijo que estaba extendiendo la prohibición del uso de su tecnología de reconocimiento facial por parte de los funcionarios encargados de hacer cumplir la ley en medio de temores de que sus fallas pudieran amplificar los prejuicios raciales.
La iniciativa de Twitter requiere «asumir la responsabilidad de nuestras decisiones algorítmicas» con el objetivo de «equidad y equidad de resultados», según la compañía.
