Twitter modificará su algoritmo de imágenes tras la polémica por su comportamiento racista

Oct 04, 2020 Noticias Tecnologia

La red social fue criticada por su sistema que priorizaba fotos de personas blancas sobre otras negras.

Twitter modificará su algoritmo de imágenes tras la polémica por su comportamiento racista.

Twitter informó que modificará su algoritmo de recorte de imágenes después de las críticas recibidas por el sesgo que aplica, y que su intención es que en un futuro la imagen que el usuario carga en el editor de tuits y la que se muestra en la publicación sean la misma.

Al algoritmo de recorte de imágenes selecciona mediante aprendizaje automático la parte de la imagen que se verá en el tuit cuando es demasiado grande y no puede mostrarla al completo. La compañía aseguró en su blog oficial que este sistema se basa “en la prominencia”, que entienden como allí “donde las personas pueden mirar primero”.

Antes de lanzarlo, según explicaron, realizaron análisis de sesgo. Pero en septiembre una investigación mostró que la selección que realizaba el algoritmo priorizaba las fotos de personas blancas sobre las negras, con el ejemplo de los rostros del expresidente de Estados Unidos, Barack Obama, y del senador republicano Mitch McConnell.

Los rostros de caucásicos usualmente fueron privilegiados por el método, incluso alterando las imágenes con diferentes posiciones y ediciones, y también en fotografías de dibujos animados.

“Si bien nuestros análisis hasta la fecha no han mostrado prejuicios raciales o de género, reconocemos que la forma en que recortamos las fotos automáticamente significa que existe un potencial de daño”, indicó el responsable de Diseño, Dantley Davis.

La compañía explicó que en sus análisis previos probaron la preferencia por pares entre dos grupos demográficos (blanco-negro, blanco-indio, blanco-asiático y hombre-mujer). “En cada ensayo combinamos dos caras en la misma imagen, con su orden aleatorio, luego calculamos el mapa de prominencia sobre la imagen combinada, ubicamos el máximo del mapa de prominencia y registramos en qué categoría demográfica aterrizó”, detalló el ejecutivo.

Repitieron este análisis 200 veces para cada par de categorías demográficas y evaluaron la frecuencia de preferir una sobre la otra, como detallan en el blog. No obstante, y tras las quejas, la compañía realizó “análisis adicionales para agregar más rigor” a las pruebas.

Por lo pronto, la compañía informó que busca disminuir la dependencia del recorte de imágenes basado en aprendizaje automático para que las personas tengan más control sobre la forma en que se ven sus imágenes en un tuit.

En un futuro, quieren que la foto que se vea en el editor del tuit sea la que realmente se verá en la publicación compartida, aunque para las fotos que tienen un tamaño mayo o son muy anchas o largas, la compañía explicó que tendrán que “experimentar” con la forma en que se presenta la imagen para que “no pierda el punto focal previsto por el creador ni le quite integridad a la foto”.