Opinión. Soy una mujer negra y el metaverso me asusta

Fuente: Adobe / Atlas Illustrations

3 de enero de 2022

Breigha Adeyemo, candidata al doctorado en Comunicación de la Universidad de Illinois en Chicago.

Las personas marginadas suelen ser las más perjudicadas por las consecuencias imprevistas de las nuevas tecnologías. Por ejemplo, los algoritmos que toman automáticamente las decisiones sobre quién puede ver qué contenido o cómo se interpretan las imágenes sufren sesgos raciales y de género. Las personas que tienen múltiples identidades marginadas, como ser negro y discapacitado, corren aún más riesgo que las que tienen una sola identidad marginada.

Por eso, cuando Mark Zuckerberg expuso su visión del metaverso -una red de entornos virtuales en los que muchas personas pueden interactuar entre sí y con los objetos digitales- y dijo que afectará a todos los productos que construya la empresa, me asusté. Como investigadora que estudia las intersecciones entre raza, tecnología y democracia -y como mujer negra- creo que es importante considerar cuidadosamente los valores que se están codificando en esta Internet de nueva generación.

Ya está surgiendo una división racial en el valor de los avatares que representan a los usuarios en entornos virtuales. yuoak/DigitalVision Vectors via Getty Images

Los problemas ya están aflorando. Los avatares, los personajes gráficos que la gente puede crear o comprar para representarse a sí misma en entornos virtuales, tienen un precio diferente en función de la raza percibida del avatar, y el acoso racista y sexista está apareciendo en los entornos inmersivos premetaversos actuales.

Para garantizar que la próxima versión de Internet sea inclusiva y funcione para todos, será necesario que las personas de las comunidades marginadas tomen la iniciativa para darle forma. También se necesitará una reglamentación que permita a las grandes empresas tecnológicas rendir cuentas al interés público. Sin esto, el metaverso corre el riesgo de heredar los problemas de las redes sociales actuales, si no de convertirse en algo peor.

Visiones utópicas frente a duras realidades

Las visiones utópicas de los primeros días de Internet solían sostener que la vida en línea sería radicalmente diferente de la vida en el mundo físico. Por ejemplo, la gente imaginaba Internet como una forma de escapar de partes de su identidad, como las diferencias de raza, género y clase. En realidad, Internet dista mucho de estar libre de racismo.

Aunque las tecno-utopías transmiten visiones deseadas del futuro, la realidad de las nuevas tecnologías no suele estar a la altura de esas visiones. De hecho, Internet ha traído consigo nuevas formas de daño a la sociedad, como la difusión automática de propaganda en las redes sociales y el sesgo en los algoritmos que dan forma a tu experiencia online.

Zuckerberg describió el metaverso como una Internet más inmersiva y encarnada que «desbloqueará un montón de nuevas experiencias increíbles«. Se trata de una visión no sólo de una Internet futura, sino de un modo de vida futuro. Por muy desviada que esté esta visión, es probable que el metaverso -al igual que las versiones anteriores de Internet y las redes sociales- tenga consecuencias generalizadas que transformarán la forma en que la gente se relaciona, viaja, aprende, trabaja y juega.

La pregunta es si esas consecuencias serán iguales para todos. La historia sugiere que la respuesta es no.

La tecnología nunca es neutral

Las tecnologías de uso generalizado suelen asumir por defecto identidades y cuerpos masculinos blancos. La informática del MIT, Joy Buolomwini, ha demostrado que el software de reconocimiento facial funciona peor con las mujeres y aún más con las que tienen el rostro más oscuro. Otros estudios lo han corroborado.

Joy Buolomwini, del MIT, explica la «mirada codificada«, es decir, las prioridades, preferencias y prejuicios de las personas que dan forma a la tecnología.

La blancura está integrada por defecto en estas tecnologías, incluso en ausencia de la raza como categoría para los algoritmos de aprendizaje automático. Por desgracia, el racismo y la tecnología van a menudo de la mano. Las mujeres políticas y periodistas negras han sido objeto de tuits abusivos o problemáticos de manera desproporcionada, y los votantes negros y latinos fueron objeto de campañas de desinformación en línea durante el ciclo electoral de 2020.

Esta relación histórica entre la raza y la tecnología me hace preocupar por el metaverso. Si el metaverso está destinado a ser una versión encarnada de Internet, como lo ha descrito Zuckerberg, ¿significa eso que las personas ya marginadas experimentarán nuevas formas de daño?

Facebook y su relación con los negros

La relación general entre tecnología y racismo es sólo una parte de la historia. Meta tiene una mala relación con los usuarios negros en su plataforma de Facebook, y con las mujeres negras en particular.

En 2016, los reporteros de ProPublica descubrieron que los anunciantes del portal publicitario de Facebook podían excluir a grupos de personas que vieran sus anuncios en función de la raza de los usuarios, o lo que Facebook denominaba «afinidad étnica». Esta opción fue muy criticada porque Facebook no pregunta a sus usuarios por su raza, lo que significa que se asigna a los usuarios una «afinidad étnica» basada en su participación en la plataforma, por ejemplo, en las páginas y publicaciones que les gustan.

En otras palabras, Facebook estaba haciendo un perfil racial de sus usuarios basándose en lo que hacen y les gusta en su plataforma, creando la oportunidad de que los anunciantes discriminen a las personas por su raza. Desde entonces, Facebook ha actualizado sus categorías de segmentación publicitaria para no incluir las «afinidades étnicas».

Sin embargo, los anunciantes siguen pudiendo dirigirse a las personas en función de su presunta raza a través de proxies raciales, que utilizan combinaciones de intereses de los usuarios para inferir razas. Por ejemplo, si un anunciante ve en los datos de Facebook que usted ha expresado su interés por la cultura afroamericana y los premios BET, puede deducir que es usted negro y dirigirle anuncios de productos que quiere comercializar a los negros.

Peor aún, Facebook ha eliminado con frecuencia los comentarios de las mujeres negras que denuncian el racismo y el sexismo. Irónicamente, los comentarios de las mujeres negras sobre el racismo y el sexismo están siendo censurados – coloquialmente conocidos como «zucked» – por violar ostensiblemente las políticas de Facebook contra la incitación al odio. Esto forma parte de una tendencia más amplia dentro de las plataformas en línea de mujeres negras que son castigadas por expresar sus preocupaciones y exigir justicia en los espacios digitales.

Según un reciente informe del Washington Post, Facebook sabía que su algoritmo perjudicaba desproporcionadamente a los usuarios negros, pero decidió no hacer nada.

Te puede interesar: BTC y ETH se enfrentan a la última línea de defensa, YFI y OHM suben



Un metaverso democráticamente responsable

En una entrevista con Vishal Shah, vicepresidente del metaverso de Meta, el presentador de la National Public Radio, Audie Cornish, preguntó: «Si no puedes manejar los comentarios en Instagram, ¿cómo puedes manejar la camiseta que tiene un discurso de odio en el metaverso? ¿Cómo puedes manejar la manifestación de odio que puede ocurrir en el metaverso?». Del mismo modo, si se castiga a los negros por denunciar el racismo y el sexismo en Internet, ¿cómo podrán hacerlo en el metaverso?

Garantizar que el metaverso sea inclusivo y promueva los valores democráticos en lugar de amenazar la democracia requiere justicia de diseño y regulación de los medios sociales.

La justicia en el diseño consiste en situar a las personas que no tienen poder en la sociedad en el centro del proceso de diseño para evitar que se perpetúen las desigualdades existentes. También significa comenzar con una consideración de valores y principios para guiar el diseño.

Las leyes federales han protegido a las empresas de medios sociales de la responsabilidad por las publicaciones y acciones de los usuarios en sus plataformas. Esto significa que tienen el derecho pero no la responsabilidad de vigilar sus sitios. La regulación de las grandes empresas tecnológicas es crucial para hacer frente a los problemas actuales de las redes sociales, y al menos igual de importante antes de que construyan y controlen la próxima generación de Internet.

El metaverso y yo

No estoy en contra del metaverso. Estoy a favor de un metaverso democráticamente responsable. Sin embargo, para que eso ocurra, afirmo que es necesario que existan mejores marcos reguladores para las empresas de Internet y procesos de diseño más justos para que la tecnología no siga correlacionándose con el racismo.

Tal y como están las cosas, los beneficios del metaverso no compensan sus costes para mí. Pero no tiene por qué seguir siendo así.


😃 Puntúa este contenido con unas sonrisas:

Promedio de puntos 5 / 5. Recuento de votos: 1

Comparte con otros: