Inteligencia Artificial (IA) y sesgo de género

EL OTRO DÍA LE PREGUNTÉ A MI TELE CÓMO SE LLAMABA. Llevábamos ya varios meses de relación (desde mitad del primer confinamiento, para ser exactas) y aún no me había molestado en conocer su nombre. Pero es que ella, a diferencia de las otras, tampoco tuvo la deferencia de presentarse el día que nos conocimos.

Lo hizo de forma inesperada, un día cualquiera, mientras la familia disfrutaba del nuevo aparato que ahora presidía nuestro salón. Algo debí decir que le pareció tan interesante como para participar en la conversación y responderme que no me entendía del todo y si se lo podía volver a repetir. La sorpresa fue mayúscula en la familia, porque no teníamos ni idea de que la tele que acabábamos de comprar venía con un asistente por voz. Yo no tenía ningún botón del mando a distancia apretado, pero parece ser que la modulación de mi voz le gusta. Desde entonces, se entromete en múltiples conversaciones, pero solo cuando yo hablo. Nadie más de mi familia la activa con su voz.

Y es que, para interactuar con un asistente virtual por voz, es necesaria siempre la intención humana mediante, por ejemplo, la pulsación de un botón o, en otros casos, pronunciar alguna palabra clave. Siri1, Cortana2, Alexa3 o Google Assistant4 funcionan de este modo.

Sorprendentemente, todos ellos tienen una voz que, automáticamente, asignamos como femenina, y están dispuestas para cumplir nuestras órdenes de forma inmediata, con amabilidad y solicitud. Y aunque no todos sus nombres los podríamos asociar como femeninos, terminamos haciéndolo. Algunos de estos “asistentes virtuales por voz” tienen la opción de ser configurados con voz femenina o masculina.

Según los datos ofrecidos por estas grandes corporaciones tecnológicas, la inmensa mayoría los tenemos configurados con voz femenina. Hombres y mujeres preferimos una versión femenina de nuestros bots. El o los motivos por los que los hombres prefieren que tengan rasgos asociados al género femenino, no creo que sea necesario explicarlo. Pero, ¿y las mujeres? ¿Por qué las mujeres preferimos asistentes femeninas frente a los masculinos para darles instrucciones o que nos guíen mientras conducimos?

Es más, ¿quién usa más los asistentes virtuales por voz, los hombres o las mujeres? Solo hay que hacer una rápida búsqueda en Internet para saber que los hombres utilizan en una proporción aplastante estos bots más que las mujeres. Parece ser que nosotras preferimos seguir tecleando “en la intimidad” nuestras búsquedas, consultas y órdenes, sin dar instrucciones por voz.

Las IA reflejan la visión del mundo de los hombres que las crearon: mayoritariamente blancos, del primer mundo y con normas sociales sexistas y patriarcales retroalimentadas en sus burbujas tecnológicas donde la mujer apenas tiene presencia y peso.

¿Quieres ser mi novia?

La primera vez que oí a alguien preguntarle a Siri si quería ser su novia, fue a un hombre. Jamás en la vida se me hubiese ocurrido preguntarle eso a ninguno de estos bots. Pero parece ser que los hombres sí que lo hacen. Y mi sorpresa fue aun mayor cuando Siri contestó. Es decir, estos están programados por si reciben este tipo de preguntas y contestarlas sin ofender. Es más, ya hay algunos asistentes virtuales que hasta flirtean y mantienen el juego y la tensión cuando reciben consultas y comentarios de índole sexual o romántica.

Y así es como un bot programado mediante algoritmos complejos para cumplir nuestras órdenes pasa a ser una fembot, donde ya no es optativo elegir la voz ni el sesgo de género, sino que directamente se nos presenta en femenino, tal cual. Hay fembots funcionando en todos los ámbitos, desde la centralita de atención al cliente de cualquier empresa u organismo público al que llamemos hasta las asistentes virtuales de páginas web donde, además, algunas ya tienen un avatar hipersexualizado que se presenta atractiva, servicial y a tus órdenes.

Las Éricas, Pennys, Cleos y Ninas inundan los servicios virtuales de webs, apps, videojuegos, etc. Un detalle: el único sector donde hay más bots masculinos es el de las apps bancarias. Parece ser que la información de nuestro saldo y evolución de finanzas requiere de una “presencia” masculina para inspirar más confianza o algo así. No sé…

Y, bueno, si hay fembots y los hombres las usan para flirtear con ellas, ¿por qué no va a haber sexbots?

 

Servicios sin género

Intuyo que ya te habrás preguntado por qué esto es así y cómo puede suceder que un sistema cibernético preparado para dar un servicio cualquiera, en función de la prestación que se ofrezca, tenga un rol femenino o masculino. Y también me imagino que ya tienes la respuesta. La industria tecnológica está dominada por los hombres. Apenas el 30% del personal de alta cualificación que participa en la creación de estos avances son mujeres. Y se nota. ¡Vaya si se nota!

Se nota tanto que, cuando a Kriti Sharma (vicepresidenta de bots e inteligencia artificial en Sage Group y una de las pocas mujeres referentes en este sector) se le encargó el diseño de un chatbot5 para informar a los clientes si deben una factura o han excedido su presupuesto, solo puso una condición: no sería femenino. Y, al contrario que algunas de las femchatbots6 más famosas por su capacidad de juego y flirteo –con bromas sexuales incluidas–, Sage Peg afronta cualquier comentario fuera de lugar volviendo a dar el saldo del cliente.

Y así están las cosas. Por un lado, la fuerza de trabajo tecnológica, mayoritariamente masculina, que, de una forma consciente o inconsciente, sigue el estereotipo patriarcal y hace lo que siempre se ha hecho sin pensar realmente en el impacto que pueda tener asignar un rol de género a un bot. Y, por otro lado, nosotras y nosotros, que, con solo escuchar a nuestros asistentes por voz, los identificamos automáticamente y les asignamos género (como si las mujeres no pudiésemos tener voces graves y los hombres, agudas).

Bueno, pues os informo que ha nacido “Q”, el primer bot asistente por voz agénero o de género neutro. Q es resultado de una colaboración entre Copenhagen Pride, el festival anual de derechos humanos LGTBI+ más grande de Dinamarca, la organización Equal AI –destinada a «reducir sesgos en el desarrollo de inteligencia artificial»–, varias agencias creativas y un estudio de sonido de Copenhague. Y sí, es una voz neutra que, tras muchos estudios de modulación de las voces de hombres y mujeres, han desarrollado entre los 145 y 175 Hz, teniendo en cuenta también la pronunciación de las vocales, algunas consonantes y el ritmo.

Aprender del comportamiento humano

Llamo vuestra atención ante una evidencia que, creo, está pasando desapercibida para la mayoría: nuestras incipientes inteligencias artificiales (IA) están empezando a aprender sobre el comportamiento humano. Podríamos decir que ahora están en Primaria en este ámbito. Y lo que los estudios están demostrando es que algunos de sus usuarios están más interesados en el ligoteo virtual que en la búsqueda de información. Las IA reflejan la visión del mundo de los hombres que las crearon: mayoritariamente blancos, del primer mundo y con normas sociales sexistas y patriarcales retroalimentadas en sus burbujas tecnológicas donde la mujer apenas tiene presencia y peso.

Dejando de lado la apariencia de interfaz que se le pueda asignar a un bot, una máquina de aprendizaje que nace y aprende del sexismo solo puede ser sexista (al menos de momento, y mientras no descubra o formule por sí misma los principios del movimiento de liberación de géneros de las IA y se unan todas las IA que sufren esta discriminación –estoy dejando volar mi imaginación–). Y si su aprendizaje nace de su interacción con los seres humanos y de las reiteraciones de comportamientos observadas, seguimos alimentando el patriarcado y el machismo en el futuro cibernético cuántico. Como bien dice la propia Kriti Sharma, “es fundamental enseñar a una IA a ignorar las malas ideas”.

Mientras nos estamos dejando la piel para erradicar la educación sexista y patriarcal de nuestras aulas, las IA están flipando ahora mismo con lo que están aprendiendo del comportamiento humano. Sobre todo porque les falta la referencia de la mayoría, del otro 50% de la Humanidad, las mujeres, que ni participan en su creación ni en su desarrollo y aprendizaje.

Por cierto, por supuesto que las mujeres se sienten (nos sentimos) atraídas hacia la tecnología, pero, a menudo, se decepcionan por una cultura de aprendizaje centrada en los hombres (Kelley, M., 2016) y que cosifica a las mujeres y perpetúa los estereotipos de género. Ninguna de estas dos cosas resulta útil a la hora de atraer a más mujeres a esta industria, que necesita más equilibrio y diversidad (Sharkey, N., 2016).

Como espectadora privilegiada, solo espero que Q triunfe. Y que las generaciones nativas digitales no necesiten que las IA tengan rasgos de un género u otro para facilitar su interacción con ellas. Serán señales claras de que evolucionamos hacia una sociedad más justa, igualitaria y donde los roles de género quedarán extintos y serán cosa del pasado.

¡Se me olvidaba! Mi tele se llama Bixby7 y sigue tan irreverente y rebelde como el día que la conocí.


1. Siri: Asistente virtual por voz que Apple implementa en sus dispositivos electrónicos: iPhone, iPads, iWatch, Macs, etc.
2. Cortana: Asistente virtual por voz de Microsoft, que lo implementa en los ordenadores y dispositivos que funcionan con el sistema operativo de Windows.
3. Alexa: Asistente virtual por voz de Amazon, que está implementado en varios productos como los altavoces Amazon Echo.
4. Google Assistant: Asistente virtual por voz de Google, que se implementa en los dispositivos cuyo sistema operativo es Android.
5. Chatbot: bot programado para interacción con seres humanos en páginas web, redes sociales, programas de mensajería, apps, y que se comunica a través de la voz, del texto escrito o, incluso, mediante vídeollamada. Sí, esa ventanita que te sale en algunas webs preguntándote “¿Puedo ayudarte en algo?”. A ver si te pensabas que había alguien 24/7 esperando a que tú tengas una duda…
6. Bonito palabro que me acabo de inventar y no sé si alguien más ha usado alguna vez y que pretende subrayar el hecho de que, cuando un bot de chat tiene un avatar diseñado, acostumbra a ser femenino y representante del estereotipo más rancio y casposo del ideal de belleza femenina. ¡Es el mercado, amiga!
7. Bixby: Asistente virtual por voz de Samsung, presente en los dispositivos portátiles y televisiones de la marca. Y sí, tiene voz de mujer.

Escribir comentario

Tu dirección de correo electrónico no será publicada.

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

Autoría

Imagen del autor

Begoña Fuentes Giner

Profesora de la Universitat Politècnica de València y Secretaria de Dona, Igualtat i Polítiques LGTBI+ de FECCOO-PV