Inteligencia artificial y los estereotipos sociales

27 mayo, 2020

Por Claudia Olave Ávila.

Abogada, profesora investigadora en la Universidad Pedro de Valdivia. Pasantía en Derechos Civiles de la Mujer en la Universidad de Málaga. Master´s degree en Propiedad Intelectual y Nuevas Tecnologías por la Universidad Internacional de la Rioja.

¿Se han detenido a pensar que todos los asistentes digitales que tenemos en casa tienen nombres de mujer? Es seguro que al menos uno de ustedes conoce a Siri de Apple, Alexa de Amazon, Cortana de Windows o Bixby de Samsung.

Cada uno de estos asistentes está considerado dentro del espectro de la Inteligencia Artificial, por lo mismo no podemos dejar de mencionar qué entendemos por ésta. Según la profesora Susana Navas Navarro, “es un campo de la ciencia y de la ingeniería que se ocupa de la comprensión, desde el punto de vista informático, de lo que se denomina comúnmente comportamiento inteligente. También se ocupa de la creación de artefactos que exhiben este comportamiento”[1].

Desde otro punto de vista, debemos aclarar qué entendemos por estereotipo, ya que aunque nos parezca una palabra de uso común,  tiene una función socializadora del individuo: estamos claros en que pertenecemos a un grupo social, nos identificamos y aceptamos según parámetros que nos han enseñado, supuestamente, son  los correctos, asemejarnos con estereotipos dominantes de ciertos grupos nos permite sentirnos parte de él.

Ahora bien podemos encontrarnos con estereotipos positivos, a los que se les reconoce una sensibilidad sólo atribuible a las mujeres o la abnegación de los padres al cuidar a sus hijos. Sin embargo, en ocasiones un estereotipo positivo sobre una categoría social puede derivar en un reconocimiento prejuicioso y dañino; como el mismo caso de las mujeres, consideradas delicadas, sensibles, débiles, lo que provoca que la sociedad reaccione y les niegue derechos y oportunidades, como el de acceder a trabajos considerados rudos tradicionalmente [2].

Dicho esto, volvemos a nuestra pregunta inicial, ¿por qué los asistentes digitales, más bien dicho, las asistentes digitales, tienen voz de mujer?

Hoy en día no es una novedad  que se encuentran presentes en numerosas casas chilenas y que se han hecho casi imprescindibles para muchos de nosotros. La principal característica de estos asistentes es el reconocimiento de una voz y la respuesta rápida ante cualquier consulta que le pueda hacer, generalmente, su dueño. Además, la forma de activarlos es mediante una palabra específica como «Hey Cortana» y el tono de voz en la que se hace [3].

Daniel Matus [4], el reciente 8 de mayo, concluye que utilicemos un asistente digital u otro, en general todos tienen la capacidad de configurar actividades en un calendario, alarmas, hacer llamadas, enviar mails y mensajes, y la función principal, que les dio origen, la de reproducir música, pero su mayor potencial será la de integrar información de las plataformas de las empresas que las hacen nacer.

No obstante, se presentan algunas diferencias entre los distintos hardware, la adaptación y actualización de la información obtenida gracias a los motores de búsqueda que poseen unas en mayor proporción que  otras, lo que involucra directamente la privacidad de sus usuarios. El mejor ejemplo de esto es Google, que posee  la capacidad de agrupar información del dueño de éste y de su entorno, lo que en muchos casos puede tornarse peligroso por la cantidad de datos personales que puede llegar a manejar.

Volviendo al punto, nos parece completamente normal, que la mayoría de estos asistentes virtuales que funcionan en base a inteligencia artificial, tienen nombres y voces femeninas y la forma en que se comunican es sumiso o seductor. La Organización de Naciones Unidas Para la Educación y la Cultura (Unesco), nos dice que esta situación es resultado de una falta de diversidad en la industria de inteligencia artificial, ya que es diseñada y resultado de hombres en su mayoría, lo que aumenta los estereotipos de género.

Los dispositivos virtuales son “máquinas obedientes y complacientes, que pretenden ser mujeres entrando en nuestros hogares, autos y oficinas” [5].

La voz de una mujer tiene mayor contenido emocional, contrario al que se cree tiene el hombre más informativo. Entonces, desde un punto de vista tecnológico, ellos son instructivos y manejan el conocimiento, mientras que la mujer tiene la característica de ser servicial y, por lo tanto, se pone en una función de ayuda.

Ahora bien, esta misma forma de dar un género femenino a los asistentes digitales ha provocado que el usuario de estos, en virtud de ser el dueño, al preguntar o al solicitar música se sienta con el derecho de hacer comentarios sexistas al mismo asistente (en estos casos la asistente), que llegan a ser totalmente inadecuados.

Relacionado con lo mismo, el año 2019 se conforma el informe de la Unesco llamado “Me sonrojaría si pudiera” (I’d Blush if I Could), nombrado así por una respuesta típica de Siri, ante una pregunta con un insulto específico. Hoy, después de este informe, la respuesta estándar de Siri es menos ofensiva como ¡Gracias por decírmelo! o ¡No sé qué responder a eso!, entre otras [6].

La percepción que se tiene, en virtud de estos asistentes virtuales, provocan serios problemas en la realidad de las mujeres, ya que queda una huella en la sociedad el hacer habitual en los hogares del mundo este tipo de comportamiento, afectando las  interacciones con mujeres verdaderas, al compararlas y sancionadas por no comportarse como el estereotipo señala [7].

Gracias a las generaciones nacidas entre los años 1995 y 2010 es que se reconoce oficialmente una discriminación hacia la mujer proveniente del uso de los asistentes digitales. Estas nuevas ciudadanas alzan las voces para generar campañas de igualdad, por ejemplo “voces de igualdad” en España, lo que permite la visualización de una necesidad en que existan opciones, en este caso concreto, tener asistentes digitales con la voz de cualquiera de los dos sexos, lo que llevará a evitar el estereotipo  del rol impuesto por la sociedad generación tras generación a mujeres y hombres.

Los resultados de estas campañas han tenido importantes resultados, como el caso de Samsung que eliminó los adjetivos con que determinaba la voz femenina y masculina en Bixby, pudiendo optarse por cualquier de las dos. Por su parte, en el caso de Siri existe la alternativa de poner la voz en versión masculina [8].

Hoy conocemos la Organización Gardner, que busca acercar a las mujeres al trabajo en inteligencia artificial, con la idea de que puedan discutir a la par sobre temas de ética, sesgo y posibles marcos legislativos para que la industria sea más representativa. Es indispensable la educación, pues esta mala inclinación viene de un campo dominado por los hombres.

“La estructura entera del área de informática ha sido diseñada para estar centrada en los hombres, incluso hasta en la semántica que usamos” [9].

Hasta el día de hoy existe una notable discriminación entre hombres y mujeres, la que no hemos sido capaces de resolver, a pesar que nuestra Carta Fundamental claramente lo manifiesta en su artículo 19 n°2 [10].

Los tipos de relaciones entre personas en razón de la diferencia de sexos se ha normalizado, al igual que estos agentes digitales tengan voz femenina, basta con poner más atención en ellos. Hoy la igualdad entre sexos aún está lejos de concretarse, sobre todo pensando en  un  libre acceso a los estudios, entre estos a los tecnológicos, que significan una gran inversión de tiempo, con el que muchas veces no contamos.

No existe un trabajo que sea más rudo o sensible que otro, y si en algo pareciera haberlo, podría presentarse en cualquiera de los sexos, independientemente del estereotipo dentro de  los que hemos sido criados desde que nacemos.


[1] Navas Navarro, Susana; Górriz López, Carlos; y otros AA. “Inteligencia Artificial. Tecnología Derecho”. Año 2017. Editorial Tirant lo Blanch. Pp 23-24.

[2] Link

[3] Link

[4] Licenciado y profesor en filosofía, hoy en día instalado en Barcelona, España

[5] Saniye Gulser Corat, directora de la División para la Igualdad de Género de Unesco

[6] Unesco. Equals Skills Coalition. “I’d blush if I could: closing gender divides in digital skills through education”, 2019
[7] Link

[8] Link

[9] Link

[10] Artículo 19 N°2°. La igualdad ante la ley. En Chile no hay persona ni grupos privilegiados. En Chile no hay esclavos y el que pise su territorio queda libre. Hombres y mujeres son iguales ante la ley.

Fuente:  Publicado en LWYR.