Algoritmos de IA retratan los prejuicios de sus desarrolladores
La información que alimenta las nuevas tecnologías, como la inteligencia artificial, contiene los sesgos ideológicos de quienes las crean, replicando la propia naturaleza de la sociedad.
La tecnología, además de ser motor de la economía, que define e impulsa la evolución de la humanidad, si se implementa adecuadamente también puede ser un catalizador de la inclusión y una notable plataforma para amplificar las voces de las minorías y los grupos marginados. Por ello, con el auge actual de la inteligencia artificial (IA), es muy importante comprender su papel como herramienta de conciliación, o radicalización, de problemáticas subyacentes de índole social y cultural.
Este fue el eje que condujo la ponencia “Más allá del código, el impulso de la IA inclusiva hacia la equidad”, como parte de la agenda del WIRED Summit 2023, en la que participaron como moderadora Daniela Rojas Arroyo, coordinadora de proyectos en el Eon Institute, y los ponentes Mónica Angulo, directora del programa Women and Girls in STEM en British Council, José Antonio Aguilar, director de RacismoMX, Alex Orué, coordinador de programación global de It Gets Better Project, Alejandra Sánchez, líder de proyectos de PIT Policy Lab, y Diego Flores Jiménez, tecnólogo, maestro en Gobierno y Políticas Públicas, además de consultor en transformación digital para Huawei México.
Falta de representatividad en los datos que alimentan la tecnología
“La IA ni es inteligente ni es artificial: no es inteligente porque tiene muchísimos errores y uno de ellos es precisamente replicar las exclusiones sociales, y tampoco es artificial porque siempre hay alguien detrás”, comentó Aguilar citando las palabras de la abogada Grecia Macías de R3D: Red en Defensa de los Derechos Digitales, “no es neutral como nos la han vendido”, añadió.
Para él, como uno de los involucrados en la campaña Revoluciona el Algoritmo, una iniciativa de la UNESCO y RacismoMX, falta representatividad en las herramientas digitales que usamos actualmente; como el buscador de Google, en el que, según su investigación, la mayoría de los términos relacionados con conceptos “positivos”, como “éxito”, “belleza” o “inteligencia”, se asocian a fenotipos blancos europeos, dejando fuera a quienes no entran en dicha categoría, ya sea por su origen étnico o por su tono de piel.
Resalta el peligro que conlleva el hecho de que los algoritmos contengan sesgos racionales, de clase social y de género, sobre todo cuando estos afectan aspectos como la seguridad personal, la atención médica o el acceso al crédito y a instrumentos financieros, puesto que muchas empresas recurren actualmente a estas nuevas tecnologías para tomar decisiones que impactan principalmente en las poblaciones que históricamente han sido discriminadas, coartando los derechos y las libertades naturales de sus integrantes.
Ante esto, Orué, como activista no binarie por los derechos LGBTQI+ desde 2010, destaca el fallo de estas herramientas, como ocurre con el reconocimiento facial, donde no se considera la diversidad y la identidad de género dentro de sus sistemas. Así, aumenta exponencialmente los prejuicios del mundo físico en el digital. “Elevan los sesgos de quienes desarrollan estas tecnologías… no solamente se replican, sino que además se amplifican en niveles impresionantes; incluso tienen el potencial de radicalizar aún más a la gente”, subraya.
Orué también insiste en el modo en que se excluye a individuos “que nos saldríamos de la caja del género”, como las personas trans y no binaries, reafirmando paradigmas que dejan de lado a quienes los algoritmos no “etiquetan” dentro de los parámetros socialmente aceptados. Sin embargo, reconoce que gracias a que hoy en día existe un mayor acceso a la tecnología, las generaciones más jóvenes han encontrado canales para expresarse e iniciar una conversación al respecto, así como para proponer soluciones a dichas problemáticas, pero recalca que todavía existe una “brecha muy fuerte” en cuanto a comprensión y empatía entre los desarrolladores de estas tecnologías y sus verdaderos usuarios.
La importancia de la diversidad dentro de la industria tecnológica
La perpetuación de prejuicios, como esboza Sánchez, de PIT Policy Lab, no solo se limita al momento de creación y el desarrollo de una aplicación o una herramienta digital, también recae en etapas intermedias o posteriores, como el etiquetado de datos, que implica el trabajo manual de personas dentro de plataformas dedicadas a ello, quienes depositan sus propios sesgos, de manera consciente e intencional, al clasificar la información dentro de cierta categoría para nutrir los algoritmos y los modelos de IA.
A partir de ello, Sánchez destaca que existe una baja participación de mujeres dentro del campo tecnológico, cuya representatividad en las plataformas digitales se ve limitada por la desigualdad de género en dicha industria. “No hay equidad en el sector, y tampoco [posibilidad] de brindar a las mujeres oportunidades laborales y de desarrollo profesional”, comenta Sánchez, cuyo argumento se respalda en los proyectos realizados por PIT Policy Lab en la materia, sin dejar de hacer hincapié en que si bien existen investigaciones en temas de inclusión “casi todas se centran en la experiencia del norte global. Incluso hay algunas sobre Asia, pero el enfoque en América Latina y en el sur global se refleja muy poco”.
Por su parte, Angulo puntualiza que “las brechas de género impactan en la forma en la que se desarrolla la tecnología y, en este caso, la inteligencia artificial”. Así, subraya la escasez de mujeres dentro de trabajos STEM (Ciencia, Tecnología, Ingeniería y Matemáticas), ya que “solo 30% de las mujeres eligen estas carreras, y conforme van avanzando, las vamos perdiendo, el famoso ‘efecto de la tubería con fugas’ en donde al enfrentarnos a situaciones de discriminación o desigualdad, nos vemos obligadas a abandonar nuestras carreras y dedicarnos a otra cosa”.
Sánchez insiste en que es necesario integrar una perspectiva de género y de inclusión a las investigaciones y proyectos que se llevan a cabo, así como a la formulación de políticas públicas, puesto que “la tecnología no es neutral; replica todos los sesgos y valores que existen en nuestra sociedad” y, por tal motivo, es crucial estar consciente de ello en las etapas de desarrollo de nuevas tecnologías.
Si bien los algoritmos pueden contribuir a exaltar los prejuicios, es necesario retroceder en el proceso y comprender que la responsabilidad recae en los creadores de estas herramientas pues, como comenta Flores, “las bases de datos están sesgadas por origen, por la propia naturaleza de la sociedad”. Sin embargo, es optimista en cuanto a que es esta misma información dentro de tales tecnologías la que nos brinda “la oportunidad histórica de poder atacar la falta de inclusión y la discriminación. Tenemos que entender que la tecnología debe estar al servicio de y para las personas”.
Sin embargo, será necesario desafiar primero la estructura social actual en nuestro ecosistema físico y reformular los preceptos que nos fueron inculcados como legado, con el objetivo de no replicar los mismos sesgos en los sistemas tecnológicos en el espacio digital.
