El Senado analiza la desigualdad y sesgos en la tecnología: ¿Cómo garantizar una IA sin prejuicios?

Ciudad de México, 26 de septiembre del 2023 – El futuro tecnológico de México, y potencialmente del mundo, fue tema de discusión este martes en el Senado durante la cuarta mesa de análisis sobre inteligencia artificial (IA). El debate giró en torno a la responsabilidad social, género, y la imperante necesidad de inclusión en la era digital.

La senadora Alejandra Lagunes Soto Ruíz, representante del PVEM y artífice de este ciclo de discusiones, dejó en claro que la IA no está exenta de los desafíos contemporáneos. Subrayó la importancia de garantizar la representación adecuada de mujeres y grupos sociales diversos en la esfera tecnológica, para prevenir la perpetuación de discriminación, ya sea de género o racial.

Por su parte, la senadora Claudia Ruiz Massieu Salinas compartió una cifra alarmante proporcionada por la UNESCO: aproximadamente el 85% de los programadores en IA son hombres. Esto significa que, de manera inadvertida, la tecnología puede estar reflejando y perpetuando los sesgos y prejuicios intrínsecos a este grupo demográfico dominante.

Las implicaciones son vastas y, en muchos casos, inadvertidas. Asistentes personales y otras herramientas de IA funcionan a través de algoritmos y conjuntos de datos alimentados por humanos. Massieu puntualizó la importancia de garantizar que estos datos y algoritmos sean equitativos, imparciales y representativos de toda la población.

Desde la perspectiva de la UNESCO, Aimmé Vega Montiel advirtió que la adopción indiscriminada de una visión tecnocentrista exacerba los problemas de desigualdad y discriminación, agravando aún más las formas ya existentes de violencia digital.

Las revelaciones sobre cómo el cuerpo de las mujeres es usado como «generador de datos» para determinar su elegibilidad para ciertos servicios son, cuanto menos, preocupantes. La tecnología no es inherentemente justa o injusta; refleja las inclinaciones y sesgos de quienes la crean y alimentan.

Ante este panorama, la especialista Adriana Labardini instó a actuar con decisión. Abogó por una transición al mundo digital que rechace la violencia y discriminación contra las mujeres en todos los ámbitos, desde las empresas hasta la academia. Labardini llamó a la implementación de metodologías inclusivas y a la rectificación de sesgos tecnológicos, así como a la identificación de mecanismos de justicia adecuados para abordar los agravios tecnológicos.

Con la IA transformando rápidamente el mundo tal como lo conocemos, la conversación en el Senado resalta una pregunta fundamental: ¿Cómo puede México, y el mundo en general, garantizar una IA que refleje y sirva equitativamente a todos sus ciudadanos?