200 mil mujeres jóvenes se sometieron a un algoritmo experimental de Microsoft que predice embarazos adolescentes en comunidades desfavorecidas.
Mujeres migrantes, guaraníes, wichi y qullas fueron sometidas a pruebas de un algoritmo nuevo de Microsoft. El objetivo era claro: investigar cuántas de ellas eran propensas a tener embarazos adolescentes. De la mano con el Estado, ésta es una estrategia de control poblacional, según denuncia un reportaje de la revista Wired.
Recopilando sus datos personales, la empresa de Bill Gates pretende detectar cuántas líneas raciales existen en las comunidades menos favorecidas en Argentina. Descrita por algunos críticos como “violencia tecnológica”, se sigue implementado como “una alternativa futurista” para entender el crecimiento poblacional en el país. Esto es lo que sabemos.
Una ‘pesadilla’ digital
Noor Al-Sibai, periodista de ciencia para Futurism, describe la situación en torno al algoritmo de Microsoft que predice embarazos adolescentes como “una pesadilla digital“. Lo que es más: considera que es una “mezcla de extralimitación de Big Tech y autoritarismo estatal“. La descripción no es banal, porque la situación lo amerita.
Desde 2018, la empresa Bill Gates está probando sus desarrollos en algunas provincias de Argentina. Con la aprobación del Estado, Microsoft está investigando qué tan probable es que las adolescentes terminen embarazadas en las regiones de menor ingreso. Para ello, recupera los siguientes datos: etnia, edad, país de origen y si tienen algún tipo de discapacidad.
Con ello, el algoritmo de Microsoft puede predecir qué mujeres adolescentes están ‘predestinadas’ a un embarazo. Lo peor, según la investigación de Wired, es que fue inquietantemente asertivo para hacerlo. El escándalo estalló en la comunidad de Salta, al noroeste montañoso de Argentina. Esto fue lo que pasó.
Encuestas, fotografías y documentos perdidos
Una muestra de 200 mil mujeres jóvenes fueron sometidas a las pruebas de Microsoft. Cerca de 12 mil de ellas tenían entre 10 y 19 años, por lo que ni siquiera eran mayores de edad. Al día de hoy, no existen documentos oficiales que responden las cifras. Sin embargo, el equipo de periodistas que revisó el caso asegura que ‘agentes territoriales’ visitaron los hogares de estas personas para tomarles fotos y conducir encuestas.
Aunque Microsoft describe al algoritmo de predicción de embarazos adolescentes como “uno de los casos pioneros en el uso de datos de IA“, la comunidad internacional se ha cuestionado si las mujeres jóvenes corren algún tipo de riesgo en términos de privacidad. Más aún porque las probabilidades de que se protegieran, dado su contexto socioeconómico, rayan en la nulidad.
El algoritmo de Microsoft predice embarazos adolescentes hasta con 6 años de distancia. Además, pertenece al programa de Regulación de IA, la Plataforma Tecnológica para la Intervención Social. A pesar del peso institucional que se le ha dado, reporta Wired, “nunca estuvo sujeta a una revisión formal y no se ha realizado ninguna evaluación de sus impactos en las niñas y mujeres”.
¿Qué hará Microsoft con estos datos?
Como no existe un seguimiento institucional de transparencia sólido, no se sabe qué pretende hacer Microsoft con los datos recopilados. “No se han publicado datos oficiales sobre su precisión o resultados”, reportan los periodistas de Wired. Por ello, también, hay una absoluta carencia de rendición de cuentas.
Lo que verdaderamente preocupa de la situación es que, con mecanismos autoritarios, las mujeres sean privadas de sus derechos humanos nuevamente, en favor de un ‘blanqueamiento social’ que ha buscado Argentina históricamente. En especial, porque las mujeres que fueron sometidas a este procedimiento son indígenas o migrantes.
Vale la pena hacer una distinción. El algoritmo, en sí mismo, no es responsable de la violencia de género estatal. Por el contrario, la cuestión delicada recae en las manos de quienes manejan estos códigos y los datos que fueron recopilados.
Hace dos años, Argentina despenalizó el aborto en todo el territorio nacional. En este contexto, la laxitud con respecto a la interrupción del embarazo debería de revisarse con cuidado.
MUY INTERESANTE
