La inteligencia artificial (IA) ha demostrado ser una herramienta poderosa en muchos aspectos de la vida moderna. Sin embargo, también ha surgido una preocupación creciente por la discriminación inherente a estos sistemas. Según Ferda Ataman, responsable del gobierno federal alemán para combatir la discriminación, es necesario tomar medidas para proteger a las personas de posibles desventajas derivadas de los sistemas algorítmicos de Toma Automatizada de Decisiones (ADM).
Estos sistemas, que se basan en datos para calcular cifras y tomar decisiones, pueden reproducir automáticamente prejuicios y estereotipos. Por ejemplo, en los Países Bajos, más de 20,000 personas fueron víctimas de un algoritmo discriminatorio que los acusó injustamente de devolver dinero de subsidios, principalmente afectando a personas con doble nacionalidad.
Ferda Ataman enfatiza la importancia de la transparencia en el uso de la IA. Es fundamental que las empresas que utilizan estos sistemas proporcionen acceso a los datos utilizados y expliquen cómo funciona el sistema. En el informe elaborado por los juristas Indra Spiecker y Emanuel V. Towfigh, se describe a los sistemas de IA como “cajas negras”, lo que dificulta para los afectados comprender por qué están siendo perjudicados.
Un problema específico es que el potencial discriminatorio puede estar incorporado en el propio sistema, debido al uso de bancos de datos de baja calidad o inapropiados para determinados fines. Por ejemplo, el código postal puede convertirse en un factor de discriminación, ya que ciertos barrios con una alta población de inmigrantes pueden ser considerados de mayor riesgo financiero, dificultando la obtención de créditos para sus habitantes.
Ferda Ataman demanda la implementación de sistemas de arbitraje para abordar estas situaciones y concluye enfatizando que el futuro de la digitalización no debe convertirse en una pesadilla. Las personas deben poder confiar en que no serán discriminadas por la inteligencia artificial y contar con reglas claras para defenderse si eso ocurriera.
Sources:
– “La inteligencia artificial y la discriminación: una preocupación creciente en Alemania” (Article Source)
