La importancia de las auditorías de algoritmos en el entorno laboral
Avances de la Inteligencia Artificial y su Impacto en el Empleo
El uso de la Inteligencia Artificial (IA) está en constante expansión, afectando numerosos aspectos de la vida cotidiana, incluyendo el ámbito laboral.Desde motores de búsqueda en Internet hasta asistentes virtuales como Siri y Alexa, pasando por sistemas de recomendación de películas, chatbots en empresas, aplicaciones para modificar imágenes y sistemas de traducción automática, la IA se ha convertido en una presencia omnipresente en nuestra vida diaria.
Garantías para una Digitalización Justa
Recientemente, Yolanda Díaz, ministra de Trabajo y Economía Social de España, abogó en Bruselas por una digitalización que favorezca la justicia social.Durante su intervención, propuso varias medidas para establecer un modelo europeo que priorice la equidad.
Algunas de estas propuestas incluyen auditorías algorítmicas obligatorias para detectar y corregir sesgos discriminatorios, el derecho a la formación digital para todos los trabajadores, la creación de un indicador de riesgo de automatización y la participación sindical en el diseño y evaluación de algoritmos.
Según la ministra, estas medidas buscan reforzar la gestión algorítmica y garantizar la transparencia en los sistemas automatizados.
Sistemas Automatizados de Toma de Decisiones
El académico chileno Matías Aránguiz Villagrán define un sistema automatizado de toma o soporte de decisiones (ADS) como un sistema computacional que puede hacer predicciones y recomendaciones para objetivos definidos por humanos.En los últimos años, el uso de ADS ha crecido de manera notable, interactuamos con ellos sin darnos cuenta.
Sin embargo, esta falta de conciencia no elimina los riesgos sociales asociados, especialmente si estos sistemas son mal diseñados.
El Problema del Sesgo en la IA
Según IBM, el sesgo en la IA –también conocido como sesgo de machine learning– se produce cuando los resultados están influenciados por prejuicios humanos en los datos de entrenamiento o en el propio algoritmo, generando resultados distorsionados.Un ejemplo alarmante se dio cuando Bloomberg solicitó la creación de más de 5.000 imágenes generadas por IA, revelando que los hombres blancos dominan los roles de liderazgo, mientras que las mujeres y personas de piel oscura son representadas de manera negativa.
Esto subraya la necesidad urgente de realizar auditorías algorítmicas.
Auditoría Algorítmica: Un Proceso Necesario
Las auditorías algorítmicas son estudios sistemáticos e independientes que evalúan un ADS y su proceso de desarrollo, desde el diseño hasta los datos utilizados para su entrenamiento.Se analizan aspectos como la precisión, la justicia algorítmica, los sesgos, la discriminación, la privacidad y la seguridad.
Estas auditorías pueden servir tanto para medir el rendimiento como para asegurar el cumplimiento de normas específicas, ofreciendo recomendaciones sobre métricas relevantes.
Reflexiones Finales
La irrupción de la IA en diversas actividades humanas presenta un desafío considerable en la conciliación entre los avances tecnológicos y los derechos laborales.Las auditorías algorítmicas juegan un papel crucial en asegurar que no existan sesgos perjudiciales que afecten a los trabajadores, protegiendo sus fuentes de empleo.
Dr.
Rodrigo Deleón DELEÓN ABOGADOS - 33 Orientales 989 – Paysandú Celular: (099) 10-33-13 E-mail: rdeleon1370@gmail.
com
Fuente: El Telegrafo
