Ética de la inteligencia artificial: de los principios a las decisiones

¿Qué ocurre cuando una inteligencia artificial recomienda descartar a un candidato, priorizar una solicitud o monitorear el trabajo de una persona?

Además de evaluar si funciona, debemos preguntarnos si su uso es adecuado, justo y respetuoso de las personas.

En la edición anterior del Radar Tecnológico hablamos de gobernanza de la IA. En esta oportunidad profundizamos en una cuestión complementaria: cómo incorporar criterios éticos en las decisiones de diseño, implementación y uso.

Nuestro Director de Tecnología y Operaciones, Leandro Martín Colli, completó el Global MOOC on the Ethics of AI de UNESCO y LG AI Research. A partir de los temas y ejercicios trabajados durante esa formación, compartimos cinco aspectos para reflexionar sobre el uso de IA en las organizaciones.

Proporcionalidad: ¿el objetivo justifica el uso?

Una solución puede ser técnicamente viable y resultar excesiva para el problema que busca resolver.

Por ejemplo, al evaluar herramientas de reconocimiento facial para seguridad, también es necesario considerar su impacto sobre la privacidad, las posibles consecuencias de una identificación incorrecta y la existencia de alternativas menos invasivas.

Antes de implementar una tecnología, conviene definir el propósito y evaluar si los medios elegidos son proporcionales a la necesidad.

Pregunta para la empresa: ¿podemos alcanzar el mismo objetivo con una solución que implique menos riesgos para las personas?

Equidad: los sesgos también deben evaluarse

Aprender de decisiones históricas puede reproducir desigualdades presentes en esos antecedentes.

En un proceso de selección de personal, por ejemplo, una herramienta podría favorecer perfiles similares a los contratados anteriormente y dejar fuera a candidatos que también cumplen con los requisitos.

Revisar la calidad y representatividad de los datos, comparar resultados entre distintos grupos y establecer medidas correctivas ayuda a abordar estos riesgos.

Pregunta para la empresa: ¿evaluamos a quiénes beneficia y a quiénes podría perjudicar el resultado?

Privacidad: ¿qué datos son realmente necesarios?

En escenarios de seguridad, atención al cliente o monitoreo, recopilar más información no garantiza una mejor solución.

Es necesario delimitar qué datos se necesitan, para qué se utilizarán, quién podrá acceder a ellos y durante cuánto tiempo se conservarán.

También corresponde revisar estos aspectos cuando se conectan herramientas de IA con documentos internos, correos o información de clientes.

Pregunta para la empresa: ¿cada dato utilizado tiene una finalidad clara y un acceso adecuado?

Autonomía: las personas necesitan margen de decisión

La automatización puede ayudar a organizar tareas y ofrecer recomendaciones. Su implementación también debe considerar la capacidad de las personas para cuestionar sus resultados y mantener un margen de decisión.

En el ámbito laboral, esto implica evaluar cómo una herramienta modifica las tareas, la supervisión y la participación de los trabajadores.

Pregunta para la empresa: ¿las personas pueden plantear objeciones y solicitar una revisión?

Responsabilidad: ¿quién responde cuando algo falla?

La supervisión humana requiere responsables con capacidad real de intervenir.

Conviene establecer quién revisa los resultados, cómo se corrigen los errores y en qué circunstancias debe detenerse el funcionamiento de una solución.

Las personas afectadas también necesitan una vía clara para plantear una consulta o un reclamo.

Pregunta para la empresa: ¿está definido quién puede revisar, corregir o detener el sistema?

Cómo llevar estos principios a la práctica

Antes de iniciar un proyecto de IA, proponemos documentar:

• El problema que se busca resolver y el propósito de la solución.
• Las personas y grupos que podrían verse afectados.
• Los datos necesarios y sus condiciones de acceso.
• Los riesgos identificados y las medidas para reducirlos.
• Las responsabilidades y los mecanismos de revisión humana.
• Los criterios para evaluar resultados y corregir desvíos.

La evaluación debe continuar después de la implementación: los datos, las condiciones de uso y los efectos sobre las personas pueden cambiar.

Innovar con responsabilidad

En IT Consultant FC S.A. entendemos que incorporar inteligencia artificial requiere integrar capacidades técnicas con una mirada crítica sobre su impacto en las organizaciones y en las personas.

La formación continua nos ayuda a enriquecer esa mirada y a incorporar estas preguntas desde las primeras etapas de un proyecto.

¿Tu organización ya definió qué decisiones puede delegar en una IA y cuáles requieren revisión humana?

Conocé nuestros servicios y contactanos.