Prácticas prohibidas de IA: ejemplos que una empresa debe revisar

¿Qué resume esta página?

La revisión del Artículo 5 debe hacerse pronto y producir una decisión revisable, sobre todo cuando la IA afecta comportamiento, vulnerabilidad, datos biométricos o puntuación social.

Los usos potencialmente prohibidos no deben aprobarse automáticamente.

Compras, pilotos y automatizaciones internas necesitan la misma revisión.

El registro de decisión debe incluir razonamiento, revisor y siguiente acción.

Ejemplos que revisar

Revisa sistemas que manipulan comportamiento, explotan vulnerabilidades, infieren rasgos sensibles, puntúan socialmente a personas o usan identificación biométrica en contextos sensibles.

Revisa también sistemas que combinan fuentes de datos para puntuar a personas en acceso, elegibilidad, precios, empleo, educación o servicios esenciales.

No ocultes la incertidumbre

La salida correcta no siempre es sí o no. Algunos sistemas necesitan rediseño, más evidencia, revisión legal o una decisión documentada de bloqueo.

Un falso estado verde es peor que una pregunta abierta porque crea confianza sin revisión.

Registra el recorrido

Conserva finalidad, personas afectadas, fuentes de datos, respuesta inicial de revisión, revisor, escalado, decisión final y evidencia. Eso hace defendible la decisión más adelante.