La Agencia Española de Protección de Datos advierte sobre la importancia de garantizar una intervención humana real cuando se utilizan sistemas automatizados o algoritmos para tomar decisiones que afectan a las personas.
El Reglamento General de Protección de Datos reconoce el derecho a no ser objeto de decisiones exclusivamente automatizadas, salvo en determinados supuestos, pero incluso en esos casos exige garantías. Entre ellas, destaca la necesidad de que exista una intervención humana que no sea meramente formal.
Esta intervención debe ser significativa, lo que implica que la persona encargada:
- Comprenda el funcionamiento del sistema
- Analice críticamente el resultado
- Tenga capacidad real para modificar o anular la decisión
Cuando la revisión humana se limita a validar automáticamente lo que decide el sistema, en realidad no existe un control efectivo, lo que puede derivar en riesgos como sesgos, errores o vulneraciones de derechos.
Además, este enfoque se refuerza en España a través de la Ley Orgánica de Protección de Datos y Garantía de los Derechos Digitales , que consolida la protección frente a decisiones automatizadas en el entorno digital.
En conclusión, las organizaciones deben diseñar sus procesos asegurando que el control humano sea real, informado y con capacidad de decisión, evitando que se convierta en un simple trámite sin valor.