La Inteligencia Artificial y las responsabilidades de los intervinientes

In marzo 29, 2022
On Blog
Comments off
170 Views

Con motivo de la presentación por parte de la Comisión Europea el 21 de abril de 2021 de la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial, el pasado 22 de febrero el Comité Europeo de Protección de Datos emitió una carta sobre las normas de responsabilidad de la Inteligencia Artificial.

Sobre el marco jurídico debe garantizarse la existencia de coherencia y armonía con la normativa de protección de datos, e incluso poder complementarla, al encontrarse relacionado con la seguridad de tratamientos de datos personales. Este mismo punto parece haber quedado ya previsto al considerar como autoridades nacionales de supervisión en esta materia a las autoridades de protección de datos.

En primer lugar, debemos tener en cuenta que, en materia de protección de datos, solo los responsables y encargados del tratamiento tienen responsabilidad en las infracciones. Sin embargo, comienza a considerarse que los desarrolladores de estos sistemas, aunque no se encuentren dentro de ninguna de estas dos figuras indicadas, deberán poder garantizar la seguridad del tratamiento de datos personales, resultando necesario reforzar el régimen de responsabilidad de estos proveedores. Po reste motivo, el Comité considera que el papel y la responsabilidad de los proveedores deberá quedar correctamente definida y asignada, pudiendo llegar a ser independiente a la responsabilidad de responsables y encargados del tratamiento.

Una de las recomendaciones expresadas, es la necesidad de reflejar la obligación de la privacidad desde el diseño, ya prevista en el propio RGPD, en la que proveedores del sistema de Inteligencia Artificial puedan ser responsables, a pesar de que en el propio tratamiento de datos no lleguen a tener acceso.

Además, como apoyo para la gestión de fallos, especialmente cuando estén involucrados datos personales, se indica que el sistema de Inteligencia Artificial debería ir acompañado de documentación que ayude al responsable del tratamiento.

En relación con lo expuesto, encontramos el problema de detección por parte de la persona afectada de a quién corresponde la responsabilidad, no permitiéndole por ello tener el conocimiento de a quién reclamar en el caso de ver involucrados sistemas de Inteligencia Artificia, pudiendo incluso desconocer el uso de esta tecnología o carecer de la información necesaria para probar la responsabilidad.

Sin embargo, esto no podrá afectar en la defensa de la persona afectada por lo que deberá tener opciones de defensa a través de recursos legales efectivos cuando se produzcan fallos o ataques que puedan afectarles.

Por último, deberá prestarse especial atención a la exactitud de los datos y a la toma de decisiones automatizadas a través de algoritmos, pudiendo traducirse en daños a los derechos y libertades de las personas. Por lo que resulta esencial que en el régimen de responsabilidad de los desarrolladores se evalúe, de forma previa, la calidad y la representatividad de los datos utilizados por los algoritmos de aprendizaje automático.

En líneas generales, el uso de sistemas de Inteligencia Artificial deberá apoyar la creación de un entorno tecnológico fiables y limitación de los efectos negativos de decisiones erróneas, incluyendo por lo tanto un reparto claro de responsabilidades entre los intervinientes.

 

#inteligenciaartificial, #IA, #edps, #responsabilidad, #protecciondatos, #rgpd, #helas, #privacy

 

Patricia Guirao Melero

Consultor de Helas Consultores

       

 

Comments are closed.