En recientes años ha tomado dimensión la importancia e impacto que la recolección y el manejo de grandes volúmenes de datos tiene, tanto por sus potenciales beneficios como por sus riesgos inherentes. Ello se debe a que los avances en las tecnologías de información han incrementado exponencialmente la cantidad de datos que se producen y recolectan, lo que consecuentemente ha requerido generar soluciones para que esos datos puedan ser procesados de modo tal que constituyan información relevante de calidad y que a su vez no se vulneren derechos básicos de sus titulares.
Es imposible manejar la cantidad de datos disponibles actualmente sin recurrir a algún mecanismo automatizado para la elaboración, formateo, procesamiento y utilización de estas bases de datos. Además, utilizando sistemas de inteligencia artificial, se pueden procesar trillones de datos, a una velocidad que sería impensada de manera manual humana.
La Ley de Protección de Datos Personales N° 25.326 conforma el principal marco regulatorio de los derechos y obligaciones relacionados a la explotación de datos en nuestro país. Este marco es complementado por el Decreto Reglamentario Nº 1558/2001, así como las resoluciones dictadas por su autoridad de aplicación, la Agencia de Acceso a la Información Pública (AAIP), y más recientemente por la adhesión de la Argentina al Convenio N° 108 de la Unión Europea y la firma del Protocolo Adicional del mismo (también llamado” Convenio 108+”), aunque resta completar el proceso legislativo para la entrada en vigencia de este último en nuestro país.
En la Resolución 4/2019, la AAIP consagra el Criterio 2, respecto al tratamiento automatizado de datos y el derecho a la información del titular de los datos. La Agencia considera que en caso de que el responsable de la base de datos tome decisiones basadas únicamente en el tratamiento automatizado de datos, que le produzcan al titular de los datos efectos jurídicos perniciosos o lo afecten significativamente de forma negativa, el titular de los datos tendrá derecho a solicitar al responsable de la base de datos una explicación sobre la lógica aplicada en aquella decisión.
Debido a que la mayoría de los sistemas de inteligencia artificial no son capaces de explicar las decisiones que toman[1], este criterio implica una limitación en su uso. Ya sea que se deban utilizar únicamente sistemas explicables, o se requiera un nivel adicional de confirmación humana para las decisiones que se tomen en base a sistemas no explicables, debe considerarse el Criterio 2 de la Res. 4/2019 de la AAIP para el caso de todas aquellas decisiones que puedan afectar negativamente a los titulares de datos.
Cabe señalar que esta regulación se alinea con las consideraciones de Inteligencia Artificial propuestas por el Papel Blanco de la Unión Europea, que impulsa la combinación entre sistemas Simbólicos (con reglas definidas por humanos) y los sistemas de Aprendizaje Automático para dotar a estos últimos de mayor explicabilidad.[2]
Por ello, si bien la regulación argentina permite el manejo automatizado de datos utilizando sistemas de inteligencia artificial, debe tenerse en cuenta esta obligación dirigida al responsable de la base de datos, al momento de diseñar el proceso de toma de decisiones.
[1] Los sistemas que utilizan “Deep machine learning” (como Siri, Google Search, Cortana, etc.) utilizan un mecanismo basado en redes neurales que torna casi imposible entender por qué o cómo se llegó a determinada decisión. Conf. Bostrom, N. and E. Yudkowsky (2018), “The Ethics of Artificial Intelligence”, in Artificial Intelligence Safety and Security.
[2] Comisión Europea. “White Paper on Artificial Intelligence – A European approach to excellence and trust”. Pg. 5. Bruselas. 19.2.2020.
Para mayor información por favor contactar a:
Ignacio Sáenz Valiente
Socio | Asesoramiento Corporativo y Reorganizaciones Societarias
ivaliente@svya.com.ar
Agustina Figueroa Imfeld
Asociada | Litigios complejos
afigueroaimfeld@svya.com.ar
