La relatora especial de la ONU sobre derecho a la privacidad reclama transparencia y explicabilidad en el tratamiento de datos personales en la inteligencia artificia
Ana Brian Nougrères, relatora especial sobre el derecho a la privacidad, presentó el viernes 13 de octubre su informe anual a la Asamblea General de las Naciones Unidas. Durante la intervención, afirmó que la omnipresencia de la IA en todas las actividades y la toma de decisiones sobre las personas exige que se tomen medidas para garantizar que el uso de la IA sea ético, responsable y respetuoso con los derechos humanos.
Las nuevas tecnologías siempre han sido grandes compañeras en nuestra búsqueda de desarrollo y progreso, pero también generan una serie de riesgos inherentes a su uso y evolución. […] Respetar los derechos y libertades fundamentales y al mismo tiempo mitigar los riesgos del uso indebido de la información personal es crucial para salvaguardar el derecho a la privacidad.
En el informe apunta la transparencia y la explicabilidad, como principios rectores en el desarrollo de esta tecnología. De esta forma, las personas afectadas por la IA podrán estar informadas de manera oportuna, integral y clara sobre cuestiones relacionadas con el uso de su información personal en los procesos de IA y de las posibles consecuencias
En el documento se concreta que la transparencia exige claridad, veracidad, imparcialidad y publicidad de las decisiones tomadas utilizando la IA. Mientras que la explicabilidad es la lógica, el método y el razonamiento para tomar decisiones sobre los seres humanos basándose en información, particularmente datos personales.
La explicabilidad y la transparencia son, por supuesto, lo opuesto a la oscuridad, el engaño y el abuso del poder informático, que son algunos de los síntomas de un procesamiento ilegal y poco ético que refleja una falta de respeto por la privacidad y la dignidad.
Por último, hace una serie de recomendaciones a los estados para la incorporación y garantía de estos principios:
- Introducirlos como una parte estructural clave en el sistema jurídico, incorporándolos a las legislaciones nacionales, de forma que la ciudadanía pueda ejercer sus derechos, específicamente el derecho al debido proceso y el derecho a la defensa cuando se enfrenta a decisiones tomadas utilizando herramientas o tecnologías de inteligencia artificial.
- Promover prácticas éticas para garantizar la transparencia en la IA y para mitigar los riesgos.
- Apoyar y facilitar la educación y la alfabetización digital para mejorar la comprensión de los conceptos relacionados con la IA y la privacidad por parte de la ciudadanía