Ir al contenido principal

Etiqueta: datos personales

Inteligencia artificial y Derecho, una simbiosis a debate en GC LEGAL

Santiago Martín Caravaca analiza el borrador del Reglamento AI del Parlamento Europeo, pendiente de aprobación.

CONSULTA LA PRESENTACIÓN COMPLETA AQUÍ

 

El mundo moderno, impulsado por rápidos avances en inteligencia artificial (IA), se encuentra en una encrucijada: ¿Cómo lograr que la tecnología y la ley no solo coexistan, sino que también se complementen y se potencien mutuamente? GC LEGAL, reconociendo la necesidad de abordar este tema, organizó un evento en el que Santiago Martin Caravaca, Abogado LL.M (ICAM y Ord. Avv. Torino) experto en Tecnología de Futura Law Firm de Turín (Italia) ofreció su autorizada opinión.

Una ponencia en la que Caravaca analizó el borrador de la propuesta de Reglamento del Parlamento Europeo y del Consejo (de 14 de junio), por el que se establecen las normas armonizadas en materia de Inteligencia Artificial.

Desde sus primeras palabras, Caravaca subrayó que comprender la IA va más allá de desentrañar algoritmos o decodificar líneas de programación. Es adentrarse en cómo estos avances tecnológicos interactúan e incluso colisionan con los Derechos Fundamentales de los individuos. Enfatizó con convicción: “Hablar de IA es hablar de Derechos Fundamentales”. Caravaca señaló la vital importancia de distinguir entre la igualdad formal y la material, tanto en la estructura algorítmica como en los resultados que emanan de la IA. Recalcó que nos encontramos ante un desafío de proporciones significativas. Además, destacó la relevancia de ciertas normativas en España, especialmente la Ley 15/2022, del 12 de julio, que busca asegurar la igualdad de trato y erradicar cualquier forma de discriminación. Esta norma insta a integrar mecanismos en el diseño y los datos con los que se alimenta la IA para detectar y contrarrestar posibles sesgos discriminatorios, añadiendo que no es necesario aguardar a la implementación del Reglamento de IA para hacer efectiva dicha ley. Profundizó en la trascendencia del Código Napoleónico, una columna vertebral del legado legal y cultural europeo, y reflexionó cómo, en nuestra era digital, los principios longevos del código están siendo «hackeados» y redefinidos por la tecnología.

Pero el debate no se quedó allí. Caravaca llevó la discusión a un punto aún más delicado y contemporáneo: los datos personales. En un mundo en el que la información es poder, Caravaca citó el fallo del Tribunal Administrativo Regional de Lazio de 2020, que sugiere que los datos personales no son simplemente identificadores, sino activos con un valor económico en el mercado digital.

Caravaca ofreció un análisis detallado de los marcos legislativos actuales y en desarrollo que buscan entender y regular la compleja esfera de la inteligencia artificial. Subrayó la necesidad de examinar estas regulaciones de manera integrada y no individualizada, abarcando desde la Ley de Servicios Digitales (DSA), la Data Act, la Data Governance Act, pasando por la revisión de la Directiva sobre Productos Defectuosos, las propuestas de Directivas sobre responsabilidad extracontractual en IA, hasta la Propuesta de Reglamento sobre Inteligencia Artificial, sin olvidar el RGPD. Enfatizó el formidable reto de adecuar las normativas a una tecnología que evoluciona a un ritmo vertiginoso y crear normas verticales por sectores y especificas que puedan complementar las transversales.

Además, instó a los profesionales jurídicos a familiarizarse con términos técnicos de IA, como Deep Learning y Machine Learning, Overfitting, Hidden Layers o Training Data y cómo estos se entrelazan con los conceptos jurídicos en las regulaciones.

No obstante, uno de los puntos más destacados de su presentación fue su análisis sobre el borrador de la propuesta de Reglamento sobre Inteligencia Artificial. Caravaca proporcionó un desglose meticuloso, abordando no solo su contenido, sino también sus posibles implicaciones. Habló sobre áreas sensibles, como la prohibición de sistemas IA de identificación biométrica en tiempo real, en espacios de acceso publico. Esta medida podría tener repercusiones en las iniciativas de reconocimiento facial en estadios deportivos, algo que ya ha provocado la reacción de la AEPD en España y otras autoridades europeas como la CNIL. Además, puso de manifiesto la prohibición de prácticas como el «social scoring» y el empleo de la IA para estimar la probabilidad de que alguien cometa un delito, evocando escenas del film «Minority Report». No dejó de lado la aplicación de la IA en entornos laborales y educativos y planteó preguntas provocadoras como «¿Puede un juez utilizar la IA?«. Aunque el borrador no lo prohíbe de manera explícita, lo clasifica como de alto riesgo, lo que conlleva unas obligaciones de compliance muy rigurosas y puntuales. De ese modo, enumeró las reglas de clasificación para los sistemas de IA  de alto riesgo (con todas las precisiones incluidas en el artículo 6) – pueden consultarse en la presentación en pdf -; junto con las obligaciones de Transparencia (art. 52.1, 52.2, 52.3), y las obligaciones del proveedor de un modelo fundacional (artículo 28 ter).

Caravaca insistió en que la versión de este borrador de Reglamento está abierta y puede ser objeto de cambio, pero avanzó que probablemente se aprobará antes de las elecciones europeas.

Terminando su charla, Caravaca ofreció una reflexión profunda sobre el desafío de adaptarse al mundo moderno. Comparó nuestro enfoque actual hacia la IA con intentar usar un smartphone moderno mientras se está atrapado en la mentalidad de la era del teléfono rotatorio de los años 50. Su mensaje fue claro: el mundo jurídico y tecnológico debe colaborar más estrechamente, aprender el uno del otro y, juntos, trazar el camino hacia el futuro.

 

Aprobada la norma que refuerza los derechos digitales de la ciudadanía: Ley Orgánica de Protección de Datos y Garantía de los Derechos Digitales.

Buenos tiempos para la protección de datos y garantía de los derechos digitales. Desde el 7 de diciembre de 2018 se encuentra en vigor la nueva Ley que los regula y garantiza.

Se trata de la Ley Orgánica  3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales (BOE 06.12.2018). Norma que, acorde a las exigencias europeas, deviene necesaria para adaptar el ordenamiento jurídico español al Reglamento (UE) 2016/679 del Parlamento Europeo y el Consejo de 27.04.2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de sus datos personales y a la libre circulación de estos datos (de aplicación directa desde el 25.05.2018). Clara manifestación de los avances y de la reforma del marco jurídico que en los últimos tiempos se ha se llevado a cabo para procurar seguridad jurídica y lograr, en suma, una protección eficaz y adecuada de los datos de carácter personal[1].

Pues bien, en esta labor, la Ley que ahora nos ocupa  introduce novedades al complementando sus disposiciones, a la par que garantiza los derechos digitales de la ciudadanía conforme al mandato establecido en el artículo 18.4 de la Constitución, incidiendo en aspectos jurídico constitucionales de la tutela de tal derecho. Norma que, a todas luces, constituye un nuevo hito legislativo en la evolución de la regulación del derecho fundamental a la protección de datos en nuestro país

Dicho lo anterior, ponemos el foco de  atención en su “Título X”.

Título el citado, del que resulta de interés subrayar en primer término que, pese a no aparecer en el proyecto de ley remitido por el Gobierno al Congreso en noviembre de 2017, finalmente fue incorporado en el Texto, acometiendo la tarea, tal y como expone el Preámbulo, de “reconocer y garantizar un elenco de derechos digitales de los ciudadanos conforme al mandato establecido en la Constitución”.

En efecto, bajo la rúbrica “Garantía de los derechos digitales” se obtiene el resultado de un exitoso Título que integra los artículos 79 al 97, en los que se abordan derechos que van mucho más allá de la protección de datos personales. En suma:

.           Derechos generales de los ciudadanos en internet (arts.79 a 82). Con referencia a los derechos en la era digital, declarando expresamente que los derechos y libertadas consagrados en la Constitución y en los Tratados y Convenios Internaciones en que España sea parte son plenamente aplicables en internet; refiriendo a su vez al derecho a la neutralidad de internet y acceso universal. (i) Así, en lo que respecta al acceso universal, será posible con esta nueva ley obtener un bono social para facilitar el acceso a la red de toda la población; tratándose ésta de una de las medidas de mayor alcance social que prevé la norma, tratándose de un acceso universal, asequible, de calidad y no discriminatorio para ninguno de los sectores, procurando a su vez la superación de las brechas de género y generacional. (ii) El derecho a la neutralidad de internet; derecho con el que los proveedores deben proporcionar una oferta transparente de servicios sin discriminación por motivos técnicos o económicos. (iii) El derecho a la seguridad digital permitirá a los usuarios su derecho a la seguridad de las comunicaciones que transmiten y reciban a través de internet.

.           Derechos específicos relacionados con la educación digital, así como a la protección de los menores en internet y a los datos de los mismos (arts.83,84,92). Ámbito éste en el que más bien parecen fijarse obligaciones. Así:(i) En relación a la educación digital, se establece la necesidad de garantizar en el ámbito educativo un uso seguro de los medios digitales, con respeto a los derechos y valores que propugna nuestra Constitución tales como la dignidad humana, los derechos fundamentales, en particular el respeto y la garantía de la intimidad personal y familiar, así como la protección de datos personales. (ii) En lo que respecta a la protección de los menores en internet, se fija en la ley como edad idónea para su consentimiento válido en el tratamiento de datos personales la de catorce años, previéndose a su vez que la utilización o difusión de imágenes de menores en las redes sociales y servicios de la sociedad de la información equivalente, que pueda implicar una intromisión ilegítima en sus derechos fundamentales, determinará la intervención del Ministerio Fiscal.

.           Derechos relacionados con el ámbito laboral (arts.87 a 91). Conviene recordar en este contexto la existencia de pacífica jurisprudencia que impedía a los empresarios dar instrucciones a sus empleados fuera de las horas de trabajo. De ahí el interés que revierte el nuevo texto legal cuando, en relación a los derechos relacionado en este ámbito (así como en el funcionarial o administrativo laboral), recoge: (i) El derecho a la protección de su intimidad en el uso de dispositivos digitales puestos a disposición por el empleador; si bien se permite el acceso a los contenidos de los dispositivos digitales facilitados a sus trabajadores con fines de control del cumplimiento de las obligaciones laborales, previo cumplimiento de los requisitos fijados por la ley. (ii) El derecho a la desconexión digital en el ámbito laboral a fin de garantizar el respeto a su tiempo de descanso, permisos y vacaciones e intimidad personal y familiar. (iii) El derecho a la intimidad frene al uso de dispositivos de videovigilancia y de grabación de sonidos en el lugar de trabajo, a salvo supuestos que excepcionalmente recoge la norma. (iv) El derecho a la intimidad ante la utilización de sistemas de geolocalización en el ámbito laboral. (v) Los derechos digitales en la negociación colectiva, pudiendo por tanto los convenios colectivos establecer garantías adicionales.

.           Derechos relacionados con los medios de comunicación digitales (arts. 85,96). (i) Con el reconocimiento del derecho a la rectificación en internet,  todos tienen derecho a la libertad de expresión en internet; debiendo los responsables de redes sociales y servicios equivalentes adoptar protocolos adecuados para posibilitar el ejercicio del derecho de rectificación, según los requisitos legales exigidos. En conexión con lo dicho, se reconoce el derecho a la actualización de informaciones en medios de comunicación digital. (ii) Por otro lado, el derecho al testamento digital, tratándose éste de un derecho que permitirá a los ciudadanos designar en sus testamentos a sus herederos digitales a fin de reclamar ante las empresas la información colgada por el finado.

.           Derecho al olvido en búsquedas de internet y en servicios de redes sociales y servicios equivalentes (arts.93,94). Derechos que asisten al ciudadano en la defensa de su intimidad, privacidad y protección de sus datos en la red; de tal manera que este derecho al olvido permite al usuario reclamar datos presentes en internet así como en servicios de redes sociales y servicios de la sociedad de la información equivalentes, también en buscadores con información obsoleta o no actualizada. Y siendo posible efectuar dicha petición de eliminación de la información cuando los datos ya no sean necesarios para la finalidad para la que fueron recogidos o el usuario interesado retira su consentimiento para que se sigan usando esos datos; asimismo cuando los datos se hayan obtenido o tratado de forma ilícita. Quedando a salvo lo dicho, cuando prevalezca el derecho a la libertad de expresión o información, o por razón de interés público.

.           Derecho a la portabilidad en servicios de redes sociales y servicios equivalentes (art. 95). Se trata en este caso del derecho a la portabilidad de los datos que le incumban y que se haya facilitado a un responsable de tratamiento.

.           Las políticas de impulso de los derechos digitales (art.97) cierran el Título, de manera tal que el Gobierno, en colaboración con las Comunidades Autónomas, elaborarán un “Plan de Acceso a Internet” y un “Plan de Actuación”, orientados y dirigidos ambos en los términos que el precitado artículo establece; y con la necesaria presentación por parte del Gobierno de un informe anual ante la comisión parlamentaria correspondiente del Congreso de los Diputados en el que se dará cuenta de la evolución de los derechos, garantías y mandatos contemplados en el presente Título y de las medidas necesarias para promover su impulso y efectividad.

Llegados a este punto, concluimos con nueva cita al Preámbulo de la Ley Orgánica que nos ocupa, cuando refiere a que “…, una deseable futura reforma de la Constitución debería incluir entre sus prioridades la actualización de la Constitución a la era digital y, específicamente, elevar a rango constitucional una nueva generación de derechos digitales”; en sintonía con el refuerzo que de los mismos viene efectuando en los últimos años el marco normativo de la Unión Europea.

 

María Luisa Vilela Pascual

Abogada GC Legal

[1] Resulta significativa en este contexto una interesante sentencia de 15.12.1983 del tribunal constitucional federal de la república alemana sobre el censo de población de Alemania de 1982, que afirmaba que la proliferación de bases de datos había permitido, gracias a los avances tecnológicos, obtener “una imagen total y pormenorizada de la persona incluso en el ámbito de su intimidad, convirtiéndose así el ciudadano en hombre de cristal”.