Desde entonces, o con toda seguridad ya antes, la tecnología avanza siempre pasos por delante de la norma. Dado que la tecnología debe respetar el Derecho, este desajuste produce un falso dilema entre regulación estricta e innovación desafecta, mediado por un entramado institucional dirigido a la generación normativa y su supervisión.
Esta vez muchos piensan que la magnitud del desafío es distinta dada la naturaleza de la Inteligencia Artificial. Puede parecerlo. Como también ocurrió con el telescopio, la navegación oceánica o la telefonía móvil, la tecnología no solo cambia procesos o herramientas, sino que redefine la manera en que tomamos decisiones, cómo nos relacionamos con otras personas o con el mundo, cómo nos afirmamos como individuos o cómo nos definimos como sociedad. Pienso que probablemente la diferencia está en que en esta ocasión somos todos más conscientes de ello y el debate adquiere un cariz de responsabilidad institucionalizada basada en el entendimiento de lo que tenemos entre las manos, responsabilidad a la que denominan “la IA ética”.
¿Cómo será en el futuro la regulación de la Inteligencia Artificial? Pues dependerá de cómo sea la Inteligencia Artificial del futuro. En otro caso, estaríamos preguntándonos cómo la regulación del futuro regulará la Inteligencia Artificial del presente, cosa que, aunque parezca absurda, sirve de base a planeamientos legislativos de muchas estrategias regulatorias.
¿Cómo será la Inteligencia Artificial del futuro?
A falta del necesario don de visionario, podríamos prever lo siguiente:
- La IA tendrá un mayor parecido con la inteligencia y la agencia humanas, será realmente multidominio y tendrá en cuenta el contexto, las emociones y la cultura.
- La IA se convertirá en una infraestructura invisible, ubicua e integrada en nuestro día a día, sin que nos demos cuenta de ello.
- La IA será personalizada a la manera de un compañero cognitivo artificial que nos acompaña, así como un agente personal, un consejero. Tendrá capacidad de tomar decisiones en nuestro nombre.
- La IA aportará las bases para una consciencia aumentada con nuevas interfaces e interacciones humano-máquina.
- De todo lo anterior se concluye en una IA Agentiva, que se comunicará con otros agentes para desplegar y cumplir las instrucciones que se le remitan. Cambiará la web y, en general, nuestras interacciones online.
Las respuestas regulatorias parece que deberán ser más complejas, dinámicas y completas que las basadas en los actuales modelos de conformidad de producto, que se encuentran más cerca del sello administrativo que, allá en el siglo XIX, perseguía Don Rodrigo para la instalación de su línea doméstica.
La regulación deberá adaptarse a estas respuestas mediante otro tipo de mecanismos basados en la gobernanza algorítmica y supervisión automatizadas. También en otros sectores, no solo en la Inteligencia Artificial, la supervisión y la auditoría serían continuas, basadas en la disponibilidad permanente de datos. La regulación deberá por tanto asegurar esa transparencia y el acceso a los registros de funcionamiento y a toda la información necesaria para su correcta supervisión. Esto nos llevará a intensificar los requisitos de transparencia y trazabilidad de los algoritmos. Información esta que, a disposición de unos algoritmos o inteligencia artificial supervisora, servirá para generar explicabilidad “natural” y la ejecución continua de evaluaciones de impacto algorítmico de forma dinámica y automatizada.
La única manera de llegar a esa supervisión es mediante el uso de la Inteligencia Artificial para evaluar y hacer explicable la Inteligencia Artificial: sistemas de IA que auditen y supervisen a la IA mediante métricas de equidad, robustez y sostenibilidad. La regulación futura de la IA deberá asegurar que: a) esa información estará a disposición de algoritmos supervisores que fiscalicen y monitoricen en tiempo real su funcionamiento y b) el establecimiento de indicadores que permitan medir su correcto funcionamiento dentro de los límites “éticos” definidos por esa misma regulación.
Una Inteligencia Artificial ubicua y supervisada requerirá también la elaboración de protocolos de interoperabilidad semántica y ética entre algoritmos, entre los agentes inteligentes, y entre estos y sus supervisores, que faciliten su auditoría y certificación. En este contexto, la definición de responsabilidades en la cadena seguirá siendo relevante, más si cabe aún, a los efectos de la rendición de cuentas y de responder de las consecuencias de los algoritmos.
El despliegue de agentes inteligentes personales requerirá revisitar cuestiones de privacidad, muy especialmente en lo relativo a la automatización de reglas de privacidad asociadas al contexto que el agente tendrá que incorporar. Nuevos riesgos de ciberseguridad aparecerán en ese mundo agentivo, así como cuestiones sobre responsabilidad de las acciones tomadas en nombre de seres humanos.
Esta regulación deberá ir también acompañada de una elaboración o reelaboración de derechos subjetivos:
- Derecho a la portabilidad algorítmica y agentiva para poder trasladar perfiles personales de IA entre plataformas sin perder control ni personalización.
- Derecho a no ser perfilado automáticamente. Esto ya existe, pero sin lugar a duda habrá que adaptarlo.
- Derecho a una explicación comprensible, no solo técnica sino natural y humana.
- Derecho a impugnar las decisiones basadas en IA. Quizá mediante sistemas de IA alternativos. La supervisión humana o el “man in the middle”, como alternativa, no serían suficientes.
- Derecho a algún tipo de desconexión cibercognitiva o agentiva, que permita vivir y decidir en ciertos ámbitos sin mediación constante de algoritmos.
En definitiva, necesitaremos que la regulación favorezca requisitos de transparencia y rendición de cuentas, dando prioridad a las personas y al respeto de sus derechos fundamentales y libertades. También observando los impactos sociales y culturales de la tecnología, y valorando las salvaguardas que deberemos imponer como sociedad.
