La inteligencia artificial generativa es la tecnología que mayor impacto tendrá en la sociedad y economía en los próximos años. La gran diferencia entre la IA generativa y los tipos más establecidos de IA es que da el salto de las capacidades cognitivas al ámbito de las capacidades creativas. Con lA generativa, la máquina produce información nueva en lugar de limitarse a reconocer, analizar o clasificar contenido existente. Es decir, tiene capacidad para crear nuevos contenidos.
Algunos estudios estiman que tiene el potencial de generar entre 2,6 y 4,4 mil millones de dólares anuales a la economía mundial, lo que supondría entre un 15 y un 40 por ciento más que el de la inteligencia artificial. Su uso se extenderá a todos los sectores industriales y tendrá una incidencia especial sobre la banca, la alta tecnología y la investigación. Además, impactará de manera muy significativa al trabajo, mejorando la productividad y contribuyendo a un crecimiento anual de entre el 0,1% y el 0,6% hasta 2040.
Aunque se encuentra en las primeras fases de su desarrollo y sobre todo de su aplicación, es una de las tecnologías sobre la que se han generado mayores expectativas desde el sector privado, por su potencial impacto en mejora de productividad, crecimiento y eficiencia.
De ahí que en los últimos meses han proliferado propuestas a escala global y regional para mejorar el marco de gobernanza de la inteligencia artificial, incluida la IA generativa. La rápida evolución de esta tecnología ha demostrado que todas ellas deben ajustarse a esquemas flexibles, con una rápida adaptabilidad a la innovación, que sean a la vez compatibles con los derechos de las personas y ofrezcan seguridad jurídica a todas las partes implicadas.
En este post, abordaremos la propuesta de Pacto por la IA de la Comisión Europea y los principios y códigos de conducta de Hiroshima que aspiran a ser adscritos por parte de las empresas de manera voluntaria.
Pacto europeo por la Inteligencia Artificial
En la fase final de la negociación de la ley de Inteligencia Artificial, que incluye los modelos de la IA generativa, la Comisión Europea presenta el 16 de noviembre en Madrid el Pacto por la IA en el marco del evento de la IA Alliance, “Leading Leading Trustworthy AI Globally”.
El Pacto por la IA es un llamamiento a las empresas a aplicar la Ley de IA comprometiéndose voluntariamente antes de su puesta en vigor. Con ello, la UE pretende acelerar los procesos institucionales, los cuales se encuentran desacoplados de la velocidad de la innovación y uso de la tecnología, para generar un “estándar” regulatorio de la IA a escala global, incluyendo la IA generativa.
Sin duda, es crucial reforzar la cooperación con las empresas que siguen demostrando su compromiso con una IA responsable; pero para participar en una iniciativa de esta índole, las instituciones deben llegar a un acuerdo de ley que genere certidumbre jurídica, y equilibre adecuadamente la innovación y una IA centrada en la persona. La puesta en marcha del Pacto por la IA en el 2024 será un paso muy importante hacia una gobernanza responsable y transparente de la IA. Y, para que ello suceda, el diálogo abierto con las empresas incorporando su experiencia será clave.
Los principios de Hiroshima de inteligencia artificial
En mayo de 2023, los países del G7 acordaron dar prioridad a la colaboración para una gobernanza inclusiva de la IA, buscando el desarrollo de sistemas seguros y fiables y a la vez maximizando los beneficios de la tecnología, incluido para las economías en desarrollo y emergentes, cerrando las brechas digitales.
Los principios de Hiroshima de modelos de IA avanzados, incluidos los modelos fundacionales y los sistemas de IA generativa se ratificaron por el G7 el pasado mes de octubre. Se trata de un conjunto de 11 principios rectores internacionales que pretenden ser aplicados a todos los agentes de la IA y abarcan el diseño, desarrollo, despliegue y uso de sistemas avanzados de IA.
Estos principios a su vez han servido de base para la creación de un código de conducta para desarrolladores de IA. La adhesión por parte de las empresas a estos principios es voluntaria y, lógicamente, se tendrían que adaptar a las singularidades de cada jurisdicción.
Es importante recordar que estos principios parten de los principios de IA de la OCDE, y que por tanto pueden entenderse como una evolución de estos y una respuesta rápida ante los recientes cambios en los sistemas avanzados de inteligencia artificial. Además, promueven una mayor concreción en las acciones que deben seguir las organizaciones que decidan suscribir el código de conducta» de acuerdo con un enfoque basado en el riesgo».
En este contexto, la OCDE también se encuentra en un proceso de revisión de los principios y definición de la inteligencia artificial por la rápida evolución de los sistemas de inteligencia artificial generativa.
Se trata de un importante paso adelante en la búsqueda de un modelo de gobernanza global, que debe buscar la interoperabilidad de los marcos normativos, para proporcionar seguridad y confiabilidad para el desarrollo y adopción de esta tecnología.
El papel de las empresas en la gobernanza global de modelos de inteligencia artificial avanzados
Estas dos propuestas aterrizan la aspiración de aplicar esquemas regulatorios y de principios de una inteligencia artificial confiable, segura y centrada en la persona. Ahora entramos en una nueva fase. La inteligencia artificial no se limita a las fronteras nacionales y, por tanto, su gobernanza requiere de soluciones y enfoques globales.
Las empresas hemos hecho un largo camino hasta ahora adoptando principios de autorregulación a favor de una inteligencia artificial responsable acorde con los derechos fundamentales de la persona, la democracia y el Estado de Derecho. Todos ellos muy acordes con las propuestas de organismos internacionales como la OCDE, la UNESCO o de la Unión Europea.
Pacto europeo por la IA
La propuesta europea trata de avanzar a través de una aplicación acelerada de la regulación contando con una adhesión voluntaria de las empresas. El Pacto por la IA será un éxito si las negociaciones en este último tramo de negociaciones concluyen en un reglamento que despeje algunas de las dudas planteadas por las empresas y algunos Estados miembros. Es muy relevante que las definiciones de los sistemas de Inteligencia Artificial generativa y los modelos fundacionales se adapten a su aplicación real. No puede haber una disonancia entre la teoría y la realidad. Además, se debe preservar un enfoque basado en el riesgo en el que cada agente asuma las obligaciones acordes con su función y capacidades. Es crítico que el reglamento sea capaz de garantizar los derechos, la seguridad y la salud de las personas y al mismo tiempo fomente la innovación y la competitividad de las empresas. Ahí está la clave.
Los principios del G7
El proceso de Hiroshima, por su parte, es una guía amplia de conducta que permite en un marco flexible un entendimiento global sobre los límites del desarrollo y uso de la inteligencia artificial. De ahí que el proceso de consulta con las empresas será crítico para que se constituya en la práctica como el marco de referencia de una inteligencia artificial de sistemas avanzados de IA confiable y segura.
En conclusión, la tecnología está cambiando los procesos, las formas y los tiempos de la regulación, así como los principios. Solo se podrá avanzar hacia una gobernanza de la inteligencia artificial, incluida la generativa, si se produce una colaboración público-privada sustantiva e iterativa. La complejidad de los sistemas de inteligencia artificial y la velocidad de la innovación requiere esquemas flexibles, con una rápida adaptabilidad a la innovación, así como un diálogo constante entre las partes.
