Acuerdo provisional para regular la IA en la Unión Europea

Los negociadores del Parlamento Europeo y la presidencia del Consejo llegaron a un acuerdo provisional para la propuesta de normas harmonizadas sobre inteligencia artificial (IA) conocida como «Ley de IA». Esta propuesta histórica busca garantizar que los sistemas de IA comercializados en el mercado europeo sean seguros y respeten los derechos y valores de la Unión Europea.

La Ley de IA, primera propuesta legislativa de este tipo a nivel mundial, tiene por objetivo estimular la inversión y la innovación en IA en Europa, con el fin de fomentar la adopción de sistemas seguros y confiables en el mercado único de la UE. Esta iniciativa regula la IA de acuerdo a su capacidad de causar daño a la sociedad, siguiendo un enfoque «basado en el riesgo», es decir, cuantos mayores riesgos tenga el sistema, más estrictas serán las reglas. 

El acuerdo provisional se centra en la regulación de los modelos de IA de propósito general de alto impacto y los sistemas de IA de alto riesgo. Esto incluye la creación de un sistema revisado de gobernanza con algunos poderes de ejecución a nivel de la UE, la ampliación de la lista de prohibiciones, con la posibilidad de utilizar la identificación biométrica remota por parte de las autoridades encargadas de hacer cumplir la ley en espacios públicos, sujetos a salvaguardias, y una mejora en la protección de los derechos mediante la obligación de evaluar el impacto de la IA en los derechos humanos antes de poner el sistema en uso. 

Como parte de la legislación europea, la futura Ley de IA podría convertirse en un estándar global para la regulación de la inteligencia artificial, lo que permitiría promover el enfoque europeo de la regulación tecnológica a nivel mundial. Esto, pese a que el acuerdo todavía no es definitivo, sino provisional, y a que aún queda un largo camino por recorrer antes de que la ley llegue a ser aplicada. 

De todas formas, es un paso importante hacia la regulación de la inteligencia artificial en Europa, con el que se busca garantizar la seguridad de los usuarios, así como la protección de sus derechos. Un paso que esperamos sea seguido por el resto del mundo. 

El proyecto de reglamento contiene aspectos de interés como:

• Definiciones y alcance: el Acuerdo provisional para regular la IA en la Unión Europea alinea la definición de un sistema de IA con el enfoque propuesto por la OCDE. Establece que el reglamento no se aplica a áreas fuera del alcance de la legislación de la UE ni a los sistemas que se utilicen exclusivamente con fines militares o de defensa, ni a los sistemas de IA utilizados con el único fin de investigación e innovación, ni a las personas que utilizan la IA por motivos no profesionales.
• Clasificación de los sistemas de IA como prácticas prohibidas y de alto riesgo de la IA: estos sistemas de IA estarían sujetos a obligaciones de transparencia muy leves. El acuerdo también aclara la relación entre las responsabilidades en virtud de la Ley de IA y las responsabilidades que ya existen en virtud de otra legislación. Se prohíben algunos usos de la IA, como la manipulación cognitivo-conductual, la puntuación social, la categorización biométrica y la vigilancia policial predictiva para individuos.
• Excepciones de aplicación de la ley: el acuerdo de compromiso prevé una capa horizontal de protección, incluida una clasificación de alto riesgo, para garantizar que no se capturen los sistemas de inteligencia artificial que probablemente no causen violaciones graves de los derechos fundamentales u otros riesgos importantes. Los sistemas de IA sujetos a una serie de requisitos y obligaciones para acceder al mercado de la UE. Además, se prohíben algunos usos de la IA como la manipulación cognitivo-conductual, la eliminación no selectiva de imágenes faciales, el reconocimiento de emociones en el lugar de trabajo, la puntuación social, la categorización biométrica para inferir datos sensibles y la vigilancia policial predictiva. Excepciones al uso de la ley para las autoridades encargadas de hacer cumplir la ley y el uso permitido excepcionalmente de sistemas de identificación biométrica para fines policiales.
• Sistemas de IA de propósito general y modelos básicos:  se han acordado nuevas disposiciones que tienen en cuenta los sistemas de Inteligencia Artificial de propósito general y los modelos básicos. Estas disposiciones aseguran que los sistemas cumplan con obligaciones de transparencia antes de su comercialización. Se aplicó un régimen más estricto para los modelos de fundaciones de alto impacto, ya que pueden difundir riesgos sistémicos a lo largo de la cadena de valor.
• Entrada en vigor y próximos pasos: el acuerdo provisional sobre Inteligencia Artificial prevé que la ley entrará en vigor dos años después de su aprobación. Próximamente, el texto transaccional será presentado a los representantes de los Estados miembros (Coreper) para su aprobación. Una vez concluido este trabajo, el texto completo será sometido a una revisión jurídico-lingüística antes de su adopción formal por los colegisladores.
• Transparencia y protección de los derechos fundamentales: el acuerdo provisional prevé una evaluación del impacto sobre los derechos fundamentales antes de que sus implementadores pongan en el mercado un sistema de inteligencia artificial de alto riesgo. El acuerdo también prevé una mayor transparencia con respecto al uso de sistemas de inteligencia artificial de alto riesgo. Por ejemplo, se han modificado algunas disposiciones para indicar que ciertos usuarios de un sistema de IA de alto riesgo que sean entidades públicas también estarán obligados a registrarse en la base de datos de la UE. Además, hace hincapié en la obligación de que los usuarios de un sistema de reconocimiento de emociones informen a las personas cuando estén expuestas a dicho sistema.
• Multas por violaciones de la ley de IA: el acuerdo de transacción sobre el tema de la Ley de Inteligencia Artificial incluye el establecimiento de unas multas para aquellas empresas que hayan violado la Ley. El acuerdo se ha tratado para establecer límites más proporcionados para las multas administrativas de las pymes y las empresas de nueva creación. Una persona física o jurídica también puede presentar una queja ante la autoridad de vigilancia pertinente en relación con el incumplimiento de la Ley de IA.