Artículo 17 Se regula el uso de la inteligencia artificial en la Administración del Principado de Asturias y su sector público

1. Para el cumplimiento de los objetivos establecidos en las letras c, d y e del artículo 57.9 del Reglamento de Inteligencia Artificial, se podrá abrir de oficio el entorno controlado de pruebas regulado en este decreto, previa convocatoria pública aprobada por persona titular de la Consejería competente en materia de IA. Dicha convocatoria establecerá, entre otros contenidos:

a) El número de proveedores de IA que se seleccionarán para su participación en el entorno.

b) Las personas usuarias y participantes que hagan uso de un sistema de IA.

c) El plazo, forma de presentación de solicitudes, y cuantas propuestas se pueden presentar.

d) La documentación que resulta necesario aportar por el proveedor del sistema.

e) El desarrollo de las pruebas, que se ajustará a lo previsto en el presente decreto.

f) El resultado y el tipo de declaración de conformidad que se puede obtener.

g) La duración del entorno controlado de pruebas.

h) Los criterios de valoración de las solicitudes y el peso de cada uno de ellos en la puntuación total.

2. Tanto el proveedor de IA participante como, en su caso, la persona usuaria participante serán responsables de los daños sufridos por cualquier persona como consecuencia de la aplicación del sistema de IA en el contexto del entorno controlado de pruebas que se regula en el presente decreto.

3. Para participar en el espacio controlado de pruebas, los sistemas de IA deberán acreditar:

a) La inclusión de un registro automático de eventos (logs) a lo largo del ciclo de vida de los sistemas de cara a garantizar la adecuada trazabilidad de la lógica operacional y de resultados.

b) Que están diseñados y desarrollados de manera que se asegure que su lógica operacional es suficientemente transparente para los usuarios del sistema a efectos de interpretar los resultados de éstos.

c) Que están diseñados de manera que puedan ser supervisados por personas físicas durante los períodos en que estén en uso en base al principio de transparencia. Contendrán interfaces humano-máquina apropiadas a tal efecto. En caso de que por las características del sistema de IA dicha supervisión no pueda realizarse en tiempo real, deberán preverse sistemas alternativos que permitan un nivel adecuado de trazabilidad.

d) Que disponen de medidas para evitar los intentos de terceros no autorizados de alterar su uso o funcionamiento aprovechando las posibles vulnerabilidades del sistema.

4. El proveedor de IA deberá aportar instrucciones de uso del sistema en un formato digital o de otro tipo adecuado, las cuales incluirán información concisa, completa, correcta, accesible y comprensible para los usuarios, incluyendo información sobre las características y prestaciones del sistema.

5. Se ofrecerán a los proveedores de IA que participen en los entornos controlados de pruebas para la IA, en particular a las pymes y las empresas emergentes, cuando proceda, servicios previos al despliegue, como orientaciones sobre la aplicación del Reglamento de Inteligencia Artificial y otros servicios que aportan valor añadido, como ayuda con los documentos de normalización o acceso a las instalaciones de ensayo y experimentación.