Artículo 12 para el desarrollo e impulso de la inteligencia artificial en Galicia

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público podrán emplear sistemas de inteligencia artificial tanto en su actividad material o técnica como en la adopción de actos administrativos formalizados, tanto de trámite como resolutorios, de acuerdo con lo señalado en este artículo y de conformidad con lo establecido en la normativa europea y estatal de aplicación.

2. En caso de uso de sistemas de inteligencia artificial que sirvan de apoyo o fundamento para la adopción de actos o decisiones administrativas, se adoptarán las garantías necesarias a los efectos de mitigar cualquier sesgo por parte del órgano competente resolutorio. En ningún caso tales actuaciones en que se empleen sistemas de inteligencia artificial constituirán de por sí decisiones o actos administrativos sin validación por la persona titular del órgano competente.

3. En los supuestos de uso de sistemas de inteligencia artificial que sirvan para la adopción de actos administrativos formalizados, tanto de trámite como resolutorios, de manera automatizada sin intervención humana directa, de acuerdo con lo establecido en el artículo 76 de Ley 4/2019, de 17 de julio, deberá tratarse de actos administrativos que no requieran de una valoración subjetiva de las circunstancias concurrentes o una interpretación jurídica.

4. En caso contrario, no podrán realizarse actuaciones administrativas automatizadas a través del uso de sistemas de inteligencia, salvo que se cumplan todos los requisitos siguientes:

a) El órgano competente de la actuación administrativa automatizada aprobará previamente, siendo incorporadas en la resolución conjunta a que se refiere el artículo 76.4 de la Ley 4/2019, de 17 de julio, las instrucciones administrativas que permitan concretar los requisitos necesarios para definir de forma detallada e inequívoca los casos ordinarios a los que resulte de aplicación.

b) El órgano competente en materia de tecnologías de la información y de la comunicación, innovación y desarrollo tecnológico preparará el diseño tecnológico del sistema de inteligencia artificial en el que se basará la actuación administrativa automatizada, que respete la norma correspondiente reguladora del procedimiento y las instrucciones administrativas indicadas en el apartado anterior, que no permita la alteración no supervisada del funcionamiento del sistema o modelo y que proporcione información sencilla y fácil de entender sobre su funcionamiento para permitir a los afectados comprender y cuestionar el resultado.

5. En la regulación de los procedimientos administrativos para la adopción de decisiones administrativas automatizadas en que se empleen sistemas de inteligencia artificial se preverá el momento, modo y alcance de la intervención de personas físicas para garantizar el cumplimiento de los principios y derechos contemplados en la presente ley.

En todo caso, en los casos en que las decisiones, previsiones o recomendaciones generadas por sistemas de inteligencia artificial tengan un impacto irreversible o de difícil reversión, o impliquen actuaciones que pudieran generar riesgos para la vida o la integridad física o psicosocial de los individuos, será necesaria una validación de una persona física en el proceso decisorio, así como una decisión humana final.

6. Sin perjuicio de los correspondientes recursos administrativos o acciones judiciales, se reconocerá el derecho a presentar sugerencias o quejas relativas al funcionamiento de los propios sistemas de inteligencia artificial empleados por la Administración autonómica y su sector público. El procedimiento o canal para la presentación de estas sugerencias o quejas será el previsto en el artículo 16 de la Ley 1/2015, de 1 de abril, de garantía de la calidad de los servicios públicos y de buena administración.