Te contamos todo lo que debes saber sobre el entorno controlado de IA
Se acerca el entorno de pruebas controlado (sandbox regulatorio) de Inteligencia Artificial. El pasado 27 de junio, el Gobierno de España presentó en Bruselas el proyecto piloto.
¿Qué es un sandbox regulatorio?
Un espacio de pruebas controlado o sandbox es un entorno en el que empresas del sector tecnológico o financiero que están desarrollando tecnologías novedosas pueden probar de forma segura sus propuestas.
Así pues, el objetivo de este tipo de programas es el defomentar las relaciones entre el desarrollador y el supervisor, disminuyendo la incertidumbre.
El art. 3.3 del futuro Real Decreto define este concepto como un “entorno controlado, con una duración determinada, que proporciona un contexto estructurado para el desarrollo de las actuaciones necesarias que posibiliten a los sistemas de inteligencia artificial de alto riesgo cumplir con los requisitos establecidos en este Real Decreto, bajo la supervisión del órgano competente.”
Sandbox regulatorio de Inteligencia Artificial: Requisitos de elegibilidad
En primer lugar, debes ser un proveedor de sistemas de inteligencia artificial residente en España o que tengan un establecimiento permanente en España.
Serás usuario participante si, siendo persona jurídica, administración pública o entidad del sector público haces uso de un sistema de inteligencia artificial de alto riesgo, siempre que el proveedor IA de este sistema acceda también al entorno controlado de pruebas.
Además, si eres proveedor de IA solicitante podrás participar con diversos sistemas de IA, si bien deberán ser diferentes,solo entrarás con un único sistema de IA.
También debes tener en cuenta que el proyecto que presentes podrá ser un desarrollo nuevo o un sistema ya establecido.
¿Cómo solicitar el acceso al entorno controlado de pruebas?
Una vez publicada la convocatoria, podrán presentarse las solicitudes que deberán ir acompañadas de:
- Una memoria técnica
- Una declaración Responsable
- Y la documentación referida en la convocatoria
Se puede presentar la participación conjunta de usuarias y proveedores de IA, debiendo indicar en cada solicitud este aspecto.
Por otro lado, cada plazo de subsanación y la selección tendrá un número limitado de plazas.
¿Qué requisitos debe cumplir tu sistema de inteligencia artificial?
Los requisitos a cumplir son:
- Sistema de gestión de riesgo relativo al sistema de IA
- Si hay entrenamiento de datos: éstos deben adecuarse a criterios de calidad
- La documentación técnica deberá actualizarse de conformidad con los criterios de autoevaluación de cumplimiento
- Deberá existir un registro automático de eventos (logs) durante la vida del sistema de IA y deberá ser guardado por el participante
- El desarrollo debe garantizar la transparencia para los usuarios
- Debe acompañarse con las instrucciones de uso
- Desarrollo de interfaz humano-máquina para la efectiva supervisión por personas físicas
- Deben ser sistemas precisos, sólidos y seguros durante todo el ciclo de vida
Y, con respecto al cumplimiento normativo de los sistemas de IA, debes:
- Aceptar el cumplimiento de la legislación de protección de datos
- Cumplir con las garantías de confidencialidad y transparencia
- Notificar de las modificaciones estructurales de la propuesta, ya sean del desarrollo del sistema como de la estructura societaria, pudiendo ser reevaluada tu participación
- Tener en cuenta el régimen de cumplimiento de la normativa sectorial de aplicación
- No cabe la contraprestación económica
Duración y finalización del entorno controlado de pruebas
Con respecto al periodo de duración, este será determinado en la convocatoria, y una vez alcanzado dicho término, los participantes deberán entregar un informe y recibirán un certificado acreditativo de la participación.
Durante la vida del sandbox regulatorio podrás retirar voluntariamente tu proyecto, debiendo cumplir con los criterios de confidencialidad y sin derecho a indemnización ni compensación.
Por otro lado, cabrá la finalización anticipada individual mediante resolución motivada cuando:
- Se haya incumplido el régimen jurídico
- Se haya producido un incumplimiento de los deberes del participante
- Se hayan producido incidentes graves o errores de funcionamiento
- Se haya identificado un riesgo no previsto en la memoria técnica
- Otras cuestiones que se indiquen en la convocatoria
Informe de conclusiones
El órgano competente, una vez finalizado el sandbox, deberá publicar un informe con los resultados obtenidos, buenas prácticas y recomendaciones.
Innovación jurídica y técnicas agile
¿Podemos catalogar estas nuevas fórmulas regulatorias cómo mecanismo agiles en el desarrollo legislativo?
Existe un debate actual sobre si en la profesión jurídicas las metodologías agile son permeables y útiles, desde YML Iurister somos férreos defensores de que las metodologías agile son implementables en nuestros procesos legales, adaptadas siempre al sector y a los clientes.
Consideramos, además, que el sandbox es un fiel reflejo de la aplicación de técnicas que agilizan la actividad legislativa pues suponen la puesta en marcha de la normativa que está por entrar en vigor, pudiendo modificar y adaptar normativas complejas a la realidad.
Por lo que, esto genera una garantía en la aplicación de los principios de eficacia y eficiencia de la ley, haciendo mejores normas, más duraderas y sostenibles a cambios de paradigma.
¿Quieres saber más?
Nuestro equipo, experto en Nuevas Tecnologías generativas, te acompañan en todo el proceso.
Descubre más acerca de nuestros Servicios Legales Alternativos (ALSP) aquí
