Tecnología · Regulación y controles
Los controles se diseñan dentro del sistema. No se añaden después.
Cuando una empresa utiliza IA en un proceso real, sus obligaciones dependen de cómo se utiliza el sistema, del papel que desempeña la organización y de las consecuencias que puede tener.
moraix identifica esas condiciones antes de construir, incorpora los controles técnicos y operativos necesarios y mantiene la evidencia que permite entender cómo funciona el sistema. Cuando una obligación requiere interpretación jurídica, la clasificación se confirma con asesores cualificados.
El objetivo no es producir documentación de cumplimiento alrededor del sistema. Es construir un sistema cuyo comportamiento pueda controlarse, explicarse y auditarse.
Cómo lo abordamos
Determinamos qué se aplica antes de empezar a construir.
No necesitas convertir el Reglamento de IA en una especificación técnica. Partimos del proceso, identificamos qué obligaciones pueden afectar al sistema y traducimos esas obligaciones en controles concretos.
- 01
Entender el uso real
Determinamos qué hará el sistema, quién lo utilizará, a quién puede afectar y qué ocurre si se equivoca.
- 02
Determinar qué obligaciones pueden aplicarse
Analizamos el caso de uso, el papel de cada organización y la posible clasificación regulatoria. Cuando hace falta interpretación jurídica, trabajamos con asesores cualificados.
- 03
Diseñar los controles
Permisos, evidencia, supervisión humana, aprobaciones, registros y límites de actuación se incorporan al funcionamiento del sistema.
- 04
Mantenerlos durante la operación
Documentamos las decisiones relevantes, probamos los cambios antes de desplegarlos y monitorizamos el sistema mientras está en producción.
Reglamento de IA de la UE
El uso de la IA determina las obligaciones.
El Reglamento de IA sigue un enfoque basado en riesgo. La clasificación depende principalmente del uso previsto y de sus consecuencias, no de si el sistema utiliza un modelo concreto.
Otros usos de menor riesgo
Muchos procesos internos de negocio no entran en las categorías de alto riesgo del Reglamento de IA. Aun así pueden estar sujetos a requisitos de transparencia, de protección de datos o sectoriales según cómo se utilice el sistema.
Obligaciones de transparencia
Determinados usos de IA conllevan deberes específicos de transparencia. Incluyen los sistemas que interactúan directamente con personas y ciertas categorías de contenido generado o manipulado mediante IA. La obligación concreta depende de si eres proveedor o responsable del despliegue y de cómo se use el sistema.
Sistemas de alto riesgo
Determinados usos en ámbitos sensibles pueden activar requisitos específicos de gestión de riesgos, datos, documentación, registro, supervisión humana, precisión, robustez y ciberseguridad. Puede incluir determinados usos en empleo, educación, acceso a servicios esenciales, infraestructuras críticas u otros ámbitos establecidos en el Reglamento.
Prácticas prohibidas
Algunos usos de IA están directamente prohibidos. moraix no los construye.
Identificamos esta posibilidad antes de construir y determinamos con el cliente y sus asesores qué requisitos deben incorporarse al proyecto.
Estado actual
Un marco que sigue entrando en aplicación por fases.
Desde febrero de 2025
Se aplican determinadas prohibiciones, definiciones y obligaciones de alfabetización en IA.
Desde agosto de 2026
Se aplican nuevas obligaciones de transparencia y ya existe capacidad de enforcement sobre distintas partes del Reglamento.
A partir de diciembre de 2027
Está prevista actualmente la aplicación de gran parte de las obligaciones relativas a sistemas de alto riesgo del Anexo III.
A partir de agosto de 2028
Está prevista la aplicación correspondiente a determinados sistemas de alto riesgo integrados en productos regulados.
Las fechas y guías de implementación siguen evolucionando. Revisamos esta página a medida que cambia el marco.
Controles integrados
Los controles forman parte del sistema.
La regulación se corresponde con controles que ya están en el sistema.
| Asunto regulatorio | Capacidad del sistema |
|---|---|
| Responsabilidad y supervisión | Puntos de decisión humana y aprobaciones |
| Evidencia y registro | Resultados trazables y estado del proceso registrado |
| Gobierno del dato | Accesos y límites de datos explícitos |
| Documentación técnica | Arquitectura y documentación operativa versionadas |
| Rendimiento continuo | Evaluación, monitorización y cambio controlado |
Probado en producción
Los controles ya están funcionando en un sistema real.
En el sistema financiero multientidad de moraix, cada transacción conciliada permanece conectada a su evidencia de origen. Las ejecuciones quedan registradas y las transacciones cuya evidencia no permite una coincidencia fiable se convierten en excepciones para revisión humana.
279 de 284
conciliadas automáticamente
5
excepciones explícitas
Límites
La tecnología puede aportar controles. No puede garantizar el cumplimiento por sí sola.
Ninguna arquitectura convierte automáticamente a una organización en conforme con la normativa. Las obligaciones dependen del caso de uso, la jurisdicción, el papel de cada organización, la forma en que se utiliza el sistema y otras normas aplicables.
moraix aporta controles inspeccionables, evidencia, documentación, trazabilidad y mecanismos de supervisión que ayudan al cliente y a sus asesores a cumplir esas obligaciones.
- Una evaluación clara y prudente del caso de uso
- Controles proporcionados a sus consecuencias
- Sistemas cuyo comportamiento puede inspeccionarse
- Evidencia y documentación mantenidas durante la operación
- Transparencia sobre aquello que requiere interpretación jurídica
- Trabajo coordinado con los asesores del cliente cuando sea necesario
No sustituimos el asesoramiento jurídico. Construimos sistemas que permiten aplicar controles reales.
Nota jurídica
No constituye asesoramiento jurídico. Esta página contiene información general sobre cómo moraix diseña y opera sistemas de IA. No constituye asesoramiento jurídico ni determina las obligaciones aplicables a una organización o caso de uso concreto. Cuando existan obligaciones regulatorias, la clasificación y los requisitos aplicables deben confirmarse con asesores jurídicos cualificados.
Tecnología