Sistemas de aprendizaje automático robustos, explicables y con preservación de privacidad para entornos distribuidos y adversarios.
La IA confiable no es una única métrica. En sistemas sensibles de seguridad combina robustez, explicabilidad, privacidad, responsabilidad y evidencia de que un modelo se comporta de forma aceptable bajo estrés operativo.
Los sistemas de IA distribuida heredan los riesgos habituales del aprendizaje automático y añaden restricciones de comunicación, observabilidad parcial, pares heterogéneos e incentivos inconsistentes. El diseño confiable debe abordar el modelo, el protocolo y el contexto operativo de forma conjunta.
Las publicaciones y proyectos relacionados abordan la IA confiable mediante agregación robusta, protocolos descentralizados, aprendizaje con preservación de privacidad, apoyo explicable a la mitigación y evaluación en escenarios de ciberdefensa.
Un sistema de IA confiable es robusto, explicable, consciente de la privacidad, auditable y evaluado en condiciones cercanas al entorno donde se usará.
No. La explicabilidad es importante, pero debe combinarse con robustez, privacidad, evaluación, gobernanza y controles operativos.
Los sistemas federados dependen de múltiples clientes y actualizaciones compartidas. El diseño confiable ayuda a detectar contribuciones no fiables, proteger información sensible y mantener útil el aprendizaje colaborativo.
DEFENDIS desarrolla un marco para identificar de forma distribuida dispositivos IoT y abordar amenazas de seguridad mediante aprendizaje federado descentralizado.
Ver proyectoROBUST-6G estudia mecanismos de seguridad para sistemas 6G, incluyendo monitorización, gestión segura de datos, servicios de IA confiable, aprendizaje federado y respuesta ante amenazas.
Ver proyectoProyecto con el Cyber-Defence Campus de armasuisse que investiga el intercambio confiable de inteligencia de amenazas y algoritmos de verificación.
Ver proyectoDesarrolló soluciones de IA descentralizada para abordar restricciones computacionales y validación de confianza bajo patrocinio de armasuisse.
Ver proyectoAvanza desde los fundamentos hasta el diseño y la evaluación. Cada nota aborda una pregunta distinta.
Qué es el aprendizaje federado, cómo funciona FedAvg y qué protegen la privacidad diferencial y la agregación segura, con ejemplos.
Combina privacidad diferencial, agregación segura y DFL robusto con supuestos explícitos, amenazas locales y evaluación conjunta.
Evalúa robustez DFL con F1, falsos rechazos, costes y recuperación. Interpreta Flighter y diseña comparaciones limpias y bajo ataque.
Preguntas abiertas en DFL robusto: grafos dinámicos, contexto manipulado, privacidad, modalidades ausentes y experimentos para avanzar.
Este sitio carga analítica opcional de Google y proveedores externos de analítica solo si aceptas. Puedes rechazarla y seguir usando la web con normalidad.