Este sitio carga analítica opcional de Google y proveedores externos de analítica solo si aceptas. Puedes rechazarla y seguir usando la web con normalidad.
Sistemas de aprendizaje automático robustos, explicables y con preservación de privacidad para entornos distribuidos y adversarios.
La IA confiable no es una única métrica. En sistemas sensibles de seguridad combina robustez, explicabilidad, privacidad, responsabilidad y evidencia de que un modelo se comporta de forma aceptable bajo estrés operativo.
Los sistemas de IA distribuida heredan los riesgos habituales del aprendizaje automático y añaden restricciones de comunicación, observabilidad parcial, pares heterogéneos e incentivos inconsistentes. El diseño confiable debe abordar el modelo, el protocolo y el contexto operativo de forma conjunta.
Las publicaciones y proyectos relacionados abordan la IA confiable mediante agregación robusta, protocolos descentralizados, aprendizaje con preservación de privacidad, apoyo explicable a la mitigación y evaluación en escenarios de ciberdefensa.
Un sistema de IA confiable es robusto, explicable, consciente de la privacidad, auditable y evaluado en condiciones cercanas al entorno donde se usará.
No. La explicabilidad es importante, pero debe combinarse con robustez, privacidad, evaluación, gobernanza y controles operativos.
Los sistemas federados dependen de múltiples clientes y actualizaciones compartidas. El diseño confiable ayuda a detectar contribuciones no fiables, proteger información sensible y mantener útil el aprendizaje colaborativo.
DEFENDIS desarrolla un marco para identificar de forma distribuida dispositivos IoT y abordar amenazas de seguridad mediante aprendizaje federado descentralizado.
Ver proyectoROBUST-6G estudia mecanismos de seguridad para sistemas 6G, incluyendo monitorización, gestión segura de datos, servicios de IA confiable, aprendizaje federado y respuesta ante amenazas.
Ver proyectoProyecto con el Cyber-Defence Campus de armasuisse que investiga el intercambio confiable de inteligencia de amenazas y algoritmos de verificación.
Ver proyectoDesarrolló soluciones de IA descentralizada para abordar restricciones computacionales y validación de confianza bajo patrocinio de armasuisse.
Ver proyectoAgenda de investigación medida sobre topologías dinámicas, contexto manipulado, privacidad formal y validez externa en DFL robusto.
Mapa práctico de los usos de los LLMs en ciberdefensa, desde inteligencia de amenazas hasta triaje y explicación de alertas, con límites y controles explícitos.
Cómo plantear la ciberdefensa autónoma como un ciclo de control acotado con evidencia, políticas, recuperación e intervención humana responsable.
Patrón de diseño para usar modelos de lenguaje al explicar incidentes y comparar mitigaciones mientras las políticas aprobadas controlan la ejecución.
Guía original sobre P-RAG, su promesa para conocimiento de dominio repetido y las preguntas de evaluación que surgen al modificar la memoria del modelo.