Uso de LLMs como capa de apoyo para explicar ataques, recomendar mitigaciones y mantener al analista dentro del proceso de análisis de incidentes.
Los LLMs pueden ayudar a traducir señales de seguridad de bajo nivel en explicaciones, opciones de respuesta e hipótesis de investigación. En ciberdefensa, el papel útil no es la decisión autónoma, sino el apoyo acotado que mejora la comprensión y velocidad de respuesta del analista.
Los casos de uso de seguridad requieren controles más fuertes que los asistentes generalistas. Las salidas necesitan procedencia, anclaje en evidencia observada, recomendaciones trazables y salvaguardas frente a mitigaciones inventadas o explicaciones excesivamente confiadas.
La ciberdefensa asistida por LLMs se solapa con explicabilidad, evaluación, factores humanos e IA responsable. La pregunta de investigación es cómo hacer estos sistemas útiles sin aumentar el riesgo operativo.
En entornos de alto impacto, los LLMs encajan mejor como sistemas de asesoramiento. Pueden explicar y sugerir, mientras humanos y playbooks controlados aprueban acciones.
El principal riesgo es producir explicaciones o mitigaciones plausibles pero no respaldadas. El anclaje en evidencia, la evaluación y la revisión humana son esenciales.
Son útiles para resumir evidencia, explicar alertas, comparar opciones de respuesta y documentar el razonamiento de un incidente.
DEFENDIS desarrolla un marco para identificar de forma distribuida dispositivos IoT y abordar amenazas de seguridad mediante aprendizaje federado descentralizado.
Ver proyectoProyecto europeo de investigación sobre métodos y pruebas de concepto para apoyar la gestión de incidentes de ciberdefensa.
Ver proyectoROBUST-6G estudia mecanismos de seguridad para sistemas 6G, incluyendo monitorización, gestión segura de datos, servicios de IA confiable, aprendizaje federado y respuesta ante amenazas.
Ver proyectoMarco de ciberseguridad para interfaces cerebro-computadora en escenarios de asistencia avanzada a la conducción, centrado en detectar y prevenir ataques durante el ciclo de vida BCI.
Ver proyectoAvanza desde los fundamentos hasta el diseño y la evaluación. Cada nota aborda una pregunta distinta.
LLMs para ciberseguridad: casos de uso en el SOC, evidencia, permisos y evaluación. Cómo pasar de un resumidor a un asistente con herramientas.
RAG para ciberseguridad: recuperación híbrida, fuentes vigentes, permisos y evaluación. Diagnostica errores de recuperación y generación.
Evalúa prompt injection en RAG y agentes LLM con pruebas pareadas, permisos, trazas de herramientas e investigación reciente.
Construye golden sets para LLMs y RAG con ejemplos, adjudicación, particiones sin filtración y casos de seguridad en español e inglés.
Este sitio carga analítica opcional de Google y proveedores externos de analítica solo si aceptas. Puedes rechazarla y seguir usando la web con normalidad.