Descripción de la Tecnica
Artificial Intelligence (AI) es una técnica dentro del marco MITRE ATT&CK que describe cómo actores maliciosos pueden aprovechar herramientas de inteligencia artificial, como modelos de lenguaje grandes (LLMs), para ejecutar diversas actividades durante un ataque. Estas herramientas pueden ser utilizadas para informar, fortalecer y facilitar tareas maliciosas, incluyendo la recolección de información (Reconnaissance), la creación de scripts básicos, el apoyo a ingeniería social y hasta la desarrollo de payloads.
Como Funciona
Los actores adversarios pueden obtener acceso a herramientas de generación de IA para ampliar sus capacidades durante una operación. Por ejemplo, un atacante podría usar un modelo de lenguaje público para generar scripts maliciosos, planificar actividades de ingeniería social o incluso diseñar payloads personalizados. Esta técnica se alinea con la estrategia MITRE: T1588.007, que enfatiza el uso de herramientas de IA para mejorar la eficiencia y complejidad de las operaciones cibernéticas.
Actores que la Utilizan
Esta técnica se asocia con actores avanzados o organizaciones con recursos especializados en ataque a sistemas. Sin embargo, no existen datos específicos públicos sobre actores particulares que hayan implementado esta táctica de manera explícita. La MITRE ATT&CK no identifica actores concretos en este contexto.
Detección
La detección de esta técnica requiere monitorear el uso anómalo de herramientas de IA dentro de una red o sistema. Se pueden observar comportamientos como la generación de scripts maliciosos, comunicación con servicios no autorizados, o actividades de ingeniería social basadas en contenido generado por IA. Herramientas de análisis de secuencias de comandos y monitoreo de tráfico de red también pueden ayudar a identificar patrones sospechosos.
Indicadores de Compromiso (IOCs)
No hay Indicadores de Compromiso publicos disponibles.
Mitigación
Para mitigar el riesgo asociado a esta técnica, se recomienda: - Restringir el acceso a herramientas de IA dentro de entornos críticos. - Implementar monitoreo continuo de actividades relacionadas con la generación de contenido automatizado. - Capacitar a los usuarios en riesgos de ingeniería social y detección de ataques basados en IA. - Utilizar soluciones de seguridad que analicen scripts y payloads generados por modelos de lenguaje.