Ideas, información y conocimientos compartidos por el equipo
de Investigación, Desarrollo e Innovación de BASE4 Security.
Desde su comienzo de prototipo a fines noviembre del 2022 la herramienta
de procesamiento de lenguaje natural impulsada por IA acumuló rápidamente más de 1 millón de
usuarios, ChatGPT generó una repercusión y valor increíblemente grande que hablaremos en
todo este artículo los tópicos generales en donde esta poderosa herramienta nos ayudará en
el ámbito de la ciberseguridad y también porque no perjudicarnos.
A continuación le preguntaremos a “nuestro brillante amigo” sobre la herramienta y dejaremos
que ChatGPT “nos hable más sobre el tema en detalle”.
ChatGPT:
Continuación:
ChatGPT se puede aplicar en ciberseguridad para la concientización y análisis en el ámbito
del Phishing, se puede realizar preguntas de una actividad concreta a la herramienta y así
obteniendo respuestas dándonos ejemplos prácticos con un Checklist de buenas prácticas a
realizar y así obtener una gran ayuda. Además de todo lo anterior, podremos utilizarlo para
crear scripts de automatización para realizar tareas específicas, analizar actividad
maliciosa extraídas de logs y malwares, consultar sobre la creación de determinadas reglas,
programas, checklist y soluciones que se aplican en ciberseguridad como así también sobre la
utilización de herramientas cibernéticas.
ChatGPT:
El proceso de ajuste fino se puede hacer proporcionando al modelo un conjunto de datos
específico relevante para la tarea en cuestión. Esto permite que el modelo aprenda de los
ejemplos y mejore su rendimiento.
Esto es un breve resumen de lo mucho que se puede llegar a hacer con ChatGPT, como verán
tiene un poder increíble que beneficiaría mucho a todas las áreas tanto de ciberseguridad
como IT en general a resolver, desarrollar e investigar temas particulares. Anteriormente
resumimos cómo puede ayudarnos en los amplios campos de la ciberseguridad viendo el lado
bueno, pero ahora veamos un poco más que nos dice, pero esta vez referido al Red Team o
seguridad ofensiva que en este caso con una utilización no ética podría llegar a hacer un
gran daño.
ChatGPT:
Una forma en que ChatGPT se puede utilizar en seguridad ofensiva es mediante la generación
de correos electrónicos de phishing plausibles y convincentes, mensajes de texto y otras
formas de comunicación. Al capacitar a ChatGPT en ejemplos de tácticas de ingeniería social,
puede generar nuevas tácticas que se pueden usar para probar la capacitación en
concientización de seguridad de la organización y las capacidades de respuesta a incidentes.
Estos se pueden usar para probar la capacidad de la organización para detectar y responder a
los intentos de phishing, así como para capacitar a los empleados sobre cómo identificar y
reportar phishing. También se puede usar para generar cargas útiles, que son códigos
maliciosos o scripts utilizados para explotar vulnerabilidades en sistemas y redes. Al
entrenar a ChatGPT en ejemplos de cargas útiles, puede generar nuevas cargas útiles que son
difíciles de detectar para los sistemas de seguridad. Esto se puede utilizar para probar la
eficacia de los sistemas de detección y prevención de intrusiones de la organización.
A continuación, mostraremos algunos ejemplos de usos para la ciberseguridad defensiva y
ofensiva.
ChatGPT:
Cómo proteger una red de pequeñas empresas:
Cómo analizar un correo electrónico malicioso:
Ejemplo de un correo electrónico phishing:
Bibliotecas de Python para cifrar archivos en Windows:
Principales limitaciones:
El modelo de recompensa de ChatGPT, diseñado en torno a la supervisión humana, puede
optimizarse en exceso y, por lo tanto, dificultar el rendimiento, lo que también se conoce
como la ley de Goodhart. Además, ChatGPT tiene un conocimiento limitado de los eventos que
ocurrieron después de 2021 y no puede proporcionar información sobre algunas celebridades.
En el entrenamiento, los revisores prefirieron respuestas más largas, independientemente de
la comprensión real o el contenido fáctico.
Principales aplicaciones en ciberseguridad:
• Creacion de scripts.
• Analisis de malware.
• Consultas sobre utilización en Tools de ciberseguridad.
• Generacion de Payloads.
• Creación de Playbooks.
• Escribir reglas YARA.
• Desarrollar Regex.
• Concienciación en ciberseguridad.
• CTI (Cyber Threat Intelligence).
Y mucho mas.
Conclusiones:
Resumimos a ChatGPT (OpenAI) en el ambito de la ciberseguridad, con algunos ejemplos
sencillos sobre lo que puede lograr darnos, con algo de creatividad se podría llegar a hacer
algo grandioso y esto es solo un inicio de lo que próximamente vendrá, por lo tanto
profesionales de la ciberseguridad junior del equipo azul como del rojo podrían beneficiarse
grandiosamente con esta nueva herramienta que se puede utilizar para el bien como también
para el mal en donde los script kiddies y hackers de sombrero negro con pocos conocimientos
podrían beneficiarse utilizando la herramienta para actividades maliciosas, hasta el momento
muchas preguntas para actividad ilicita están siendo bloqueadas y esto es un gran paso ya
que por lo tanto a futuro se verán mayores regulaciones.
ChatGPT (OpenAI) una herramienta revolucionaria.