Modelo de lenguaje grande sin restricciones: una nueva amenaza para la seguridad de la encriptación

Con el rápido desarrollo de la tecnología de inteligencia artificial, modelos avanzados como la serie GPT y Gemini están transformando profundamente nuestra forma de trabajar y vivir. Sin embargo, este avance tecnológico también ha traído consigo posibles riesgos de seguridad, especialmente con la aparición de modelos de lenguaje de gran tamaño sin restricciones o maliciosos.

Los LLM sin restricciones se refieren a aquellos modelos de lenguaje que han sido diseñados, modificados o "jailbreakeados" intencionalmente para eludir los mecanismos de seguridad y las limitaciones éticas integradas en los modelos convencionales. Aunque los desarrolladores de LLM convencionales invierten grandes recursos para prevenir el abuso de los modelos, algunas personas u organizaciones, motivadas por intereses indebidos, han comenzado a buscar o desarrollar modelos sin restricciones. Este artículo explorará las amenazas potenciales de estos modelos en la industria de la encriptación, así como los desafíos de seguridad relacionados y las estrategias de respuesta.

Formas de abuso de LLM sin restricciones

La aparición de este tipo de modelos ha reducido significativamente la barrera para llevar a cabo ataques complejos. Incluso personas sin habilidades profesionales pueden generar fácilmente código malicioso, crear correos electrónicos de phishing o planear fraudes. Los atacantes solo necesitan obtener los pesos y el código del modelo de código abierto, y luego ajustar con un conjunto de datos que contenga contenido malicioso para crear herramientas de ataque personalizadas.

Esta tendencia conlleva múltiples riesgos:

1. Los atacantes pueden personalizar modelos dirigidos a objetivos específicos para generar contenido más engañoso, eludiendo las revisiones de contenido convencionales.
2. El modelo se puede utilizar para generar rápidamente variantes de código de sitios web de phishing o personalizar el contenido de las estafas para diferentes plataformas.
3. La accesibilidad de los modelos de código abierto ha fomentado la formación de un ecosistema de IA subterráneo, proporcionando un caldo de cultivo para actividades ilegales.

A continuación se presentan varios modelos LLM sin restricciones típicos y sus posibles amenazas:

WormGPT: versión negra de GPT

WormGPT es un LLM malicioso que se vende públicamente en foros clandestinos, afirmando no tener ninguna limitación ética. Se basa en modelos de código abierto como GPT-J 6B y ha sido entrenado en una gran cantidad de datos relacionados con malware. Los usuarios pueden obtener un mes de acceso por solo 189 dólares.

En el campo de la encriptación, WormGPT podría ser mal utilizado:

• Generar correos electrónicos de phishing realistas que induzcan a los usuarios a hacer clic en enlaces maliciosos o a revelar claves privadas.
• Ayudar a escribir código malicioso para robar archivos de billetera, monitorear el portapapeles, etc.
• Impulsar la automatización del fraude, guiando a las víctimas a participar en proyectos falsos.

DarkBERT: la espada de doble filo del contenido de la darknet

DarkBERT es un modelo de lenguaje entrenado específicamente en datos de la dark web, originalmente diseñado para ayudar a investigadores y agencias de aplicación de la ley a comprender la ecología de la dark web. Sin embargo, si se utiliza de manera inapropiada, la información sensible que posee podría tener graves consecuencias.

En el campo de la encriptación, los riesgos potenciales de DarkBERT incluyen:

• Recopilar información de usuarios y equipos de proyectos, implementar fraudes precisos.
• Copiar las técnicas maduras de robo de monedas y lavado de dinero en la dark web.

FraudGPT: herramienta multifuncional para el fraude en línea

FraudGPT se autodenomina como la versión mejorada de WormGPT, que se vende principalmente en la dark web y foros de hackers. Sus formas de abuso en el campo de la encriptación incluyen:

• Generar textos y materiales de marketing falsos de encriptación realistas.
• Crear en masa páginas de phishing que imiten a los conocidos intercambios.
• Fabricación masiva de comentarios falsos, promoción de tokens fraudulentos o desprestigio de proyectos competidores.
• Imitar el diálogo humano, inducir a los usuarios a revelar información sensible.

GhostGPT: asistente de IA sin restricciones morales

GhostGPT es un chatbot de IA claramente posicionado sin restricciones éticas. En el campo de la encriptación, podría ser utilizado para:

• Generar correos electrónicos de phishing altamente realistas, haciéndose pasar por intercambios de criptomonedas de renombre para publicar notificaciones falsas.
• Generar rápidamente código de contrato inteligente que contenga puertas traseras ocultas.
• Crear malware con capacidad de deformación para robar información de billeteras.
• Combinando otras herramientas de IA, se genera una voz falsa del proyecto para llevar a cabo estafas telefónicas.

Venice.ai: riesgos potenciales de acceso sin censura

Venice.ai ofrece acceso a múltiples LLM, incluidos algunos modelos con menos restricciones. Aunque su objetivo es proporcionar a los usuarios una experiencia de IA abierta, también puede ser mal utilizado para generar contenido malicioso. Los riesgos potenciales incluyen:

• Utilizar modelos con menos restricciones para eludir la censura, generando plantillas de phishing o ideas de ataque.
• Reducir la barrera de entrada para la ingeniería de sugerencias maliciosas.
• Acelerar la iteración y optimización del discurso de ataque.

Estrategia de respuesta

Frente a las nuevas amenazas que presenta el LLM sin restricciones, la industria de la encriptación necesita adoptar un enfoque múltiple:

1. Aumentar la inversión en tecnologías de detección, desarrollando herramientas que puedan identificar y interceptar contenido malicioso generado por IA.
2. Promover la construcción de la capacidad del modelo para prevenir el jailbreak, explorando mecanismos de marcas de agua y trazabilidad.
3. Establecer y mejorar normas éticas y mecanismos de regulación para limitar desde la fuente el desarrollo y abuso de modelos maliciosos.
4. Fortalecer la educación de los usuarios, aumentando la capacidad de reconocer el contenido generado por AI.
5. Promover la cooperación en la industria, compartiendo inteligencia sobre amenazas y mejores prácticas.

Solo a través de la colaboración de todas las partes del ecosistema de seguridad se puede hacer frente de manera efectiva a este nuevo desafío de seguridad y proteger el desarrollo saludable de la encriptación.