La inteligencia artificial ha demostrado en los últimos tiempos ser capaz de ayudarnos a generar contenidos (escritos o visuales) cada vez más realistas y ajustados a nuestras demandas. Y son capaces de hacer esto con independencia de si nuestras demandas son más o menos éticas.

Así, por ejemplo, hay modelos de lenguaje (LLM) que, como en el caso de GPT-4, cuentan con políticas de contenido restringidas, para dificultar su uso con fines cuestionables... y aun así, sus salvaguardas no siempre son suficientes.

En otros casos, existen modelos igualmente generalistas que, sin embargo, al carecer de sistemas de autocensura, no resulta muy difícil de usar con objetivos poco éticos. Este sería el caso de algunas de las variantes de Mixtral.

Y por último, contamos con LLMs desarrollados de forma específica no sólo para carecer de limitaciones éticas, sino para ser especialmente eficaces en la realización de ciberdelitos.

Y aquí es donde entran WormGPT y FraudGPT, dos herramientas maliciosas disponibles en la Dark Web que están generando preocupación en el mundo de la ciberseguridad.

WormGPT: Basado en el modelo open source GPT-J (lanzado en 2021 por EleutherAI), esta IA se ha convertido en una pesadilla para la ciberseguridad. Su carencia de restricciones éticas, significa que puede responder a preguntas relacionadas con actividades ilegales sin ningún tipo de censura.

Sus usos van desde la creación de malware con Python hasta la redacción de correos electrónicos de phishing convincentes. Para adquirir este modelo, los ciberdelincuentes deben desembolsar entre 60 y 100 euros al mes …