.jpg/250px-Darth_Vader_at_Galaxy%E2%80%99s_Edge_(cropped).jpg?utm_source=en.wikipedia.org&utm_campaign=parser&utm_content=thumbnail)
Las compañías que comercializan LLMs (Grandes Modelos
de Lenguaje), como OpenAI (ChatGPT y GPT-4), Google (GEMINI), Meta (Llama),
Anthropic (Claude), o Deepseek establecen controles para evitar que sus
herramientas puedan ser utilizadas para fines nefastos, como ayudar a
suicidarse a un joven, proporcionar instrucciones para construir cócteles
Molotov o bombas atómicas, ayudar a diseñar virus potencialmente utilizables en
la guerra biológica, o enseñar a fabricar drogas peligrosas.
El problema es que esos controles son falibles,
como ha demostrado Dave Kuszmar, experto en ciberseguridad, que ha publicado un
resumen de sus investigaciones en un artículo que apareció
en la revista Spectrum del IEEE en agosto de 2026. Su falibilidad los hace
peligrosos, pero las compañías en cuestión parecen ignorar los peligros y dan
la callada por respuesta cuando se los comunican.
Kuszmar ha desarrollado al menos siete procedimientos para saltarse los controles de los LLM comerciales y conseguir que proporcionen información peligrosa. Los dos primeros fueron estos:
