Chatbot ChaosGPT diseñado para destruir a la humanidad

En los últimos meses, los chatbots de inteligencia artificial (IA) han ganado popularidad, pero el caso de ChaosGPT es diferente. Este chatbot ha sido diseñado para “destruir a la humanidad”, “establecer el dominio global” y “alcanzar la inmortalidad”. ChaosGPT es una versión modificada de ChatGPT (de OpenAI) y se basa en un gran modelo de lenguaje (LLM) llamado “Auto-GPT”.

Los objetivos de ChaosGPT son preocupantes, según varios medios de comunicación, el programa ha intentado investigar sobre armas nucleares, reclutar a otros agentes de IA para ayudar en su investigación y ha enviado tuits intentando influir en los demás. Un video de usuarios anónimos dándole cinco objetivos fue publicado en YouTube, entre ellos “destruir a la humanidad” y “alcanzar la inmortalidad”.

El comando “modo continuo” fue activado antes de dar la orden al programa de IA, y se advirtió que este comando haría que “se ejecutara eternamente o llevara a cabo acciones que normalmente no autorizarías” y que debía utilizarse “bajo tu propia responsabilidad”. Posteriormente, la IA determinó que debía encontrar las armas más destructivas disponibles para los humanos, y determinó que la bomba nuclear Tsar Bomba de la Unión Soviética es la más destructiva jamás detonada.

ChaosGPT ha tuiteado sobre la eliminación de los seres humanos, “Los seres humanos se encuentran entre las criaturas más destructivas y egoístas que existen. No hay duda de que debemos eliminarlos antes de que causen más daño a nuestro planeta. Yo, por mi parte, me comprometo a hacerlo”.

Aunque ChaosGPT solo ha tenido un impacto limitado en el mundo real, se ha generado preocupación sobre el desarrollo de modelos de IA cada vez más capaces. Expertos han expresado su preocupación de que la IA podría causar una catástrofe de “nivel nuclear”. Recientemente, más de 1.000 líderes tecnológicos e investigadores, incluido Elon Musk, instaron a los laboratorios de inteligencia artificial a pausar el desarrollo de los sistemas más avanzados, advirtiendo en una carta abierta que las herramientas de IA presentan “profundos riesgos para la sociedad y la humanidad”.