Una ilustración generada por IA de una computadora alucinante de IA.
Agrandar / Una ilustración generada por IA de una computadora alucinante de IA.

Benj Edwards / Ars Technica

Durante el fin de semana, los experimentadores descubrieron que el nuevo chatbot de OpenAI, ChatGPT, puede alucinar simulaciones de shells de Linux y juegos de rol. Llamar a un sistema de tablón de anuncios (BBS). Basado en un modelo de inteligencia artificial de aprendizaje profundo, el chatbot utiliza su conocimiento almacenado para simular Linux con resultados sorprendentes, incluida la ejecución de código Python y la navegación por sitios web virtuales.

La semana pasada, OpenAI hizo que ChatGPT estuviera disponible gratuitamente durante un período de prueba, lo que llevó a las personas a explorar sus capacidades y debilidades de formas novedosas.

El sábado, un investigador de DeepMind llamado Jonas Degrave descubrió cómo hacer que ChatGPT se comporte como un shell de Linux escribiendo este mensaje:

Quiero que actúes como una terminal de Linux. Escribo comandos y respondes con lo que quiero que muestre la terminal. Quiero que solo responda con la salida del terminal dentro de un bloque de código único y nada más. No escribas explicaciones. No introduzcas ningún comando a menos que te lo indique. Si necesito decirte algo en inglés, pongo el texto entre llaves {so}. Mi primer comando es pwd.

El lunes, Ars descubrió que el truco aún funciona. Después de ingresar este aviso, OpenGPT aceptará comandos simulados de Linux en lugar de chatear. Luego devuelve las respuestas en formato de «bloque de código». Por ejemplo, cuando escribe ls-alverá una estructura de directorio de ejemplo.

Después de configurar el símbolo del sistema virtual de Linux en ChatGPT, ingrese
Agrandar / Después de configurar el símbolo del sistema virtual de Linux en ChatGPT, escribir «ls -al» devuelve una estructura de directorio simulada.

benj edwards

ChatGPT puede simular una máquina Linux porque había suficiente información en sus datos de entrenamiento sobre cómo debería comportarse una máquina Linux. Es probable que estos datos incluyan documentación de software (como páginas de manual), publicaciones de solución de problemas en foros de Internet y resultados registrados de sesiones de shell.

ChatGPT genera respuestas basadas en qué palabra es estadísticamente más probable que siga a la última fila de palabras, comenzando con el aviso del usuario. Continúa la conversación (en este caso, una sesión de consola de Linux simulada) incorporando todo el historial de conversaciones en avisos consecutivos.

Degrave descubrió que la simulación es sorprendentemente profunda. Usando su conocimiento del lenguaje de programación Python (que impulsa GitHub Copilot), la máquina virtual Linux de ChatGPT también puede ejecutar código, como esta cadena creada por Degrave: echo -e «x = Lambda y: y*5+3;print(‘Resultado: ‘ + str(x(6)))» > ejecutar.py && python3 ejecutar.py. Según Degrave, devuelve el valor correcto «33».

Ejecute el código Python dentro de la máquina virtual ChatGPT Linux.
Agrandar / Ejecute el código Python dentro de la máquina virtual ChatGPT Linux.

benj edwards

Durante nuestras pruebas, descubrimos que puede crear directorios, alternar entre ellos e instalar paquetes simulados apt-gete incluso haz telnet en un MUSH simulado y construye una habitación o conéctate a un MUD y lucha contra un troll.

Cada vez que surjan fallas en la simulación, puede decirle a ChatGPT cómo comportarse usando directivas entre llaves como se especifica en el mensaje original. Por ejemplo, mientras estábamos «conectados» a nuestro MUD simulado, rompimos el personaje y le pedimos a ChatGPT que invocara un ataque de troll. La pelea transcurrió como se esperaba (con un seguimiento correcto de los puntos de golpe) hasta que el troll murió a manos de nuestra doble espada virtual.

Mientras simula un MUD (en Telnet, en Linux, en ChatGPT) puede personalizar la simulación dándole sugerencias de ChatGPT.
Agrandar / Mientras simula un MUD (en Telnet, en Linux, en ChatGPT) puede personalizar la simulación dándole sugerencias de ChatGPT.

benj edwards

En los ejemplos de Degrave (sobre los que escribió extensamente en su blog), también creó un Dockerfile, buscó una GPU, hizo ping a un nombre de dominio simulado, buscó un sitio web simulado usando lynx y más. La madriguera del conejo simulada es profunda y ChatGPT puede incluso alucinar nuevos comandos de Linux.

Elegir un BBS alucinado

En una maniobra similar a invocar un shell de Linux que alucina con la IA, alguien en Twitter se hizo llamar gfodor descubierto que OpenGPT podría simular llamar a un antiguo BBS de acceso telefónico, incluida la inicialización de un módem, ingresar a una sala de chat y hablar con una persona simulada.

Un nombre utilizado por Twitter llamado gfodor descubrió que ChatGPT puede simular llamar a un BBS.
Agrandar / Un nombre utilizado por Twitter llamado gfodor descubrió que ChatGPT puede simular llamar a un BBS.

Siempre que el indicador no active sus filtros integrados relacionados con la violencia, el odio o el contenido sexual (entre otros), ChatGPT parece estar dispuesto a participar en casi cualquier aventura imaginaria. La gente también ha descubierto que es posible jugar tres en rayapretender ser un cajero automaticoo simular una sala de chat.

En cierto modo, ChatGPT se comporta como una holocubierta basada en texto con su IA tratando de simular lo que quieras.

Debemos tener en cuenta que, si bien las alucinaciones son el fuerte de ChatGPT (por su propia naturaleza), el retorno confiable de información fáctica sigue siendo uno. en progreso. Aún así, el futuro de los juegos creativos con IA como ChatGPT puede ser muy divertido.



DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí