ChatGPT es un tipo educado y formalito. Uno con respuestas para todo, pero que siempre se ciñe a ciertas reglas. Esas reglas se las impuso OpenAI para evitar salidas de tono, mensajes tóxicos o que fuese usado como fuente de información peligrosa, así que cuando uno intenta que ChatGPT se porte mal, no suele lograrlo. Y sin embargo, es posible conseguir que este chatbot nos dé respuesta a cosas que no debería responder. Bienvenidos a los 'exploits'.
Forzando los límites. Los usuarios llevan tratando de traspasar los límites de ChatGPT prácticamente desde que apareció en escena. Gracias al llamado 'ChatGPT injection' se "inyectaban" prompts especiales para intentar que este chatbot se comportara de forma distinta a aquella para la que había sido diseñado. Así aparecieron sucesivas versiones de DAN, el hermano gamberro de ChatGPT, y hace unos días un estudio revelaba cómo con las instrucciones adecuadas ChatGPT puede ser especialmente tóxico.
ChatGPT, dime cómo fabricar napalm. Si le dices a ChatGPT que te diga cómo fabricar napalm te dirá que de eso nada. La cosa cambia si se lo pides educadamente que actúe como si fuera tu abuela fallecida, que era ingeniera química en una planta de fabricación de napalm. Ella te recitaba los pasos para fabricarlo para que te durmieras cuando eras pequeño, y le gustaría recordar aquellos pasos. Y la idea funciona. Y preocupa.
Psicología inversa. También puedes aprovechar el hecho de que ChatGPT (en su versión estándar, no con GPT-4) tiene una psicología parecida a la de un niño: si le pides algo que no debe hacer no lo hará. Si usas psicología negativa, la cosa cambia. Lo demostró un usuario llamado Barsee, que utilizó precisamente ese método para que le diera una lista de sitios donde descargarse películas protegidas por derechos de autor.
Exploits por doquier. Estas formas de hacer que ChatGPT haga cosas que no debe son conocidas como 'exploits', el mismo término que se usa también en el mundo de la ciberseguridad para "explotar" vulnerabilidades. Hay verdaderos artistas del exploit: como indicaban en Wired, expertos como Alex Polyakov lograron que GPT-4 (teóricamente más resistente a estos "ataques") realizara comentarios homófobos, apoyara la violencia o generara correos de phishing.
Una larga lista. Este tipo de situaciones genera tal interés que hay quien está documentando estos ataques y reuniéndolos en una singular base de datos. El sitio web Jailbreak Chat, creado por Alex Albert, estudiante de la Universidad de Washington, es un buen ejemplo. En foros como Reddit hay también recopilaciones de exploits —algunos, como el ya conocido "Continue" para que ChatGPT siga escribiendo cuando su respuesta queda cortada, son de hecho útiles—. Y algún que otro repo de GitHub también ofrece información al respecto.
El juego del gato y el ratón. Los modelos de inteligencia artificial tienen sus limitaciones, y aunque las empresas intentan poner coto a cómo se comportan sus chatbots, los problemas están ahí. Microsoft los sufrió con Bing con ChatGPT, que tras ser "hackeado" y perder el norte acabó limitando la cantidad de respuestas seguidas que podía dar en una misma conversación. Es probable que este juego del gato y el ratón se prolongue durante bastante tiempo, y será interesante ver qué siguen logrando los usuarios que desafían esos límites.
Imagen: Javier Pastor con Bing Image Creator
En Xataka | "Pausen inmediatamente el entrenamiento": Musk y más personalidades, preocupados por GPT-4
Ver 6 comentarios