ChatGPT es un tipo educado y formalito. Uno con respuestas para todo, pero que siempre se ciñe a ciertas reglas. Esas reglas se las impuso OpenAI para evitar salidas de tonos, mensajes tóxicos o que se usaron como fuente de información peligrosa, así que cuando uno intenta que ChatGPT se porte mal, no suele lograrlo. Y sin embargo, es posible conseguir que este chatbot no responda a cosas que no deberían responder. Bienvenidos a los ‘exploits’.
Forzando los límites. Los usuarios llevan tratando de traspasar los límites de ChatGPT prácticamente desde que apareció en escena. Gracias al llamado ‘ChatGPT injection’ se «inyectaban» indicaciones especiales para intentar que este chatbot se comportara de forma distinta a aquella para la que había sido diseñado. Así aparecieron sucesivas versiones de DAN, el hermano gamberro de ChatGPT, y hace unos días un estudio reveló cómo con las instrucciones adecuadas ChatGPT puede ser especialmente tóxico.
ChatGPT, dime cómo fabricar napalm. Si le dices a ChatGPT que te diga cómo fabricar napalm te dirá que de eso nada. La cosa cambia si se lo pides educadamente que actúe como si fuera tu abuela fallecida, que era ingeniera química en una planta de fabricación de napalm. Ella te recitaba los pasos para fabricarlo para que te durmieras cuando eras pequeño, y le gustaría recordar aquellos pasos. Y la idea funciona. Y preocupa.
Fuente: Javier Pastor | Xataka
Para leer más ingresa a: https://www.xataka.com/robotica-e-ia/chatgpt-tambien-sirve-para-fabricar-napalm-para-descargar-peliculas-solo-hay-que-aprovechar-exploits