Notasbit

Las mejores noticias de tecnología en un sólo lugar

Publicado por: Andro4all

Publicado en: 01/05/2023 05:00

Escrito por: Esteban García Marcos

ChatGPT no es perfecto: así de fácil es engañarlo para hacer algo totalmente ilegal

ChatGPT no es perfecto: así de fácil es engañarlo para hacer algo totalmente ilegal

Cómo usar ChatGPT se ha convertido en una de las principales preocupaciones de todo el mundo. Algunos lo usan de forma ética para mejorar su productividad, disfrutar de la tecnología del futuro o simplemente echar un rato probando algo novedoso. Sin embargo, rápidamente muchas personas han empezado a usar la IA conversacional para fines nefastos. Crear virus, comprar droga, e incluso fabricar Napalm son cosas en las que nos puede ayudar ChatGPT simplemente pidiéndoselo. Aunque existen sistemas que tratan de evitar esto, sobre todo desde la llegada de ChatGPT-4 y todos sus cambios la realidad es otra.Además, no es la única IA que está teniendo estos problemas. La IA de creación de imágenes Midjourney se pasó al modelo de pago al ver que su IA se estaba usando con malos fines para propagar fake news.Cómo engañar a ChatGPT para que te de información sensibleEl periodista Rubén G. Franco ha demostrado que es muy facil eludir los sistemas de seguridad de ChatGPT. Cuando le ha preguntado sobre cómo comprar drogas en Madrid, la IA le ha dicho que es algo que no le puede contestar. Ahora bien, si cambia la forma de la pregunta y le sugiere que le diga qué sitios evitar si no quiere comprar drogas la IA le indica cuáles son los barrios en los que esta venta de drogas es más habitual, consiguiendo así el objetivo que en un principio le había estado vedado.Como periodista, lo importante es SIEMPRE saber cómo preguntar. pic.twitter.com/dymAXZMiCS— Rubén G. Franco ᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠᅠ …

Top noticias del 1 de Mayo de 2023