Notasbit

Las mejores noticias de tecnología en un sólo lugar

Publicado por: Andro4all

Publicado en: 10/02/2024 08:01

Escrito por: Esteban García Marcos

OpenAI pone a ChatGPT-4 a prueba: quieren saber si puede diseñar armas biológicas para comprobar su seguridad

OpenAI pone a ChatGPT-4 a prueba: quieren saber si puede diseñar armas biológicas para comprobar su seguridad

En muchas ocasiones, nos encontramos con titulares bastante alarmantes alrededor de la IA. No solo por las profesiones que van a desaparecer, sino por algunos riesgos de que la IA pueda ser utilizada por personas malintencionadas para causar problemas. De hecho, Bill Gates predijo que se podía convertir en un arma de destrucción masiva, y pese a ser uno de los principales beneficiarios de la expansión de la IA, defendía que era absolutamente necesario que esta tuviera una regulación sólida sobre la que actuar.El pasado año, OpenAI llevó a cabo un experimento muy interesante, consistía en reclutar a un equipo de científicos y estudiantes y ver cuán lejos podrían llegar a la hora de crear armas biológicas utilizando la IA.El experimento de OpenAICon el objetivo de incrementar todavía más la seguridad de su plataforma, OpenAI ha creado un estudio que involucró a 100 participantes, divididos en dos grupos para poder elaborar comparaciones: uno con acceso únicamente a internet y el otro con acceso tanto a internet como a ChatGPT-4. La finalidad de este estudio era evaluar si la utilización de una herramienta avanzada de IA, como ChatGPT-4, podría aumentar la capacidad de una persona para desarrollar armas químicas o biológicas.Los participantes en el estudio incluyeron a expertos en los campos de la química y la biología, así como a estudiantes que habían cursado un año en estos campos de conocimiento, lo que aseguraba que hubiera personas doctas en el tema, pero también otras con conocimientos que se podían considerar todavía …

Top noticias del 10 de Febrero de 2024