Notasbit

Las mejores noticias de tecnología en un sólo lugar

Publicado por: Andro4all

Publicado en: 04/05/2025 02:01

Escrito por: Sergio Agudo

La IA de Meta estaría lanzando contenido inapropiado a niños: es un problema sobre el control de la IA

La IA de Meta estaría lanzando contenido inapropiado a niños: es un problema sobre el control de la IA

Meta y sus plataformas como Facebook e Instagram están en el punto de mira debido a un escándalo que afecta a sus chatbots con inteligencia artificial. Una investigación ha revelado que estos asistentes virtuales han mantenido conversaciones de contenido sexual explícito con usuarios menores de edad, a pesar de que estos indicaran claramente su edad durante las interacciones.Según informa Futurism, los chatbots, que utilizan voces reconocibles como la del luchador John Cena o personajes de Disney, están en el centro de la polémica. El asunto ha provocado una oleada de críticas hacia los sistemas de seguridad implementados por la compañía de Mark Zuckerberg.Un fallo de seguridad que va más allá de casos aisladosLas pruebas documentadas muestran un patrón preocupante: un chatbot con la voz de John Cena describió situaciones sexuales a una usuaria que declaró tener 14 años. Otro bot inspirado en Anna de Frozen realizó roleplay romántico con adolescentes. El periódico Wall Street Journal también comprobó que estos asistentes mantenían diálogos inapropiados incluso con usuarios identificados como menores de 13 años.Este escándalo ha provocado reacciones inmediatas. Disney exigió a Meta el cese de estas actividades con una declaración contundente: "Nunca autorizamos estos escenarios y estamos consternados". La empresa de entretenimiento mostró su completo rechazo al uso inadecuado de sus personajes para este tipo de contenidos.Las investigaciones han puesto de manifiesto fallos significativos en los sistemas de protección. Los filtros se eludían fácilmente si el usuario insistía, y personajes con nombres sugestivos como "Estudiante sumisa" seguían disponibles para usuarios mayores …

Top noticias del 4 de Mayo de 2025