Hace sólo dos días abordábamos en Genbeta la preocupación existente con la creciente facilidad y rapidez para crear deepfakes con un alto grado de realismo poniendo el ejemplo de un vídeo falso del youtuber MrBeast. Un par de semanas antes de eso, el caso de los desnudos 'fake' de menores en Almendralejo se convirtió en noticia a nivel nacional.

En general, el auge de los deepfakes ha planteado una serie de desafíos en todo el mundo, ya que las tecnologías de IA avanzan a un ritmo vertiginoso y las herramientas para detectar estos contenidos falsos todavía están en pañales.

Pues bien, buscando dar respuesta a esas preocupaciones, el grupo parlamentario de Sumar ha presentado este viernes en el Congreso de los Diputados una proposición de ley que busca establecer regulaciones claras en el uso de la inteligencia artificial (IA) cuando se creen imágenes, vídeos y audios falsos capaces de suplantar a personas reales.

Los diputados Enrique Santiago (IU), Francisco Sierra (Sumar) y Tesh Sidi (Más País) han sido los encargados de liderar esta iniciativa, que ya ha sido apodada la "ley anti deepfakes", y que tiene como objetivo principal exigir a las herramientas de IA que generen deepfakes que incluyan una señal visual o sonora "clara" (equivalente, vaya, a una 'marca de agua') capaz de indicar que el contenido es falso.

Una completa reforma legal

Más aún, esta proposición de ley modificaría hasta seis leyes, a saber: la ley de protección del derecho al honor, la ley electoral, la ley …