La pornografía infantil con inteligencia artificial, otro riesgo que hay que evitar

Penalización de deepfakes de abuso sexual infantil

Una nueva legislación en Luisiana criminaliza el uso de inteligencia artificial para la creación de deepfakes que representan el abuso sexual de menores. Estas actividades conllevarán largas penas de prisión y cuantiosas multas, de hasta 20 años y $10.000 respectivamente.

Los deepfakes son videos o imágenes fabricados por inteligencia artificial que pueden falsificar personas, lugares y eventos, y son cada vez más difíciles de detectar debido a los avances en la inteligencia artificial, lo que supone un gran desafío para la ciberseguridad y las fuerzas del orden.

Luisiana se une a otros estados en la regulación de los deepfakes

Luisiana, que ocupa el puesto 49 en bienestar infantil y el segundo en pobreza entre los 50 estados de EE. UU., se suma a la lista de estados, incluyendo California, Texas y Virginia, que han implementado regulaciones o prohibiciones en torno a los deepfakes.

El proyecto de ley legislativo de Luisiana SB175, firmado por el gobernador de Luisiana, John Bel Edwards, también aborda el problema del llamado «porno vengativo». Esta ley establece que aquellos que anuncien, distribuyan o vendan deepfakes sexuales sin el consentimiento de las personas involucradas, incluyendo menores de edad, podrían enfrentar de 10 a 30 años de prisión obligatoria, una multa de hasta $50.000, o ambas penas.

La problemática de los deepfakes en las redes sociales

Los deepfakes han causado preocupación en las redes sociales, especialmente después de que deepfakes de víctimas de asesinato infantil se volvieron virales en TikTok. Esta problemática también ha sido reconocida por el Secretario General de la ONU, António Guterres, quien advirtió sobre el uso de la IA y los deepfakes en las redes sociales para fomentar el odio y la violencia.

El futuro de los deepfakes y la IA

Los expertos en ciberseguridad, como Marko Jak, cofundador y CEO de Secta Labs, han expresado su preocupación por el futuro de los deepfakes, sugiriendo que estamos adentrándonos en una era en la que ya no podemos creer en lo que vemos.

Algunas empresas, como Meta, han reconocido el riesgo de mal uso de la tecnología de IA. Citaron este riesgo como la razón por la que decidieron no lanzar al público su última plataforma de voz generada por IA, Voicebox.