Regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial

Contexto

El desarrollo de la inteligencia artificial facilita la creación de hiperrealistas simulaciones de voz e imagen (conocidas como deepfakes), las cuales plantean riesgos de desinformación, fraudes, vulneración del honor y violencia digital sobre las personas representadas. Según los impulsores de la propuesta, la legislación española requiere actualizarse para garantizar el derecho a la propia imagen, el honor y la información veraz.

Te afecta si...

• Difundes o creas imágenes, vídeos o audios generados o alterados mediante inteligencia artificial que imiten la voz o apariencia de personas reales.
• Utilizas inteligencia artificial o retoques digitales de apariencia corporal en imágenes o sonidos de comunicaciones comerciales o publicitarias.
• Eres candidato en un proceso electoral frente a la difusión de imágenes o audios alterados sin tu consentimiento.
• Sufres la simulación o suplantación de tu imagen o voz mediante IA sin haber dado tu autorización expresa.

Aspectos importantes de la propuesta

• Obligación de etiquetado audiovisual: Se clasifica como infracción grave o muy grave difundir audios o imágenes creados con IA sin consentimiento, a menos que incluyan una advertencia clara y legible (sobreimpreso) o perfectamente audible (antes y después del audio).
• Protección civil de la imagen y el honor: La difusión no autorizada de simulaciones de voz o imagen mediante IA sin el etiquetado correspondiente tendrá la consideración de intromisión ilegítima.
• Tipificación penal de injurias: Se crea el delito de injuria por recrear sin autorización la imagen o voz de alguien con IA para menoscabar su honor, y se consideran injurias hechas con publicidad si se difunden en redes sociales.
• Delito electoral específico: Se castiga con pena de prisión de 3 meses a 1 año o multa de 6 a 24 meses la difusión maliciosa no autorizada de imágenes o voces alteradas con IA de personas candidatas desde la convocatoria electoral hasta el fin de la votación.
• Retirada urgente de contenidos: Se modifica la Ley de Enjuiciamiento Civil para permitir a los jueces ordenar la retirada cautelar urgente de las simulaciones generadas por IA a petición de los afectados.
• Prácticas comerciales desleales: Se considera desleal por engañosa la utilización comercial no advertida de imágenes o audios generados con IA o con alteraciones corporales procesadas digitalmente.
• Protección de datos en IA: Se extiende la aplicación de la normativa de protección de datos al uso de imágenes o audios empleados en el entrenamiento de algoritmos para crear patrones difundidos públicamente.

Detalles a tener en cuenta

• Excepciones legales: Se excluyen de las infracciones audiovisuales los usos autorizados por ley para investigar delitos y los contenidos que formen parte de obras de ficción, artísticas, creativas o satíricas de forma evidente.
• Creación de órganos de supervisión: La propuesta contempla crear un Consejo de Participación Ciudadana (12 representantes de la sociedad civil) y un Consejo Consultivo sobre el uso de la IA (9 especialistas elegidos por el Congreso por 5 años).
• Plazo reglamentario: El Gobierno dispondrá de 6 meses desde la aprobación de la ley para regular el funcionamiento y financiación de los dos nuevos consejos de supervisión.
• Entrada en vigor: La norma entraría en vigor al día siguiente de su publicación en el Boletín Oficial del Estado (BOE).