Bruselas prohibirá las IAs que permitan generar deepfakes sexuales
A finales del año pasado y principios de este, la red social X se llenó de miles de imágenes de mujeres reales sexualizadas gracias a las inteligencias artificiales generativas. Un proceso conocido como deepfake con graves consecuencias para la dignidad de la víctima y para su salud mental. Con esto en mente y tras varios meses de negociación, la Eurocámara y el Consejo de la UE acaban de llegar a un acuerdo para modificar la Ley de IA e introducir una nueva prohibición: a partir de ahora ninguna compañía podrá comercializar tecnologías de inteligencia artificial cuya finalidad sea el desarrollo de deepfakes dentro de la Unión Europea. Una enmienda propuesta inicialmente por nuestro propio país.
Pero no solo eso. Conscientes de los recovecos tecnológicos, el acuerdo político entre ambos organismos prohibirá también todas aquellas inteligencias artificiales que, según explica la corresponsal en Bruselas de El País, Silvia Ayuso, “aunque no estén creadas específicamente para crear estos contenidos, puedan hacerlo, salvo que dispongan de medidas de seguridad razonables para impedir dicha creación”. En palabras de la política finlandesa Henna Virkkunen, vicepresidenta de la Comisión para Soberanía Tecnológica, “nuestras empresas y los ciudadanos quieren dos cosas de las normas sobre la inteligencia artificial: quieren que sean innovadoras y quieren sentirse seguros. El acuerdo de hoy cumple ambas cosas”.
Un cambio en la normativa que pretende proteger a las personas del mal uso de estas nuevas tecnologías tan potentes, pero, más específicamente, a las mujeres, las víctimas más habituales de los contenidos deepfakes. No obstante, la prohibición de estas inteligencias artificiales no entrará en vigor inmediatamente. Como cuenta la propia Ayuso, “la prohibición de estos sistemas empezará a aplicarse el 2 de diciembre de este año”, así que pasarán unos cuantos meses antes de que desaparezcan de la UE de manera definitiva. A partir de entonces, los organismos de control de la zona dispondrán de las herramientas necesarias para actuar contra ellas y vetarlas por las malas.
Algunos eurodiputados, señala la corresponsal, se han mostrado muy satisfechos con el acuerdo. Uno de los más entusiasmados ha sido el irlandés Michael McNamara, uno de los principales participantes en las negociaciones finales, quien ha celebrado el hecho de que este nuevo cambio de normativa protegerá a la gente “respecto a los sistemas IA que ponen en peligro los derechos fundamentales o la dignidad humana”. Sí, las empresas tienen libertad para generar productos y tratar de comercializarlos, pero las instituciones encargadas de proteger a la ciudadanía tienen el derecho y la obligación de supervisar esos productos para que el interés de mercado no esté nunca por encima de los derecho más elementales de la gente.