Los Deepfakes son archivos de video, imagen o voz manipulados a través de un software de inteligencia artificial (IA) para que parezcan originales, auténticos y reales. En la actualidad, este tipo de tecnología es cada vez más accesible para los usuarios en la red y se utiliza con fines políticos, como venganza personal, o bien, para la comisión de delitos como la extorsión, el fraude, el secuestro y la suplantación de identidad. Es más, incluso se han realizado videos con contenido pornográfico para chantajear a políticos, periodistas, empresarios, u otros personajes públicos y de a pie.
El cúmulo de acciones ilícitas y la proliferación de diversas aplicaciones a bajo costo para crear este tipo de videos, hace que se necesite avanzar en su regulación mediante una ley que contemple esta y otras tecnologías de la IA. Tanto en Europa como en Estados Unidos existe respectivamente una legislación para delimitar a la IA, pero, en América Latina solo Perú la ha promulgado.
En México, se han presentado alrededor de 58 iniciativas en la materia, sin embargo, no se ha concretado ninguna y poco se ha concientizado acerca del uso de estas tecnologías. Al igual que nuestro país, Chile, Brasil, Costa Rica, Colombia y Argentina se esfuerzan para materializar dicha legislación, a fin de evitar transgredir los derechos de privacidad, identidad, imagen, seguridad pública, entre otros.
Recientemente, el Ministerio Público Fiscal de Buenos Aires presentó una demanda colectiva contra el Gobierno de la Ciudad de Buenos Aires (GCBA), por la falta de normas respecto al uso de páginas web que ofrecen clonación de rostro y voz mediante IA. La demanda se fundamenta en las leyes de protección de datos y de defensa de los consumidores, toda vez que en este tipo de videos se emplean los datos biométricos de los usuarios.
Del análisis de los argumentos de la demanda resulta incuestionable la urgencia de contar con un marco normativo que evite la difusión de información falsa y los delitos señalados, además de que se acusa al GCBA por la inacción en la materia, pues no ha implementado medidas para proteger a los usuarios de la IA. Por ello, el fiscal busca que Argentina actué concretamente para prevenir mayores violaciones a los derechos involucrados.
Resulta evidente la constante amenaza que sufrimos todos por el uso de este y otro tipo de tecnologías, pues no todas las plataformas se aseguran de contar con el consentimiento expreso de los titulares de los datos. Es así, que mientras no exista una ley que regule a la desinformación y a los deepfakes, es indispensable que limitemos el acceso público a nuestras fotografías y videos en línea. Incluso, es válido optar por utilizar un VPN online (red privada virtual) con un sistema que no permita el phishing, y asegurarnos que el contenido e información que consultemos no sea falsa. Igualmente, podemos elegir utilizar cuentas oficiales y comprobar que los videos no se encuentren generados por la IA.
POR HILDA NUCCI
COLABORADORA
@HILNUCCI
EEZ
