La Universidad Nacional Autónoma de México (UNAM) ha lanzado una advertencia sobre un peligro de la Inteligencia Artificial (IA) que a menudo se pasa por alto: su impacto en nuestros procesos cognitivos y conductuales, y cómo algunas entidades poderosas buscan la manipulación mental masiva a partir de estas tecnologías.
Enrique Cáceres Nieto, investigador del Instituto de Investigaciones Jurídicas de la UNAM y coordinador del área de Filosofía del Derecho de esa entidad académica, destacó que, si bien solemos centrarnos en los aspectos tecnológicos de la IA, el verdadero conflicto radica en cómo esta tecnología se posiciona frente a nuestra forma de pensar y actuar.
Cáceres Nieto advirtió que esta discusión se da en un contexto político preocupante, con el auge de la ultraderecha en varias naciones, incluyendo Estados Unidos.
"Quienes están en la guerra por definir cuál va a ser el tipo de información que vamos a consumir, la configuración cognitiva de nuestros procesos y cuáles las salidas de estos, son países que pueden llevarnos a la pérdida de identidad cognitiva y de capacidad crítica", aseveró.
Advierte de entidades que buscan usar IA para un dominio totalitario
Durante su participación en la sesión 6 “Legislación sobre la Inteligencia Artificial” de la Cátedra Extraordinaria de Bioética “Problemas bioéticos contemporáneos”, el investigador del Centro de Ciencias de la Complejidad y presidente de la Sociedad Paradigmas Emergentes en Derecho y Filosofía del Derecho, expuso que a nivel mundial, existen actores que buscan un dominio absoluto y totalitario, y ven en la IA la herramienta perfecta para lograrlo.
Entre los riesgos del uso de la IA, el experto universitario enumeró:
- Invasión de la privacidad
- Discriminación
- Usurpación de identidad
- Desempleo
- Seguridad nacional
- Uso en armas autónomas
- Manipulación mental masiva
- Sobrevigilancia estatal
Cáceres Nieto detalló el caso de China, donde desde 2014 el gobierno ha implementado un sistema de control social en 30 localidades, basado en el uso de aplicaciones que centralizan los registros digitales de cada ciudadano y la aplicación de millones de cámaras de reconocimiento facial, incluso artefactos que recogen datos biométricos.
El objetivo, explicó, es tener una gran base de información para identificar a quienes no respetan las reglas. Las sanciones por incumplir normas, como no hacer fila o tirar basura, pueden incluir la prohibición de viajar en avión. A diferencia de Occidente, en China no existe un proceso o audiencia para la defensa. Además, existe presión social, con tablones públicos en el transporte que muestran las fotografías de quienes han disminuido su "bono social".
"En el tren bala se les recuerda continuamente a los pasajeros comportarse adecuadamente para no ver disminuida su puntuación. Es de Black Mirror", comentó Cáceres Nieto.
El investigador añadió que, si bien algunos ciudadanos chinos están de acuerdo con estas medidas, argumentando que promueven la confianza mutua y una sociedad más armónica, también se han utilizado para silenciar a periodistas y perseguir a grupos no deseados por el gobierno.
Regímenes totalitarios como Rusia y Arabia Saudita están considerando replicar este sistema, y en América Latina, Venezuela se encuentra en una fase inicial con el "Carnet de la Patria".
Aspectos de la IA se encuentran fuera de las regulaciones legales
Cáceres Nieto señaló que muchos aspectos de la IA se encuentran fuera del marco legal, y la mayoría de las discusiones sobre su regulación se dan en el ámbito de la ética, las políticas públicas y las iniciativas de ley.
Algunos países que han avanzado en este tema son Canadá, Estados Unidos, Austria, Japón y China, quienes coinciden en la necesidad de respetar la ética y en el impacto revolucionario de la tecnología, aunque China aspira a ser líder en el sector para 2030.
El académico de la UNAM alertó que el nuevo orden mundial está siendo definido no sólo por los estados, sino también por las grandes empresas, lo que plantea desafíos adicionales en la regulación y el control de la IA.
