El ser humano siempre ha creado herramientas que le faciliten en general la vida, y ahora la tecnología ha jugado un papel trascendental en la creación de nuevos tipos de inteligencia que satisfacen esa necesidad. La Inteligencia Artificial (IA) surge en los años 50 como el resultado de la búsqueda de herramientas que pueden ayudarnos a tomar mejores decisiones. (Alan Turing, 1950)
La inteligencia artificial es una tecnología poderosa que tiene efectos transformadores en muchos aspectos de la vida y se interpretará de conformidad con las Recomendaciones Generales para el Tratamiento de Datos en la Inteligencia Artificial de la Red Iberoamericana de Protección de Datos (RIPD) como: un sistema que incluye una variedad de técnicas computaciones y de procesos enfocados a mejorar la capacidad de las máquinas para realizar muchas actividades, los que comprenden desde modelos algorítmicos pasando por los sistemas de machine learning, hasta llegar a las técnicas de deep learning.
Dicho sistema puede realizar predicciones, recomendaciones o tomas de decisión que influencian tanto ambientes reales como virtuales.
La reutilización de datos previamente recolectados evita la creación de nuevas bases de datos, ahorrando así costos y tiempo. Todos los sectores desde el transporte, la educación, el sistema de justicia, la seguridad en todos sus niveles incluyendo a los ejércitos pueden beneficiarse de esta tecnología, por ejemplo:
1.- Optimizar el tráfico vehicular mediante el uso de datos de automóviles, teléfonos y sensores urbanos reduce la contaminación y los tiempos de viaje.
2.- Anticipar la escasez de cultivos y predecir la deforestación mediante el análisis de datos satelitales.
3.- Ayudar a combatir problemas globales como: el cambio climático; el hambre en el mundo; la reducción de la pobreza optimizando la ayuda económica.
4.- Desde el ámbito de la salud, la IA puede aumentar la eficiencia, generar nuevos conocimientos sobre las enfermedades y acelerar el descubrimiento de medicamentos novedosos, ayudar en la detección del cáncer y la construcción de entornos inclusivos para personas con discapacidad.
Es inegable que la Inteligencia artificial permite atender problemas reales con un rendimiento rentable al implicar el procesamiento constante de datos personales, aumentar las posibilidades de analizar, e identificar los ha´bitos diarios de la gente.
La innovación tecnológica ha hecho evidente la discusión sobre los efectos, consecuencias y posibles violaciones a los derechos humanos derivado del uso de la inteligencia artificial que lleva a cuestiones cada vez ma´s relacionadas con la privacidad de los usuarios, pero tambie´n con el derecho de igualdad, no discriminacio´n, el sesgo existente contra los grupos vulnerables y acceso a la justicia, que son los derechos humanos ma´s vulnerados.
Derivado del informe de la ONU publicado en Septiembre del 2021 en el que se revela “las innegables y crecientes repercusiones de las tecnologías de inteligencia artificial en el ejercicio del derecho a la intimidad y otros derechos humanos” 1.
Michelle Bachelet, la Alta Comisionada de las Naciones Unidas para los Derechos Humanos, repetidamente ha hecho un llamado urgente para que se analicen las iniciativas y políticas que se están desarollando y establecer una moratoria a la venta y el uso de los sistemas de inteligencia artificial que amenazan gravemente a los derechos humanos, hasta que se hayan puesto en vigor las salvaguardas adecuadas. Sobre todo para la región de Latinoamérica en donde la desigualdad y la ausencia de garantías de protección de derechos es más latente.
Experiencias en torno a la regulación de la IA
En abril de 2021, la Comisión Europea presentó una propuesta para regular la inteligencia artificial con un enfoque basado en el riesgo que introduce obligaciones de responsabilidad basadas en el impacto potencial de la aplicación de la IA, llamada Ley de Inteligencia Artificial. 2.
Es la primera ley que pretende regular este sector. Si la Unión Europea (UE) tiene éxito, esta Ley podría convertirse en el primer instrumento modelo para regular y supervisar la implementación de esta tecnología. En España ya está regulado el derecho ante la inteligencia artificial contemplado en el Artículo 25 de la Carta de Derechos Digitales de España de 2021 3.
En Ame´rica Latina, algunos países presentaron estrategias o políticas nacionales de inteligencia artificial como un esfuerzo para establecer guías y referentes para la implementación de esta tecnología, casos tales como: Brasil, Colombia, Chile y Uruguay.
Ética Digital
En el 2017 derivado del debate sobre debate “Inteligencia artificial: sueños, riesgos y realidad”, de Biocat y la Obra Social La Caixa, que reunió a expertos en inteligencia artificial de todo el mundo se impulsó la Declaración de Barcelona 4 para un desarrollo y uso adecuado de la inteligencia artificial en Europa, la cual pretende sensibilizar a la sociedad de los beneficios y los riesgos que implica el desarrollo de la inteligencia artificial y comprometer a quienes la diseñan, la implementan o la utilizan bajo los siguientes principios de prudencia, fiabilidad, rendición de cuentas, responsabilidad, autonomía restringida, y el papel del humano.
En el 2019, la Organización de Cooperación y el Desarrollo Económicos (OCDE) emitió principios éticos para el uso y desarrollo de la IA 5 que fue adoptado por 42 países. En el 2021, la Organización de la Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) presentó la primera norma mundial sobre la ética de la inteligencia artificial, adoptada por los Estados Miembros de la UNESCO en su Conferencia General.
Este texto histórico establece valores y principios comunes que guían la construcción de la infraestructura jurídica necesaria para garantizar un desarrollo saludable de la IA. Estas normativas hacen incapié en como la tecnología nos refleja los problemas de la
sociedad, enmarcados a grandes rasgos en los siguientes puntos:
1-. La IA tiende a ampliar las diferencias de género ya existentes. De acuerdo a la ONU, Solo el 22% de los profesionales que se dedican a la IA son mujeres 6 . Los estereotipos se están reproduciendo en las tecnologías de la IA. No es una coincidencia que las asistentes personales virtuales como Siri, Alexa o Cortana sean "femeninas" por defecto. El servilismo que expresan son un ejemplo de cómo la IA puede seguir reforzando y difundiendo los prejuicios de género en nuestras sociedades.
2-. De acuerdo a la UNESCO, se espera que la IA genere casi 4 billones de dólares de valor añadido para 2022. Estados Unidos y China concentran el 94% de todas las inversiones en startups de IA en los últimos cinco años. Para 2030, se espera que los beneficios económicos sean mayores en China y América del Norte, y que representen el 70% del impacto económico mundial de la IA. Esta concentración en manos de pocos países de altos ingresos dejará a los países en desarrollo muy atrás.
3-. La OCDE presisa para la rendición de cuentas se debe dotar de transparencia la forma en que las máquinas toman sus decisiones y los datos que manejan de cada persona, así como educar a la tecnología y los algoritmos antes de que se desvien del objetivo por el que fueron creados.
4-. La IA interpreta el mundo, reconoce fotografías, caras, pero se cree que solo sirve para personas privilegiadas. La ONU hace un llamado para respetar la variedad de las culturas y la diversidad humana. Nos hacen falta nuevos algoritmos que puedan razonar y aprender de forma robusta y eficiente sobre prácticamente cualquier tema.
5-. Como se estipula en la Declaración de Barcelona, las capacidades más complicadas de desarrollar son las que requieren interaccionar con entornos no restringidos: percepción visual, comprensión del lenguaje, razonamiento con sentido común y toma de decisiones a partir de información incompleta. Necesitamos lenguajes de representación de conocimientos que codifiquen información sobre numerosos tipos de objetos, situaciones, acciones, así como sobre sus propiedades y las relaciones entre ellos.
Se debe reconocer la importancia del conocimiento humano por sobre el uso de la inteligencia artificial. Los usos y aplicaciones de IA pueden tener impactos positivos y negativos en los derechos humanos, dependiendo de cómo se desarrollen y utilicen pero sobre todo con el grado ético con el que se rija tal utilización. La IA le da sentido a los datos vía la interpretación de los algoritmos, por lo que se espera que la IA desempeñe un papel importante en la configuración de la competitividad y la productividad globales en las próximas décadas.
Como lo dice la UNESCO, necesitamos una inteligencia artificial centrada en el ser humano, la cual debe ser para el mayor interés de la humanidad y no lo contrario. Es necesario “tener reglas claras” que restrinjan su comportamiento y que aclaren quién es responsable de sus éxitos, fracasos o de sus errores. Necesitamos reflexiones colectivas, seguridad ante su uso y que siempre se respete el principio de ética y dignididad humana.
1 https://news.un.org/es/story/2021/09/1496782
2 https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-
01aa75ed71a1.0008.02/DOC_1&format=PDF
3 https://www.lamoncloa.gob.es/presidente/actividades/Documents/2021/140721-Carta_Derechos_Digitales_RedEs.pdf
4 https://www.biocat.cat/sites/default/files/sinopsibdebate_artintelligence_es.pdf
5 https://oecd.ai/en/ai-principles
6 https://news.un.org/es/story/2022/02/1504012#:~:text=Solo%20el%2022%25%20de%20los,liderazgo%20en%20las%20
empresas%20tecnol%C3%B3gicas.
Jonathan Mendoza Iserte, Secretario de Datos Personales del INAI @JonnhyMendoza
Daniela Reyes Torres @danyreyest
MAAZ