La “inteligencia artificial” (IA) representa uno de esos cambios tecnológicos en cuyo desarrollo la humanidad ha desplegado multitud de conocimientos y habilidades, pero para cuyas consecuencias no está preparada. No sólo porque no sabe cuáles serán –la incertidumbre del futuro le impone una ineludible ignorancia al respecto– sino, más aún, porque las desconoce: carece de un marco cognitivo para planteárselas siquiera. Ignorar es reconocer lo que no sabemos; desconocer es estar imposibilitados para identificarlo.
Daniel Innerarity (Bilbao, 1959) ha escrito Inteligencia artificial y democracia (UNESCO, 2024) para tratar, parafraseando a Walter Benjamin, de organizar ese desconocimiento. Porque el futuro es radicalmente incierto, pero seguro será muy diferente. Y las nuevas tecnologías de la IA ya están comenzando a afectar nuestra vida política de maneras que no entendemos a cabalidad.
Contra la tendencia que tienen dichas tecnologías a sustraerse del escrutinio democrático, Innerarity propone politizarlas reflexivamente. Preguntarnos, pues, de qué modo materializan los valores de quienes las crean y del ecosistema en el que se implementan, a cuáles prácticas democráticas o autoritarias sirven, cómo pueden usarse para beneficio colectivo o ganancia privada.
En ese sentido, descarta la autoregulación y aboga por la creación de instrumentos normativos que garanticen una gobernanza digital democrática y con perspectiva de derechos humanos.
Las plataformas en las que transcurre buena parte de la conversación pública la condicionan de distintos modos. La promesa de horizontalidad que representaban esas tecnologías ha desembocado, sobre todo por el poder de los algoritmos, en un riesgo de opacidad y manipulación. Dado que “no hay democracia sin una ciudadanía capaz de ejercer vigilancia crítica”, es imperativo que las empresas que las manejan cumplan con obligaciones muy puntuales en materia de apertura, transparencia y rendición de cuentas.
A la conocida brecha digital se han sumado, además, otras asimetrías de poder y dinámicas de estratificación. “Se ha podido hablar incluso de unas nuevas clases sociales en la sociedad de los datos en función de quiénes los producen, quiénes tienen los medios para recogerlos y quiénes disponen de las capacidades para analizarlos”. Políticamente, además, la objetividad que aparenta el procesamiento de grandes volúmenes de información para la toma de decisiones amenaza reemplazar al demos con la big data.
El argumento, al final, es que las sociedades necesitan dejar de ver la tecnología y sus impactos como algo meramente técnico, que transcurre al margen de su vida política o que sólo responde a la lógica del mercado.
Frente a su potencial disruptivo, su ubicuidad y a la sensación de que son incontrolables, es indispensable reivindicar el valor de la crítica, el pluralismo y la deliberación democrática.
POR CARLOS BRAVO REGIDOR
COLABORADOR
@CARLOSBRAVOREG
MAAZ
