¿Cómo contener lo incontenible?, es la pregunta con respecto a la Inteligencia Artificial (IA) que formula Suleyman en "La Ola que viene: Tecnología, poder y el mayor dilema del siglo XXI", que comentamos en mi anterior columna. Para atender este dilema el autor, uno de los mayores expertos en sistemas inteligentes y fundador de DeepMind –la empresa de IA de Google– propone una interesante hoja de ruta que ha llamado la atención de la opinión pública británica y mundial.
Ello en virtud de que la IA –como explica ampliamente– se está moviendo más rápido de lo que incluso los expertos de la industria pueden rastrear o predecir. Ahora, este cambio exponencial se está expandiendo a la robótica, biotecnología, computación cuántica e incluso nuevas fuentes de energía.
Junto al enorme potencial que la IA representa para el bien de la humanidad, según advierte Suleyman, las tecnologías más avanzadas "podrían alterar el orden geopolítico actual, pues abren el camino a inmensos ciberataques potenciados por la IA, guerras automatizadas capaces de arrasar países, a pandemias provocadas y a un mundo sujeto a fuerzas inexplicables pero al parecer omnipotentes". El autor concluye que el avance de estas nuevas tecnologías es incontenible, impulsadas por poderosos incentivos económicos, políticos y sociales.
No hay que perder de vista, además, que el desarrollo de estas nuevas tecnologías es esencial para hacer frente a los grandes retos del orbe. Es probable, incluso, que sin estas tecnologías no estaríamos en capacidad de superar tales desafíos. Tampoco es posible privar al mundo de los grandes beneficios que la IA traería en materia de salud, educación y bienestar.
La hoja de ruta busca que la ola tecnológica que viene sea efectivamente para el bien y no genere disrupción, inestabilidad e incluso una catástrofe para la humanidad. Según Suleyman la tarea por delante es contener una nueva ola expansiva de acontecimientos no intencionados y las consecuencias tecnológicas que conlleva.
En su hoja de ruta, Suleyman propone un amplio esquema de seguridad a seguir por los desarrolladores de las nuevas tecnologías: auditorías y supervisión de aplicaciones en las empresas y los círculos académicos, y mayor atención y compromiso de los gobiernos para acordar estándares de regulación, vigilancia y control.
Una de sus conclusiones más importantes se refiere a la gobernanza –como eje vertebrador– de los sistemas de IA. En esta lógica, la seguridad y la contención serán ante todo productos de la buena gobernanza. Por ello, la implementación de normas regulatorias bien definidas y marcos institucionales eficaces tiene que estar acompañada de una cultura de ética y responsabilidad por parte de todo el conjunto social.
Por tanto, no hay tarea más urgente o importante para la sociedad internacional que el imperativo de contener, encauzar y controlar los modelos más avanzados de inteligencia artificial. Sobre las discusiones internacionales en torno a la gobernanza de la IA volveremos en la próxima columna.
POR CARLOS DE ICAZA
EMBAJADOR EMÉRITO DE MÉXICO Y EX SUBSECRETARIO DE RELACIONES EXTERIORES
EEZ
