176 muertes de inocentes, 82 iraníes, 57 canadienses, 11 ucranianos y el resto de otras nacionalidades fue el saldo de un “error” que el 10 de enero derribó el avión de Ukraine Airlines International, que realizaba un vuelo entre Teherán y Kiev.
Se dijo que el sistema de comunicación dio “error” y “tomó una mala decisión”. Las vidas humanas no pueden depender de “sistemas de guerra” alimentados por variables y algoritmos, sin que pasen por varios controles de mando y decisión humanos.
Esta tragedia pone de relieve la urgencia de que se proponga y negocie a nivel internacional un tratado que regule las armas autónomas, los robots asesinos, las aplicaciones militares con Inteligencia Artificial (IA) y los drones armados.
Este diálogo internacional debe incluir discusiones sobre las fuentes de información y activación de las armas autónomas, sus precursores, algoritmos, manejo de crisis y protocolos de seguridad. Los países que lideran y desarrollan actualmente estas tecnologías son China, Israel, Corea del Sur, Rusia, Reino Unido y Estados Unidos. Hay quienes han alzado la voz para exigir, en unos casos, la regulación; en otros, el control humano de las armas y que éstas no puedan ser diseñadas, fabricadas, ni activadas por la IA, incluso, hasta piden su prohibición.
Se trata del nuevo y complejísimo campo de leyes domésticas e internacionales que debe regular aspectos de la IA, como el de la carrera armamentista y militar.
En la discusión también se encuentran los conceptos de responsabilidad internacional y codificación del derecho de defensa legítima o del uso de la fuerza bajo los parámetros de la ONU y otros arreglos regionales como la OTAN.
Más de 90 países se han pronunciado en diversos foros internacionales a favor de una discusión multilateral en esta materia. En septiembre de 2019, en la ONU tuvo lugar un primer diálogo ministerial para discutir los sistemas de armas letales autónomos, pero hace falta mucho para llegar a acuerdos. Se han movilizado 130 organizaciones internacionales, encabezadas por Human Rights Watch, que han puesto en marcha la campaña “Alto a los robots asesinos”, alertando sobre las terribles consecuencias y dilemas éticos que implican las máquinas autónomas de guerra.
Soy de las que piensan que no se puede prohibir lo que ya existe. En el caso de este tema donde intervienen el poder, la ciencia, la tecnología, las inversiones, la investigación y el desarrollo, los posibles errores humanos o de máquinas, y no vayamos más lejos, la vida y la muerte, es imperativo llamar a una convención internacional para discutir el tema por parte de expertos, políticos y grupos de interés, a fin de suscribir un tratado de nueva generación en la materia. Mientras más rápido actúe la comunidad internacional, mejor será para la seguridad y la paz mundiales.
POR VANESSA RUBIO
SENADORA DEL PRI
@VRUBIOMARQUEZ
lctl