Un panel de expertos intergubernamental fiscalizará los avances de la IA

Un nuevo panel internacional, inspirado en el Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC), fiscalizará los avances de la Inteligencia Artificial (IA) para velar por la seguridad de esa nueva tecnología, tal y como se ha acordado en la cumbre celebrada en Bletchley Park.

Un nuevo panel internacional, inspirado en el Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC), fiscalizará los avances de la Inteligencia Artificial (IA) para velar por la seguridad de esa nueva tecnología, según ha anunciado este jueves el primer ministro británico, Rishi Sunak.

En una rueda de prensa al concluir la cumbre de seguridad global sobre IA en Bletchley Park (Inglaterra), Sunak ha detallado que «la comunidad internacional al completo ha estado de acuerdo con esta idea», que cuenta con el respaldo del secretario general de la ONU, António Guterres, presente en el encuentro.

Los 28 países que han participado en la cumbre, entre los que se cuentan Estados Unidos y China, además de otros europeos como Alemania y Estado francés, se han comprometido a «nominar expertos» para ese grupo, que publicará regularmente un informe sobre el estado de desarrollo de la inteligencia artificial.

El académico canadiense Yoshua Bengio, miembro del consejo científico asesor de la ONU y premio Turing por su trabajo en redes neuronales profundas, presidirá los trabajos para elaborar ese documento anual.

El jefe de Gobierno británico, anfitrión de la primera cumbre global de IA, ha detallado que «los países con ideas afines» que han participado en el encuentro y las compañías tecnológicas han acordado asimismo establecer mecanismos para poner a prueba los futuros sistemas de inteligencia artificial.

«Hasta ahora, las únicas personas que probaban la seguridad de los nuevos modelos de IA han sido las propias empresas que los desarrollaban. Eso debe cambiar», ha afirmado Sunak, que ha indicado que las autoridades podrán evaluar los sistemas «antes de que sean lanzados».

«Esta tecnología se está desarrollando a una velocidad tal que los gobiernos deben asegurarse de que mantienen el ritmo», ha agregado el primer ministro, que ha asegurado que a pesar de los peligros asociados a la IA, es una herramienta que «puede ayudar a casi todo el mundo a hacer su trabajo mejor y más rápido».

Cita transcendente, según Sunak

A pesar de que la cumbre de Bletchley Park no ha atraído a líderes globales como el presidente de Estados Unidos, Joe Biden, ni a la mayoría de mandatarios europeos, Sunak ha defendido ante la prensa el éxito de la convocatoria.

Ha puesto en valor, en particular, que Washington y Pekín, potencias rivales, se hayan alineado en la declaración conjunta que se publicó el primer día del encuentro, en la que los participantes alertaban sobre las amenazas potencialmente «catastróficas» de la IA y apostaban por coordinar una respuesta internacional.

«No fue una decisión fácil para mí invitar a China y, de hecho, mucha gente me criticó por hacerlo. Pero creo que fue la mejor decisión a largo plazo, porque cualquier conversación seria sobre la seguridad de la IA debe contar con las naciones líderes en IA», ha manifestado.

«No puedo predecir el futuro, ni exactamente cómo se desarrollará todo esto, pero habría sido un error no intentarlo», ha apostillado.

Advertencia de Guterres

Por su parte, el secretario general de la ONU, Antonio Guterres, ha alertado de que existe la posibilidad de que el desarrollo de la Inteligencia Artificial avance en «direcciones imprevistas» y pueda llegarse a «perder el control» de los sistemas.

«La velocidad y el alcance de la tecnología actual de IA no tiene precedentes. La paradoja es que, en el futuro, nunca volverá a moverse tan lentamente como ahora», ha dicho Guterres en su discurso.

Para abordar sus riesgos son necesarias «nuevas soluciones», pero no «nuevos principios», ha recalcado el secretario general, que ha defendido basar las normas de gobernanza de la IA en la Carta de Naciones Unidas y la Declaración Universal de los Derechos Humanos.

«Durante el pasado año, hemos visto el lanzamiento de potentes modelos de IA con pocas consideraciones respecto a la seguridad y las salvaguardas para los usuarios», ha dicho el secretario general de la ONU.

«Cada vez que eso ocurre, incrementa el riesgo de que esa tecnología se utilice de manera maligna por criminales, o incluso por terroristas, de que mine la seguridad o la integridad de la información, de que la gente pierda su control y de que se pueda desarrollar en direcciones imprevistas», ha agregado.

Ha subrayado asimismo la posibilidad de «consecuencias negativas a largo plazo», como interferencias con los mercados laborales y las economías globales, así como una «pérdida de diversidad cultural» que puede derivarse de los sesgos y los estereotipos incorporados a los algoritmos.

«Acciones inmediatas»

A más corto plazo, Guterres ha pedido «acciones inmediatas» para evitar que la emergencia de la Inteligencia Artificial exacerbe las «enormes desigualdades que ya aquejan a nuestro mundo».

«Eso no es un riesgo, es una realidad –ha afirmado–. Un informe reciente determinó que no hay ningún país africano en el ‘top 50’ en cuanto a preparación ante la IA», y 21 de los 25 países con menor puntuación están en África, ha dicho el máximo responsable de la ONU.

Al mismo tiempo, ha resaltado el «enorme potencial» de las nuevas tecnologías para contribuir a desarrollar las economías que «todavía se están recuperando de la pandemia de covid-19 y están luchando contra una montaña de deuda».

La IA puede «ayudar a los gobiernos a presupuestar, ayudar a las empresas a crecer, y ayudar a los científicos climáticos a predecir sequías y tormentas», así como «ayudar a personas ordinarias a acceder a sanidad y educación», ha declarado.