Cubadebate

La inteligencia artificial que aprende a hablar como los humanos se apoderó de la atención de los inversores de Wall Street, de los políticos y de los reguladores.

Un pacto mundial para gestionar las tecnologías digitales, incluido el rápido avance de la inteligencia artificial (IA) que puede traer hoy amenazas difíciles de controlar, fue propuesto por el titular de la ONU, António Guterres.

La intención es que gobiernos, sector privado y sociedad civil puedan adoptar ese gran acuerdo en septiembre de 2024, durante la llamada Cumbre del Futuro convocada por la organización.

En 2021 Guterres planteó la idea que entonces ya pretendía la regulación de la IA, pero ahora es mucho más amplia ante el auge de esa tecnología en los últimos meses.

Para el secretario general de la ONU frente a la IA se asiste a su potencial disruptivo, tanto positivo como negativo, lo cual demanda unión para considerar los problemas y colaborar en la identificación de riesgos y formas ágiles de mitigarlos.

Guterres resaltó que recientemente se superó un umbral digital, con el uso generalizado de IA generativa en la forma de ChatGPT y muchas otras aplicaciones, una tecnología que tendrá un gran impacto, aunque no está claro que vaya a ser bueno.

La perspectiva de un mayor progreso tecnológico ahora plantea más miedo que esperanza, incluso aquellos que han desarrollado IA se beneficiarían más de ella, expresan una profunda preocupación y han pedido acciones para su gobernanza, señaló.

También consideró necesario asegurar que el diseño y uso de la IA sea transparente, seguro y que esté bajo el control de humanos a los que se puedan pedir cuentas, por lo que se apuesta por combinar guías y normas internacionales, marcos regulatorios nacionales y estándares técnicos en un marco que facilite una gestión ágil.

Entre las acciones Guterres planteó la puesta en marcha urgente de una investigación junto a las empresas para asegurar que los sistemas de IA sean seguros y que se alineen con valores humanos, o el establecimiento de un grupo asesor de alto nivel con expertos que se reúnan regularmente para abordar estas cuestiones.

Además, pidió a los Gobiernos pactar con la industria directrices que guíen el desarrollo de la inteligencia artificial, y compromisos para reforzar la transparencia e incluir equipos de derechos humanos y ética en este trabajo.

Por último, llamó a considerar prohibiciones al uso de aplicaciones de tecnología cuyo potencial o impacto no pueda justificarse bajo la ley internacional de derechos humanos.

(Tomado de Prensa Latina)

Vea además

¿Cuál es el panorama del uso la inteligencia artificial en América Latina?