Líderes advierten sobre el riesgo de delegar decisiones humanas a la inteligencia artificial

Durante una audiencia general en la plaza de San Pedro, el papa León XIV y el secretario general de la ONU, António Guterres, expresaron su preocupación por el peligro de delegar decisiones humanas a la inteligencia artificial (IA). Ambos líderes hicieron un llamado a los gobiernos para que asuman su responsabilidad y promuevan una visión global ante el avance descontrolado de esta tecnología.

Preocupaciones sobre la inteligencia artificial

El papa León XIV alertó sobre el riesgo de acostumbrarse a que los algoritmos tomen decisiones que deberían ser competencia de la conciencia humana. En su catequesis, subrayó que el desarrollo tecnológico y el uso creciente de la IA presentan oportunidades, pero también amenazan la calidad de las relaciones interpersonales, que se vuelven más virtuales y menos personales.

El pontífice, quien ha dedicado su primera encíclica ‘Magnifica humanitas‘ a la IA, enfatizó la importancia de que las relaciones sociales mantengan una sustancia real y profundidad personal. Recordó que el Concilio Vaticano II, a través del documento ‘Gaudium et spes‘, establece que la persona humana debe ser el centro de todas las instituciones sociales.

Responsabilidad gubernamental y empresarial

Por su parte, António Guterres instó a los gobiernos a adoptar una estrategia global y coordinada para enfrentar los riesgos asociados con la IA. En una rueda de prensa, destacó que no se pueden ignorar las preocupaciones planteadas por los líderes del sector tecnológico y que es fundamental establecer salvaguardias para garantizar un desarrollo seguro y responsable de la IA.

Guterres también mencionó que la IA será un tema central en las conversaciones de la próxima Asamblea General de la ONU, programada entre el 22 y el 28 de septiembre. Afirmó que es necesario un entendimiento compartido sobre cómo avanzar en el desarrollo de la IA, identificando cuándo se requieren medidas adicionales para gestionar los riesgos potenciales.

En el contexto de este debate, Mark Zuckerberg, director ejecutivo de Meta, defendió que cada empresa debe asumir la responsabilidad de garantizar la seguridad de sus modelos de IA, distanciándose de las propuestas para una desaceleración en el desarrollo de esta tecnología. Afirmó que cada laboratorio tiene el deber de avanzar de manera segura y que Meta ha priorizado la seguridad en el lanzamiento de sus productos de IA.