El Vaticano advierte: la IA está en manos de pocas y poderosas empresas

El Vaticano publicó este martes 28 de enero de 2025 un documento que reflexiona sobre la Inteligencia Artificial (IA), en el que, aunque la considera "una oportunidad", advierte de sus peligros cómo "que está en manos de pocas y poderosas empresas", el uso equivocado que le pueden dar los estudiantes o aumentar la difusión de noticias falsas.

El extenso documento titulado "Antiqua et Nova" (en referencia a la "sabiduría", antigua y nueva)" es una reflexión de los "ministerios" vaticanos para Doctrina de la Fe la Cultura y la Educación junto con las palabras del papa Francisco sobre el tema y nace ante la necesidad de "exhortar a cuantos tienen el encargo de transmitir la fe (padres, profesores, pastores y obispos) a dedicarse con cuidado y atención a esta cuestión urgente".

El texto analiza los desafíos y oportunidades del desarrollo de la Inteligencia Artificial en los campos de la educación, la economía, el trabajo, la salud, las relaciones internacionales y las relaciones interpersonales o en las guerras.

LA MÁQUINA Y LA VIDA DE UN SER HUMANO

Por ejemplo, se explica que "la facilidad con la que las armas, convertidas en autónomas, hacen más viable la guerra va en contra del principio mismo de la guerra como último recurso en casos de legítima defensa, aumentando los recursos bélicos mucho más allá del alcance del control humano y acelerando una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos".

Pues, añade, "los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, son gran motivo de preocupación ética porque carecen de la exclusiva capacidad humana de juicio moral y de decisión ética" y concluye: "ninguna máquina debería elegir jamás poner fin a la vida de un ser humano".

En el documento se suscita además la preocupación del hecho de que "la mayor parte del poder sobre las principales aplicaciones de la IA se concentra en manos de unas pocas empresas poderosas", lo que hace que "esta tecnología acaba siendo manipulada con fines personales o corporativos o para orientar la opinión pública hacia los intereses de un sector".

El documento recuerda el grave riesgo de que la IA "genere contenidos manipulados e información falsa" y aún más preocupante "es cuando dicho contenido ficticio se utiliza intencionalmente con fines manipuladores. Por ejemplo, cuando se difunden intencionalmente imágenes, vídeos y audio deepfake (representaciones modificadas o generadas algorítmicamente) para engañar o dañar”.

SOBRE EL CRECIMIENTO DE LOS NIÑOS

En cuanto a las relaciones humanas, el documento observa que la IA puede, sí, "fomentar las conexiones" pero, al mismo tiempo, conducir a un "aislamiento perjudicial" y alerta de que ” también plantea problemas particulares para el crecimiento de los niños".

Cita como ejemplo cuando se representa a la IA como una persona, "lo que es una grave violación ética", o "utilizar la IA para engañar en otros contextos –como la educación o las relaciones humanas, incluida la esfera de la sexualidad– es profundamente inmoral y requiere una cuidadosa vigilancia”.

Asimismo, aunque "puede mejorar el acceso a la educación", el documento vaticano lamenta que muchos programas "se limitan a dar respuestas en lugar de animar a los estudiantes a encontrarlas por sí mismos, o a escribir ellos mismos los textos y esto conduce "a una pérdida de formación para acumular información o desarrollar el pensamiento crítico" o divulgar "informaciones distorsionadas o artificiales" o "contenidos inexactos".

¿Quieres acceder a todo el contenido de calidad sin límites? ¡SUSCRÍBETE AQUÍ!