El Papa Francisco ha lanzado una nueva advertencia sobre los peligros de la inteligencia artificial (IA), destacando la necesidad de una mayor transparencia y conciencia en el desarrollo y uso de esta tecnología. En un mensaje con motivo de la Jornada Mundial de las Comunicaciones Sociales, el Papa ha expresado su preocupación por los posibles sesgos y la influencia que los modelos de IA pueden tener en nuestra forma de pensar y percibir el mundo.
La Preocupación del Papa por la Falta de Transparencia
El Pontífice ha manifestado su inquietud por la “falta de transparencia en la creación de los algoritmos” que impulsan a los chatbots más avanzados. En particular, se ha centrado en los modelos de lenguaje grandes (LLM), como ChatGPT y Gemini, que considera especialmente eficaces en la persuasión oculta. El Papa argumenta que estos sistemas, al estar basados en grandes cantidades de datos, pueden reproducir y amplificar los sesgos presentes en esos datos, perpetuando estereotipos y prejuicios.
La Influencia de la Visión del Mundo en los Modelos de IA
El Papa Francisco ha señalado que los modelos de IA “están moldeados por la visión del mundo de quienes los construyen”. Esto significa que las decisiones y el diseño de estos sistemas reflejan inevitablemente la perspectiva de sus creadores. Esta influencia puede llevar a que los modelos de IA no sean neutrales y puedan imponer formas de pensar específicas, incluso si estas no son universales o beneficiosas para todos.
La Advertencia Sobre la “Probabilidad Estadística” como Conocimiento
El Papa también ha criticado la práctica de presentar las predicciones y resultados generados por la IA como “conocimiento”, describiéndolos como “solo aproximaciones”. Esta crítica se basa en la idea de que la IA a menudo ofrece probabilidades estadísticas, pero no necesariamente una comprensión profunda o verdadera del mundo. El Papa sugiere que confundir estas aproximaciones con conocimiento real puede llevar a errores de juicio y decisiones basadas en información incompleta.
La Concentración del Poder en Pocas Empresas
El Papa ha expresado su preocupación por el hecho de que “detrás de esta enorme fuerza invisible que nos afecta a todos, solo haya unas pocas empresas”. Esta concentración del poder en manos de un reducido número de compañías que desarrollan y controlan la IA plantea interrogantes sobre la influencia que estas empresas pueden ejercer en la sociedad, el acceso a la tecnología y la posibilidad de influir en las decisiones que se toman.
La Necesidad de Alfabetización Digital y Educación en los Medios
Para abordar estos desafíos, el Papa ha recomendado “introducir en los sistemas educativos de todos los niveles” una educación a los medios de comunicación y a la inteligencia artificial. Argumenta que “la revolución digital exige una alfabetización digital” para que las personas puedan comprender cómo los algoritmos modelan nuestra percepción de la realidad y tomar decisiones informadas. Esta educación no solo debe centrarse en las habilidades técnicas, sino también en el pensamiento crítico y la conciencia de los posibles sesgos y limitaciones de la IA.
Preocupaciones sobre el Uso Militar de la Inteligencia Artificial
Hace un mes, el Papa Francisco ya había denunciado la carrera por la IA en el ámbito militar. Considera que “delegar en las máquinas las decisiones sobre la vida y la muerte de las personas” constituye una “espiral destructiva” que amenaza los valores fundamentales de la humanidad.
Preguntas y Respuestas Clave
- ¿Cuál es la principal preocupación del Papa Francisco sobre la IA? La falta de transparencia en los algoritmos y el riesgo de que estos sistemas reproduzcan sesgos y estereotipos.
- ¿Qué tipo de IA ha mencionado el Papa? Modelos de lenguaje grandes (LLM) como ChatGPT y Gemini.
- ¿Qué recomienda el Papa para abordar los desafíos de la IA? Una educación a los medios y a la inteligencia artificial en todos los niveles educativos.
- ¿Por qué el Papa se preocupa por la concentración del poder en pocas empresas? Porque esto puede llevar a una influencia desproporcionada y limitar la diversidad de perspectivas en el desarrollo y uso de la IA.
- ¿Qué tipo de decisiones denuncia el Papa en relación con la IA? Las decisiones sobre la vida y la muerte de las personas.
