De este verano, que ya huele a otoño, quiero destacar dos noticias que dan una visión profética a las palabras del Papa León XIV en su encíclica Magnifica humanitas. Dice el Papa que Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas. En muchos casos, sin embargo, los procesos internos que conducen a un resultado pueden ser poco transparentes, y eso hace más difícil atribuir responsabilidades y corregir los errores. Es aquí donde se vuelve decisivo lo que llamamos “responsabilidad”(accountability): la posibilidad de identificar quién debe “rendir cuentas” de las decisiones, motivarlas,controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas. Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana. Esta exigencia es aún más urgente porque existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas,los controles y las instituciones capaces de gobernar sus efectos. No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea. De otro modo, el cambio será gobernado sólo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminando por imponer reglas dictadas por quienes poseen datos, infraestructuras y capacidad de cálculo.
No puedo dejar de pensar en el breve eco de la noticia sobre el dueño de la plataforma digital Meta que accedió a satisfacer en USA miles de millones de dólares por el presunto diseño adictivo de Facebook e Instagram, porque las autoridades estatales sostienen que Meta las ha diseñado con funciones para prolongar la atención de los menores y favorecer un uso compulsivo; ofreciendo a padres y consumidores una imagen engañosa sobre la seguridad de sus servicios, pese a conocer los riesgos asociados a su utilización intensiva. Dada la magnitud del problema, que afecta a la salud de las personas en todo el mundo, el espacio dedicado y, el análisis realizado por los medios ha sido francamente pequeño y alejado de la profundidad que a este tema le da la encíclica y que solo recojo parcialmente.
En segundo lugar, cuando la encíclica dice En un mundo cada vez más interdependiente, la paz no es un tema entre otros, sino una condición del bien común universal y una prueba para la madurez moral de los pueblos, y especialmente de quienes son llamados a puestos de responsabilidad en el gobierno.
La revolución digital está modificando la gramática de los conflictos. A la guerra visible se suman formas híbridas: ataques cibernéticos, manipulación de la información, campañas de influencia y automatización de decisiones estratégicas. La IA entra en estos procesos como factor de aceleración, en un contexto en el que muchas tecnologías son intrínsecamente ambivalentes: lo que nace para proteger puede convertirse rápidamente en ataque, y la frontera entre protección y agresión tiende a difuminarse. La IA puede potenciar la defensa y la protección de los civiles, pero también puede bajar el umbral del uso de la fuerza, hacer opacas las responsabilidades y alimentar una cultura en la que el enemigo queda reducido a un dato y la víctima a un “daño colateral”. Ante estas transformaciones, debemos recurrir a los principios de la Doctrina social —dignidad de la persona, bien común, destino universal de los bienes, subsidiariedad, solidaridad y justicia— como criterios para juzgar si las tecnologías sirven realmente a la humanidad o terminan por someterla, y considerarlas como orientaciones para nuestras decisiones. No se puede dejar de pensar en la información y la situación que se da hoy en Ceuta promovida por marroquíes como forma de generar conflictos en Europa.
Ahora bien, si tristemente proféticas han sido las anteriores palabras, nos corresponde también con plena esperanza hacer realidad estas otras, La calidad de una civilización se mide no por el poder de sus medios, sino por el cuidado que sabe ofrecer, por la capacidad de reconocer un rostro en el otro y no una función. La capacidad de saber cuidarnos los unos a los otros es una dimensión importante de nuestro ser humano. Esta capacidad se aprende y se perfecciona con la experiencia. Leer cuentos a un niño,acompañar a una persona anciana o hacer acogedor un espacio, son gestos que se viven en un ambiente familiar, pero que nos ayudan a aprender y a interiorizar la importancia del cuidado a nivel social y nos entrenan para reconocer al otro como persona digna de atención. La tecnología puede sostener también el cuidado mutuo entre personas, por ejemplo si ofrece instrumentos que ayuden a prever y organizar, sin despojar al ser humano de su libertad y de su juicio, en cuanto sujeto de relaciones y responsable de decisiones.
En nuestra mano está mejorar la dignidad de las personas que nos rodean, y educarnos para hacer realidad la doctrina social de la Iglesia que el Papa invita a hacer nuestras en esta gran encíclica.
María Puy
