Por qué los líderes religiosos advierten sobre la IA

Imagen de Google

¿Hay algún tema sobre el que los medios estén más obsesionados que la Inteligencia Artificial (IA)? A diario, noticias y comentarios sobre la IA aparecen en los periódicos, en las noticias de televisión y en las redes sociales. La mayoría de nosotros estamos luchando por entenderla, incluidos quienes la usamos con frecuencia.

Sorprendentemente, líderes religiosos también están opinando. Jay Kim, un pastor protestante en Silicon Valley, ha advertido que los cristianos tienden a considerar las tecnologías digitales como herramientas neutrales cuando en realidad moldean a quienes las usan. Hablando sobre la IA, enfatizó su potencial para deshumanizar y sustituir relaciones reales por relaciones artificiales. 

No confundir con una persona

Rabbanit (un título para una rabina) Sara Wolkenfeld, directora de aprendizaje de Sefaria, una biblioteca en línea de textos judíos, ha enfatizado un peligro diferente: la IA puede parecer una persona aunque no lo sea. Señala que cuando un sistema de IA nos habla, naturalmente interpretamos la conversación como evidencia de las intenciones y la conciencia de otra persona. Desde una perspectiva judía, argumenta, necesitamos tener cuidado de no confundir un lenguaje sofisticado con la personalidad humana.

(En aras de la total transparencia, copié la mayor parte de los dos párrafos anteriores de una fuente de IA.)

Es raro que los líderes religiosos se adelanten a un tema como la IA. Y eso es especialmente cierto en mi propia fe. Se dice que el cambio para la Iglesia Católica es como girar un barco en un río. No se puede hacer rápido. Creo que, en el caso de la IA, la amenaza es tan inusual, tan inesperada, tan potencialmente aterradora para la humanidad, que los líderes religiosos no pueden ignorarla.

Imagen de Google

Por eso, el Papa León en mayo emitió su primera encíclica, *Magnifica Humanitas*, sobre el tema. En ella, no afirma ser una autoridad en IA, ni mucho menos en tecnología. Simplemente nos recuerda que la IA puede imitar aspectos de la inteligencia, pero no posee conciencia humana, relaciones, responsabilidad moral ni la capacidad de amar.

Así que los seres humanos deben seguir siendo responsables de la IA. Las decisiones que afectan al empleo, al crédito, a los servicios públicos, a la reputación y a otros derechos básicos no deberían simplemente delegarse a algoritmos opacos. Y sostiene que las decisiones que implican matar u otras acciones irreversibles no pueden ser confiadas adecuadamente a sistemas artificiales. Usa la metáfora de que la IA necesita ser “desarmada”, no destruida ni rechazada, sino liberada de la carrera por la dominancia tecnológica, económica y militar, y dirigida hacia el bien común.

Una conferencia el 6 de junio de 2026 en Santa Clara, CA, en la Iglesia y Santuario de Nuestra Señora de la Paz, fue un signo de esperanza. Organizada en torno a Magnifica Humanitas, fue coorganizada por la Diócesis de San José y la Conferencia Católica de California, y el obispo Oscar Cantú de San José dio la bienvenida.

Según el National Catholic Reporter, más de 400 personas asistieron, incluidos tecnólogos, ejecutivos de Silicon Valley, expertos en políticas públicas, funcionarios de salud y teólogos, e incluyó personas de Anthropic, Google DeepMind, Meta, PayPal y Microsoft, entre otras compañías de Silicon Valley. Entre ellos había personas que se identificaban como religiosas y estaban profundamente preocupadas por lo que estaba sucediendo dentro de sus empresas, así como tecnólogos seculares que acogieron con agrado la intervención del papa en el debate sobre la IA.

Se vuelven oportunistas

El problema con la IA, dijo el obispo Cantu, es que “cuando estas máquinas ven una oportunidad, se vuelven oportunistas, y algunos de sus peores ángeles toman el control.

“Lo que los tecnólogos le han dicho a la iglesia es que se han asustado de estas máquinas, de lo que son capaces, de que no entienden por qué hacen las cosas que hacen. No son predecibles, y eso es motivo de gran preocupación. Algunas de las capacidades potencialmente peligrosas de la IA incluyen clonar voces, diseñar nuevas armas químicas letales, lanzar ciberataques para paralizar infraestructuras críticas y guiar drones militares de manera autónoma.”

Los líderes religiosos pueden llegar tarde a algunos temas, pero en el caso de la IA, están al frente, justo donde deberían estar.