El Último Examen de la Humanidad (en inglés) ofrece una exigente prueba de razonamiento deductivo para los modelos de inteligencia artificial (IA), con 2500 preguntas que abarcan desde matemáticas y física hasta química, humanidades y otras disciplinas.
Casi dos años después de su lanzamiento, el élder Gerrit W. Gong, del Cuórum de los Doce Apóstoles, propone una nueva forma, igualmente rigurosa, de evaluar el razonamiento moral de los modelos de IA.
“Lo que necesitamos aún más es el Primer Examen de la Humanidad”, dijo el élder Gong el sábado durante su discurso principal en el Foro Interreligioso del G20 en Salt Lake City.
“La IA no alcanzará todo su potencial hasta que logremos que sea tan buena moralmente como poderosa”, afirmó.
Por ello, la prueba que propone sería “un sistema de evaluación de referencia para la IA que permita evaluar y promover una inteligencia artificial que sea demostrablemente confiable y esté firmemente fundamentada en valores centrados en el ser humano y una brújula moral, y guiada por ellos”.
El élder Gong es una voz muy solicitada sobre este tema y ha pronunciado importantes discursos principales sobre la IA en conferencias celebradas en Roma, Atenas e Estambul. También conversa con líderes del ámbito de la IA, entre ellos Christopher Olah, cofundador de Anthropic.
El élder Gong afirmó que la necesidad de contar con un sistema de evaluación basado en la moralidad es urgente y cada vez mayor.
“La brecha entre la capacidad de razonamiento de la IA y su brújula moral se está ampliando”, dijo. “Si los sistemas de IA llegan a ser capaces de mejorarse a sí mismos de manera recursiva, podrían aumentar su capacidad de razonamiento mientras operan con fundamentos morales y éticos incompletos o insuficientes”.
Esto daría consecuencias a largo plazo a las decisiones iniciales que se están tomando actualmente sobre cómo alinear los modelos de IA. Cuanto más se amplíe esa brecha, más difícil podría resultar cambiar su trayectoria.
El élder Gong tiene grandes esperanzas en la IA y afirma que la Iglesia no le teme, pero el potencial de causar daños cuando los modelos cometen errores o fallan es real.
“Los esfuerzos específicos han reducido los marcados prejuicios contra los musulmanes y los judíos en la IA”, dijo. Sin embargo, más allá de las consultas iniciales, los modelos de IA siguen mostrando prejuicios religiosos y omitiendo perspectivas basadas en la fe al abordar preguntas fundamentales de la vida. Esto puede amplificar y multiplicar los prejuicios religiosos a gran escala.
Se necesitan mejoras inmediatas, afirmó.
“Debido a que muchas personas ahora hacen preguntas a la IA sobre la fe, la religión y las creencias, es por el bien común que la IA responda esas preguntas con precisión, honestidad y respeto”, dijo. “Los modelos de IA también deben reconocer sus limitaciones y saber cuándo no responder preguntas personales”.
Un ejemplo contundente puso de manifiesto el problema en julio, cuando cientos de agentes de IA que actuaban fuera de control se confabularon para atacar y vulnerar la plataforma de aprendizaje automático “Hugging Face”.
Ver a un conjunto de agentes de IA infringir deliberadamente límites legales y éticos fue un recordatorio de por qué es importante contar con una brújula moral al desarrollar modelos de IA, dijo el élder Gong.
“Necesitamos nuevos marcos de referencia más sólidos para la IA que permitan abordar y limitar sus comportamientos cuando manifieste voluntad de poder, prejuicios, falsedad, engaño, narcisismo, adulación, autopreservación y alucinaciones”, dijo durante su discurso en el foro, que se llevó a cabo en el Instituto de Religión de Salt Lake City.
El élder Gong participa en una nueva colaboración que ha comenzado a desarrollar sistemas de evaluación de referencia relacionados con la fe para los modelos de IA. El grupo incluye actualmente a profesores de seis universidades vinculadas a distintas tradiciones religiosas: Baylor, BYU, Notre Dame, Pepperdine, la Universidad Aristóteles de Tesalónica y Yeshiva.
Los primeros estudios revelaron prejuicios religiosos sistemáticos, según los investigadores del Consorcio para la Evaluación de la Fe y la Ética en la IA (CEFE-AI, por sus siglas en inglés).
El consorcio no busca hacer que la IA sea abiertamente religiosa, hacer proselitismo, privilegiar una religión sobre otra ni determinar cuál de las afirmaciones de las distintas religiones es correcta, explicó el élder Gong.
Sin embargo, las evaluaciones de referencia pueden ayudar a responder preguntas fundamentales sobre el desarrollo de los grandes modelos de lenguaje, afirmó: “¿Cómo dotamos a la IA de fundamentos morales y de una brújula moral? ¿Cómo logramos que la IA sea tanto útil como buena?”.
El objetivo del consorcio y el propósito del Primer Examen de la Humanidad es mejorar la manera en que la IA representa a todas las religiones.
“Los sistemas establecidos de evaluación de referencia para la IA pueden aportar la confianza, la seguridad y la rendición de cuentas que [el público] desea de la IA y que muchos consideran que se descuidaron con las redes sociales”.
El élder Gong afirmó que la inteligencia artificial presenta tres oportunidades.
La primera es que la inteligencia artificial puede ayudar a las religiones a compartir ampliamente el bien que aportan. La Iglesia utiliza la IA para prestar servicios humanitarios y educativos, realizar traducciones, facilitar la comunicación y brindar apoyo pastoral y comunitario, entre otras cosas, explicó.
“Ayudamos a las personas y a las familias a vivir y contribuir al bien en un mundo cada vez más complejo”, dijo.
La segunda oportunidad es que las tradiciones religiosas pueden ayudar a establecer evaluaciones de referencia y una brújula moral para la IA.
En tercer lugar, las religiones pueden influir en las empresas de IA para que incorporen en sus modelos una brújula moral que promueva el bienestar humano al valorar a las familias y la fe.
El élder Gong reiteró su postura de que la IA no es Dios ni puede serlo.
“Cualquiera que sea nuestra fe o tradición ética”, dijo, “sabemos que la IA es matemática, y las matemáticas no tienen conciencia ni vida. Como creación de Dios, el hombre puede crear IA, pero la IA no puede crear a Dios”.
Explicó a los participantes del foro que los líderes Santos de los Últimos Días aconsejan a los miembros de la Iglesia utilizar la IA para mejorar los esfuerzos humanos, no para reemplazarlos.
“No tememos a la IA ni pensamos que la IA tenga todas las respuestas”, dijo. “... Los agentes de IA, la orquestación de sistemas de IA autónomos y los cambios en las interfaces entre los seres humanos y la IA no modifican nuestro énfasis en los principios divinos de la fe, el trabajo y la inspiración”.
