El papa León XIV publicó este lunes su primera encíclica, ‘Magnifica Humanitas’ (‘Magnífica Humanidad’), un documento doctrinal crucial que aborda las posibilidades y los riesgos que representan los modelos de inteligencia artificial (IA), especialmente si carecen de una base ética que beneficie a la humanidad. La presentación de este documento papal, que por primera vez incluyó invitados ajenos a la Iglesia, ha generado gran expectación.
Entre los asistentes destacados a la ceremonia en El Vaticano se encontraba Christopher Olah, un joven canadiense de 33 años que en la última década se ha consolidado como una figura influyente en el ámbito tecnológico, gracias a su exhaustivo trabajo para desentrañar el funcionamiento interno de los LLM (Large Language Models o Modelos de Lenguaje Grande).
Estos LLM constituyen el ‘cerebro’ de asistentes conversacionales como Claude, en cuya creación Olah participó activamente, así como ChatGPT de OpenAI, Gemini de Google, Copilot de Microsoft, Grok de SpaceXAI y DeepSeek de High-Flyer. A pesar de su rápido avance, son tecnologías que aún presentan un alto grado de misterio y descontrol, incluso para sus propios desarrolladores.
‘Seguimos encontrando cosas misteriosas, incluso inquietantes. Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante’, declaró Olah en El Vaticano tras la presentación de la encíclica.
La incertidumbre sobre el desarrollo de la IA, sumada a su concentración en manos de unas pocas corporaciones privadas con intereses específicos, ha generado un debate que, según León XIV, debería involucrar a toda la sociedad y no solo a un puñado de líderes tecnológicos. Federico Peinado, profesor en el Departamento de Ingeniería del Software e Inteligencia Artificial de la Universidad Complutense de Madrid, destacó a BBC Mundo que esta encíclica ‘une dos mundos aparentemente tan distantes’ como la Iglesia católica y la IA, reflejando ‘un Papa muy consciente del tiempo en el que vive’.
Olah enfatiza la necesidad de ‘críticos competentes que les digan a los laboratorios cuándo se equivocan’, así como de ‘voces morales que no se dejen doblegar por los incentivos’, según expresó durante el evento. Su trayectoria, aunque poco convencional, lo ha llevado a ser reconocido como uno de los investigadores más influyentes en el campo de la IA.
Nacido en Toronto, Canadá, y educado en The Abelard School, Olah se destacó por su capacidad autodidacta, optando por acreditar sus conocimientos mediante el sistema AP Scholar en lugar de obtener un título universitario tradicional. A los 18 años, se unió a Google Brain, donde sus investigaciones sobre redes neuronales fueron pioneras, especialmente su coautoría en ‘Inceptionism: Going deeper into neural networks’, un documento fundamental para comprender cómo la IA procesa imágenes.
Este trabajo seminal permitió ‘ver’ por primera vez cómo interactúan las redes neuronales, un hito en la comprensión del lenguaje interno de los LLM, que no se basa en códigos únicos para identificar conceptos, sino en algoritmos que se unen en las redes neuronales.
En 2018, Olah fue reclutado por OpenAI, donde continuó su análisis de los circuitos neuronales. Sin embargo, en 2020, junto a un grupo de especialistas liderados por los hermanos Dario y Daniela Amodei, se separó de la firma por desacuerdos sobre la dirección de OpenAI, a la que acusaban de priorizar un modelo comercial sobre el desarrollo seguro y controlado de la tecnología. Olah se unió a este grupo para cofundar Anthropic, donde su influencia en la investigación de cómo los LLM construyen sus circuitos neuronales artificiales ha sido crucial.
La revista _Time_ incluyó a Olah en su lista de los más influyentes en IA, destacando su propuesta de una ‘Constitución de la IA’ y la ‘interpretabilidad mecanicista’. Esta última busca ‘inculcar’ a los LLM principios inquebrantables basados en el beneficio humano colectivo. Peinado explica que, a diferencia de la ‘creación’ de inteligencias artificiales, muchas ‘se cultivaban’ a través de la exposición a internet, funcionando sin que se comprendiera del todo su lógica interna. El objetivo de Olah es precisamente desentrañar este funcionamiento, comparable al estudio del complejo cerebro humano.
En su trabajo con Claude, Olah ha logrado identificar capas neuronales que trabajan en conjunto, un análisis similar al de la neurociencia aplicada al cerebro humano, donde, aunque no se tiene un mapa neurona a neurona, sí se conocen las funciones de ciertas regiones. Su liderazgo en este campo explica su participación en la encíclica papal.
En El Vaticano, Olah delineó tres áreas que requieren atención urgente para controlar la IA y prevenir efectos adversos: abordar la pérdida masiva de empleos, asegurar que los beneficios de la IA sean globales y controlar el comportamiento de los LLM. ‘El desarrollo de la IA se concentra en un puñado de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la IA se compartan a nivel mundial?’, cuestionó, señalando las presiones que enfrentan grandes empresas y gobiernos.
Si bien algunos critican que Anthropic actúe como juez y parte en el destino de la IA, otros valoran su seriedad en abordar estas cuestiones. Peinado plantea que ‘la ética también es un ingrediente de marketing’, cuestionando la autenticidad de la preocupación ética en empresas donde el dinero es el motor. Para el experto, el problema de fondo es la pérdida de liderazgo de los gobiernos en este tema, con empresas privadas asumiendo el control. ‘Anthropic ha cogido la bandera de la ética ocupando ese vacío que nadie más ha querido tomar’, afirma.
Christopher Olah, consciente de su posición, reconoce su involucramiento en un debate que va más allá de la Iglesia católica, incluyendo diálogos con otras religiones. La pregunta clave, según Peinado, es si la responsabilidad de la autocensura recae en las empresas, los gobiernos o los usuarios. ‘Siendo algo que va a ser tan importante a nivel mundial, lo razonable sería que existiera algún organismo internacional que estableciera una ética común aplicable a todas las inteligencias artificiales’, concluye, urgiendo a organismos como la Unión Europea y la ONU a abordar el tema con seriedad.
