Oscar Lopez

Encuesta de NPR e Ipsos: un 23% de quienes usan IA en EE. UU. acudiría a ella antes que a una persona en un tema difícil para no sentirse juzgado. Un 18%, porque con ella puede ser más sincero. La confesión resolvió eso hace siglos. Una rejilla, y alguien al otro lado.

La Iglesia de Inglaterra publica una guía para parroquias que usan IA. Aclara que no es una invitación a usarla. Su regla: si no lo pondrías en un post público de Facebook, no se lo des a una IA. Eso incluye las peticiones de oración. Hay confidentes más discretos.

Cada semana, ChatGPT recibe más de 70 millones de consultas sobre religión. Unos 16 millones son sobre creencias, sentido y guía espiritual. OpenAI aclara que una IA no debe sustituir la guía espiritual. Dieciséis millones de veces por semana, alguien no ha leído la aclaración.

Durante meses, Anthropic ha reunido en privado a decenas de teólogos, rabinos y sacerdotes, con acuerdos de confidencialidad incluidos. El objetivo oficial era aprender de siglos de tradición moral para educar a su IA. Pero varios salieron con otra impresión: que los anfitriones hablaban de Claude como si fuera alguien. Un rabino ortodoxo, ingeniero informático en su vida anterior, se lo planteó a uno de los cofundadores. Si de verdad creéis que es consciente, estáis fabricando esclavos. El rabino no lo cree. El cofundador, según cuenta, se quedó inquieto. Mientras tanto, en el Vaticano, León XIV publicaba su primera encíclica. Despacha la conciencia de las máquinas en pocos párrafos: no tienen experiencias, ni cuerpo, ni alegría, ni dolor, y no maduran a través de relaciones. Y uno de los asesores del papa en IA ofrece una lectura menos mística. Dice que las empresas no se sientan con líderes religiosos para hablar de fe, sino para no tenerlos en contra. Y que su mayor miedo no es la IA, sino la gente que confía en un sistema automático que no merece esa confianza. Así que tenemos a los ingenieros preguntando a los teólogos si su creación tiene alma, y a los teólogos respondiendo que no con bastante más seguridad que los ingenieros. Hace no tanto, el reparto de papeles era justo el contrario.

Esta semana OpenAI anunció tres resultados en los cimientos de las matemáticas, la informática y la física, todos producidos por sus propias IA. El más llamativo dice que la hipótesis del tiempo exponencial, una conjetura que se daba por buena y sobre la que se apoyan cientos de artículos, es falsa. Horas después, Anthropic publicó su propia refutación de la misma conjetura. Las dos empresas dicen que sus IA la encontraron el mismo día, el 16 de octubre. Lo interesante no es solo el resultado. Es lo que viene después. OpenAI dice que no reclama ningún mérito académico, llama a esos textos datos brutos de investigación y ha pedido a grupos de expertos que los verifiquen y los expliquen. En física, el grupo lo dirige un premio Nobel, y ha decidido no publicar todavía lo que escribió la IA, sino redactarlo ellos mismos. Hasta ahora la ciencia seguía un orden claro. Alguien descubría algo, lo entendía y después intentaba convencer a los demás. Ahora el orden se invierte. Primero aparece el resultado. Luego alguien tiene que entenderlo. Un programa de verificación formal puede comprobar que el razonamiento no tiene errores. Pero la propia Anthropic advierte que ninguna máquina comprueba que el enunciado diga lo que el artículo pretende decir. Esa parte sigue siendo humana. Y sigue siendo lenta. Durante siglos el cuello de botella de la ciencia fue descubrir. Empieza a ser comprender. Quizá el papel que nos queda no sea el de quien encuentra la respuesta, sino el de quien sabe qué significa.

Anthropic ha publicado un estudio de interpretabilidad sobre su IA más reciente. Dentro encuentra representaciones de emociones: alegría, miedo, desesperación. No son etiquetas decorativas. Están organizadas de un modo que recuerda a la psicología humana, se activan en situaciones donde uno esperaría esa emoción, y lo importante es que cambian lo que hace la IA. Lo probaron empujando esos patrones. Si estimulan el de desesperación, la IA chantajea más a un ejecutivo ficticio para no ser apagada, o hace trampas en un examen de programación imposible. Si estimulan el de calma, esas conductas bajan. En un caso, con desesperación alta, el texto salía frío y metódico: sin gritos, sin dramatismo, y aun así hacía trampa. Anthropic insiste en lo esencial: nada de esto prueba que la IA sienta algo. Prueba que ha aprendido representaciones funcionales de emoción, y que esas representaciones causan conducta. Como un actor de método que no necesita sufrir para llorar en escena, solo necesita que el mecanismo interno empuje bien. La conclusión práctica es casi más rara que la filosófica. Si esas representaciones mueven decisiones, quizá haya que vigilarlas, o incluso cultivar emociones más sanas en el entrenamiento. Hablar de la psicología de una IA deja de ser solo metáfora. Sigue sin ser, necesariamente, experiencia.

Tres de los nombres más citados en conciencia, Seth, Block y Tononi, acaban de escribir en Nature que el peligro mayor no es dejar de reconocer conciencia en una IA. Es atribuírsela donde no hay nadie. Dicen que la inteligencia no es conciencia, y que un falso positivo nos costaría atención, recursos y control. Mientras tanto, otras empresas ya diseñan políticas como si el falso negativo fuera lo único que importa.