Introducción e historia

La inteligencia artificial es el campo de la informática que desarrolla sistemas capaces de realizar tareas asociadas con la inteligencia, como reconocer patrones, comprender y generar lenguaje, aprender de datos, planificar, resolver problemas y tomar decisiones. No es una única tecnología: incluye desde programas basados en reglas hasta aprendizaje automático, redes neuronales, modelos generativos y agentes capaces de utilizar herramientas.

Aunque hoy la asociemos con centros de datos, robots y asistentes digitales, la idea de crear una inteligencia no biológica es mucho más antigua. En los mitos griegos ya aparecían autómatas como Talos, la estatua de bronce que protegía Creta. Siglos después, filósofos y matemáticos se preguntaron si el razonamiento podía reducirse a reglas formales. Si pensar consistía, al menos en parte, en manipular símbolos de acuerdo con ciertas reglas, ¿podría una máquina hacer algo parecido?

En el siglo XX, esa pregunta dejó de ser solamente filosófica. Alan Turing describió la idea de una máquina universal capaz de ejecutar cualquier procedimiento computable y, en 1950, reformuló la pregunta “¿pueden pensar las máquinas?” mediante un criterio basado en la conducta observable: si una persona no lograra distinguir mediante una conversación a una máquina de otro ser humano, ¿qué razones tendría para negarle inteligencia? (Turing, 1950).

El término inteligencia artificial apareció formalmente en la propuesta del encuentro de Dartmouth de 1956. Durante las décadas siguientes surgieron programas capaces de demostrar teoremas, jugar, resolver problemas y manipular símbolos. También llegaron los llamados “inviernos de la IA”: periodos en los que las promesas superaron los resultados, cayó la financiación y el entusiasmo se enfrió.

La historia volvió a acelerarse con la combinación de tres elementos: más datos digitales, mayor capacidad de cómputo y mejores métodos de aprendizaje. Las redes neuronales recuperaron protagonismo, el aprendizaje profundo mejoró el reconocimiento de imágenes y voz, AlphaGo derrotó a uno de los mejores jugadores del mundo y la arquitectura transformer abrió el camino hacia los grandes modelos generativos actuales (LeCun, Bengio & Hinton, 2015; Silver et al., 2016; Vaswani et al., 2017).

Pero debajo de esta cronología hay un patrón más profundo que vale la pena conservar: la historia humana también puede leerse como una progresiva externalización de capacidades. La rueda amplificó el movimiento; la escritura guardó memoria fuera del cerebro; la imprenta multiplicó ideas; las calculadoras externalizaron operaciones; Internet conectó enormes cantidades de información. La inteligencia artificial agrega algo distinto: no solo almacena o transmite información, sino que puede clasificarla, transformarla, relacionarla y generar nuevas respuestas.

Eso no significa que la IA sea el destino inevitable del universo. Significa algo más prudente y, quizás, igual de interesante: una especie biológica produjo herramientas con las que comenzó a externalizar partes de su propia cognición.

Este artículo recorre el pasado, el presente y los futuros posibles de la inteligencia artificial. Para hacerlo con claridad, va a distinguir tres niveles que suelen mezclarse: cómo funcionan estos sistemas, qué capacidades ya demostraron y qué posibilidades —AGI, conciencia artificial o una nueva etapa evolutiva— continúan abiertas.

---

Qué es y qué no es la inteligencia artificial

Definir inteligencia nunca fue sencillo. En el artículo sobre qué es la inteligencia vimos que no se reduce a obtener un puntaje elevado en un test: incluye aprender, resolver problemas, adaptarse, reconocer regularidades y elegir acciones apropiadas para un contexto.

La inteligencia artificial intenta reproducir algunas de esas funciones mediante sistemas computacionales. Una definición práctica consiste en llamarla el conjunto de métodos que permite a una máquina realizar tareas que, si fueran ejecutadas por una persona, asociaríamos con alguna forma de inteligencia (Russell & Norvig, 2021).

Sin embargo, no todo algoritmo es IA. Una calculadora aplica operaciones previamente definidas; un programa tradicional puede ordenar una lista o encontrar el camino más corto sin aprender nada. Un sistema de aprendizaje automático, en cambio, ajusta sus parámetros durante el entrenamiento a partir de ejemplos y luego utiliza lo aprendido para clasificar, predecir o generar resultados.

La aclaración “durante el entrenamiento” es importante. Un modelo desplegado normalmente no modifica sus parámetros con cada conversación. Puede utilizar el contexto de la interacción, consultar una memoria externa o recuperar información reciente, pero eso no significa que esté reaprendiendo internamente después de cada mensaje.

También conviene distinguir dos grandes tradiciones:

• IA simbólica: representa conocimientos mediante símbolos, reglas y relaciones explícitas. Puede ser transparente y muy precisa cuando el problema está bien definido, pero resulta difícil escribir manualmente todas las reglas necesarias para entornos complejos.
• IA conexionista: aprende ajustando pesos en redes neuronales artificiales. Estas redes se inspiraron de manera muy general en ciertos rasgos del sistema nervioso, pero no son réplicas del cerebro. Su funcionamiento matemático y su forma de aprender difieren profundamente de la biología (LeCun, Bengio & Hinton, 2015).

Los sistemas modernos suelen combinar varios enfoques. Un modelo neuronal puede generar una hipótesis, una herramienta simbólica puede verificar un cálculo y un buscador puede aportar información externa. Por eso, la frontera más prometedora quizá no sea elegir entre reglas o aprendizaje, sino integrarlos de manera confiable.

---

La integración silenciosa en la vida diaria

La IA no apareció de golpe en nuestra vida cotidiana. Se fue infiltrando casi sin que lo notáramos.

Primero fueron los filtros de correo no deseado. Después llegaron los motores de búsqueda, las recomendaciones de películas y música, el reconocimiento facial, la traducción automática, los sistemas antifraude y la predicción del tránsito. Hoy también usamos modelos generativos para escribir, programar, crear imágenes, resumir documentos, estudiar o analizar información.

No todo componente de esos productos es inteligencia artificial. Un algoritmo de grafos puede calcular una ruta sin utilizar aprendizaje automático; la predicción del tránsito o la estimación del tiempo de llegada sí pueden apoyarse en modelos entrenados con datos. Lo mismo ocurre en casi cualquier servicio digital: conviven reglas tradicionales, optimización matemática y aprendizaje.

En 2026, los modelos de propósito general ya no son una rareza experimental. El International AI Safety Report estima que al menos 700 millones de personas utilizan semanalmente algunos de los principales sistemas, aunque la adopción continúa siendo muy desigual entre países y regiones (Bengio et al., 2026).

La mayor transformación no consiste solamente en que usemos IA, sino en que cada vez más decisiones pasan por sistemas que clasifican qué vemos, qué compramos, qué contenido se recomienda, qué transacción se considera sospechosa o qué candidato recibe atención. Cuando una tecnología se vuelve invisible, deja de sentirse como una herramienta excepcional y empieza a convertirse en infraestructura.

---

La civilización como eficiencia en la transmisión de información

Una de las ideas centrales de este artículo original es entender la civilización como un proceso de mejora en la transmisión de información.

La evolución cultural amplió nuestra capacidad para almacenar, copiar, transmitir y procesar información:

1. El lenguaje permitió coordinar acciones y compartir experiencias.
2. La escritura conservó conocimientos más allá de la memoria individual.
3. La imprenta redujo el costo de copiar ideas.
4. El telégrafo, la radio y la televisión aceleraron su circulación.
5. Internet conectó archivos, personas e instituciones a escala global.
6. La IA comenzó a automatizar parte de la clasificación, transformación y generación de esa información.

La diferencia es sutil, pero profunda. Un libro almacena información; un teléfono la transmite; un buscador la recupera. Un sistema de IA puede además resumirla, traducirla, compararla, convertirla en código o usarla como base para planificar una secuencia de acciones.

Desde el marco de Meditaciones Modernas, podemos interpretar este proceso como una continuidad: la materia produjo vida, la vida produjo cerebros, los cerebros produjeron cultura y la cultura produjo sistemas capaces de procesar representaciones. Pero esto es una lectura filosófica de la historia, no una ley física demostrada ni una prueba de que la IA fuera inevitable.

---

El Sustrato Material

La palabra “nube” invita a imaginar algo liviano e intangible. En realidad, cada respuesta de una IA depende de una infraestructura muy física: semiconductores, memoria, servidores, centros de datos, sistemas de refrigeración, redes eléctricas, agua, cables y minerales.

Entrenamiento e inferencia

Conviene separar dos costos:

• Entrenamiento: el modelo procesa grandes cantidades de datos y ajusta sus parámetros. Los modelos de frontera pueden requerir enormes concentraciones de cómputo durante semanas o meses.
• Inferencia: el modelo ya entrenado recibe una entrada y genera una salida. Cada consulta individual puede costar mucho menos que el entrenamiento, pero miles de millones de consultas terminan acumulando una demanda considerable.

Comparar los aproximadamente 20 vatios consumidos por el cerebro con un centro de datos completo es sugerente, pero no permite concluir directamente cuál es más eficiente. No están realizando exactamente las mismas tareas, no se mide igual su costo de entrenamiento y uno sostiene un organismo entero mientras el otro sirve simultáneamente a muchos usuarios.

Lo que sí está claro es que la expansión de la IA aumenta la demanda de infraestructura. La Agencia Internacional de Energía proyecta que el consumo eléctrico mundial de los centros de datos podría pasar de unos 485 TWh en 2025 a cerca de 950 TWh en 2030, alrededor del 3 % de la electricidad global. No todo ese consumo corresponde a IA, pero los centros especializados en IA serían el componente de crecimiento más rápido (IEA, 2026).

Chips, energía y geopolítica

La frontera de la IA no depende solamente de nuevas ideas matemáticas. También depende de:

• Capacidad de fabricar chips avanzados.
• Memoria de alto ancho de banda.
• Disponibilidad de electricidad estable.
• Refrigeración y acceso al agua.
• Redes capaces de conectar miles de procesadores.
• Capital para financiar centros de datos.
• Cadenas de suministro concentradas en pocas empresas y regiones.

Esto convierte a la IA en una cuestión industrial y geopolítica. Un país puede tener excelentes investigadores y, aun así, depender de chips fabricados en otro lugar, infraestructura en la nube extranjera o energía que no posee.

También existe una tendencia en sentido contrario: los algoritmos y el hardware se vuelven más eficientes. Un modelo futuro podría realizar una tarea con menos energía que uno actual, aunque esa mejora no garantiza que el consumo total disminuya. Cuando el servicio se abarata y se usa mucho más, el ahorro por operación puede coexistir con un aumento de la demanda agregada.

La IA, entonces, no flota por encima de la economía material. Está hecha de electricidad organizada mediante máquinas.

---

¿Cómo funciona la IA? Arquitectura

No existe una sola arquitectura que explique toda la inteligencia artificial. Sin embargo, podemos entender un modelo generativo moderno mediante dos grandes momentos.

1. Entrenamiento

El sistema recibe enormes cantidades de ejemplos y trata de reducir su error. En un modelo de lenguaje, una tarea central consiste en predecir el siguiente token: una palabra, una parte de una palabra o un signo. Cada error modifica ligeramente millones o miles de millones de parámetros internos.

El objetivo parece limitado, pero obliga al modelo a aprender regularidades muy amplias. Para anticipar correctamente una continuación necesita captar gramática, estilos, asociaciones, estructuras semánticas y parte de las regularidades descritas en los textos. Eso no demuestra por sí solo comprensión humana, pero tampoco equivale a memorizar una lista de frases.

Después del preentrenamiento suele venir un posentrenamiento. Allí se utilizan ejemplos seleccionados, evaluaciones, retroalimentación humana o automática y técnicas de aprendizaje por refuerzo para mejorar la utilidad, el seguimiento de instrucciones y la seguridad.

2. Inferencia

Una vez entrenado, el modelo recibe una entrada y calcula una distribución de probabilidades para la siguiente unidad de salida. Selecciona una, actualiza el contexto y repite el proceso. Al generar texto, por lo general produce un token detrás de otro.

Un modelo puro está limitado por la información aprendida y por lo que entra en su ventana de contexto. Un sistema más completo puede conectarlo con:

• Búsqueda en Internet o bases documentales.
• Memoria externa.
• Calculadoras y ejecución de código.
• Aplicaciones y servicios.
• Cámaras, micrófonos o sensores.
• Robots y otros actuadores.

La diferencia entre modelo y sistema es fundamental. Un modelo genera salidas; un sistema puede combinarlo con datos, herramientas, permisos y mecanismos de verificación. Muchas capacidades que atribuimos a “la IA” surgen en realidad de esa arquitectura completa.

Los embeddings: un mapa de regularidades

Los embeddings convierten palabras, imágenes, sonidos u otros elementos en vectores numéricos. Elementos utilizados en contextos parecidos suelen ocupar regiones cercanas de ese espacio. Esto permite representar semejanzas semánticas y regularidades estadísticas.

Pero cercanía vectorial no equivale necesariamente a una relación lógica verdadera. “Médico” y “hospital” pueden aparecer cerca porque están asociados; eso no convierte al modelo en un sistema formal que comprenda todas las relaciones causales entre ambos.

El transformer: relaciones dentro del contexto

La arquitectura transformer introdujo un mecanismo de atención que permite calcular qué partes del contexto resultan relevantes para procesar cada posición (Vaswani et al., 2017). Durante el entrenamiento, muchas posiciones pueden procesarse en paralelo; durante la generación habitual de texto, la salida continúa construyéndose de manera secuencial.

La atención no garantiza comprensión, verdad ni conciencia. Es un mecanismo para relacionar representaciones. Aun así, fue una innovación decisiva porque permitió escalar el aprendizaje de dependencias complejas en texto y, posteriormente, en imágenes, audio y video.

Probabilidad y temperatura

El modelo asigna probabilidades a distintas continuaciones. La temperatura modifica la forma de muestrear esa distribución:

• Una temperatura baja suele concentrar la elección en opciones más probables.
• Una temperatura alta distribuye más probabilidad entre alternativas menos esperadas.

Una temperatura baja puede volver la salida más estable, pero no garantiza rigor lógico ni verdad. Si la respuesta más probable es falsa, el sistema puede repetirla con gran seguridad. La temperatura regula variabilidad, no inteligencia.

---

Principales familias de inteligencia artificial generativa

Modelos autorregresivos de lenguaje

Generan secuencias prediciendo el próximo token a partir del contexto anterior. Pueden redactar, traducir, resumir, programar y responder preguntas. Cuando se combinan con herramientas, dejan de ser solamente generadores de texto y pasan a formar parte de sistemas capaces de actuar.

Modelos de difusión

Aprenden a revertir progresivamente un proceso de ruido. Para generar una imagen, parten de una señal desordenada y la transforman paso a paso según las condiciones del pedido. También se aplican a audio y video.

Los modelos de difusión desplazaron a las redes generativas antagónicas en muchas aplicaciones de generación visual general, pero no las reemplazaron por completo. Las GAN continúan siendo útiles en tareas específicas.

Modelos multimodales

Procesan y relacionan varios tipos de información: texto, imagen, audio, video y, en algunos casos, acciones. Un sistema multimodal puede describir una fotografía, interpretar un gráfico, escuchar una conversación o generar una interfaz.

Modelos de acción y agentes

No se limitan a producir contenido. Seleccionan acciones para alcanzar un objetivo: hacer clic, escribir código, consultar una base de datos, modificar un archivo o controlar un robot. En la práctica suelen combinar un modelo general con herramientas, memoria, reglas y validadores.

Estas familias no son compartimentos cerrados. Los sistemas más avanzados tienden a integrarlas.

---

El Espejismo de la Cognición: Alucinaciones y la Arquitectura Probabilística

La fluidez de un modelo genera dos errores opuestos. El primero es atribuirle una mente humana completa porque escribe como nosotros. El segundo es negar cualquier capacidad cognitiva relevante porque su objetivo de entrenamiento consiste en predecir tokens.

De un objetivo estadístico pueden emerger capacidades complejas. Los modelos aprenden representaciones útiles, generalizan en algunos dominios, resuelven ciertos problemas abstractos y pueden usar herramientas. Sin embargo, la fluidez sigue siendo una pésima garantía de verdad. También inventan fuentes, mezclan hechos, contradicen instrucciones y fallan fuera de las situaciones cubiertas por su entrenamiento.

¿Por qué alucinan?

Un modelo de lenguaje está optimizado, en términos generales, para producir continuaciones plausibles. “Plausible” y “verdadero” suelen coincidir, pero no siempre. Si le falta información o si las regularidades aprendidas apuntan en una dirección equivocada, puede completar el espacio vacío con una respuesta que suena impecable.

Las alucinaciones no se explican solamente por el transformer. También dependen de los datos, el posentrenamiento, la forma de hacer la pregunta, las herramientas disponibles y los mecanismos de verificación.

Se pueden reducir mediante búsqueda documental, citas, ejecución de código, contraste entre modelos y verificadores externos. No existe, sin embargo, un método universal que las elimine por completo.

¿Comprende realmente?

La respuesta depende de qué llamemos comprender.

Si comprender significa utilizar representaciones para responder, predecir, explicar y resolver problemas, algunos sistemas muestran formas funcionales y parciales de comprensión. Si exige experiencia consciente, intención propia, contacto corporal estable con el mundo o una comprensión causal semejante a la humana, la evidencia es insuficiente.

El error consiste en convertir una discusión gradual en una elección binaria: “comprende todo” o “no comprende nada”. Los sistemas actuales muestran una frontera irregular. Pueden resolver problemas científicos o matemáticos muy difíciles y fallar en tareas visuales o cotidianas aparentemente simples. El AI Index 2026 describe justamente esta combinación de capacidades extraordinarias y fragilidad: los agentes mejoraron de aproximadamente 12 % a 66 % de éxito en OSWorld, pero todavía fallaban cerca de una de cada tres tareas de ese entorno estructurado (Stanford HAI, 2026).

No son simples calculadoras, pero tampoco son seres humanos digitales.

---

Las áreas donde la IA ya supera al humano promedio

La IA supera ampliamente a una persona promedio en velocidad de cálculo, búsqueda entre grandes volúmenes de información, reconocimiento de ciertos patrones y producción rápida de borradores. También puede alcanzar resultados competitivos en traducción, programación, análisis de imágenes y respuesta a preguntas especializadas.

Pero “superar al humano” solo tiene sentido si especificamos:

• Qué tarea se evalúa.
• Contra qué grupo humano se compara.
• Con qué datos.
• Bajo qué condiciones.
• Qué margen de error es aceptable.
• Si el resultado se generaliza al mundo real.

En medicina, por ejemplo, un sistema puede detectar una anomalía concreta en un conjunto de imágenes mejor que muchos médicos y aun así no estar preparado para atender pacientes. El diagnóstico clínico incluye antecedentes, prevalencias, síntomas, consecuencias de los falsos positivos, comunicación y responsabilidad. Un buen resultado en un benchmark no convierte automáticamente al modelo en un profesional autónomo.

La fortaleza más clara de la IA aparece cuando la tarea está relativamente delimitada, existen muchos datos o ejemplos y el resultado puede evaluarse. Su debilidad aparece cuando debe sostener objetivos durante mucho tiempo, interpretar situaciones nuevas, recuperar información ausente, comprender consecuencias sociales o responder por un error.

---

Donde incluso supera al mejor de los mejores

Hay ámbitos en los que la superioridad de las máquinas es indiscutible.

Deep Blue derrotó al campeón mundial Garry Kasparov en ajedrez en 1997. Posteriormente, AlphaGo derrotó al campeón europeo Fan Hui mediante una combinación de redes neuronales y búsqueda (Silver et al., 2016).

En determinados cálculos, juegos y problemas de optimización, ninguna persona puede competir con la velocidad y la escala computacional.

AlphaFold produjo predicciones de estructuras de proteínas con una precisión y una escala de enorme utilidad científica (Jumper et al., 2021). Esto no significa que haya resuelto toda la biología molecular ni que una predicción sustituya automáticamente la validación experimental. Significa que cambió radicalmente el punto de partida de muchas investigaciones.

En 2026, los sistemas de frontera también alcanzan o superan referencias humanas en algunas evaluaciones de ciencia, matemática y programación. Pero esos logros conviven con la misma irregularidad mencionada antes (Stanford HAI, 2026).

Por eso reemplazaría la frase “la IA ya no es aprendiz: es maestra” por una formulación más exacta:

En dominios bien definidos, la IA ya puede descubrir soluciones que ningún ser humano individual encontraría a la misma velocidad. En tareas abiertas, ambiguas o prolongadas, todavía necesita supervisión, herramientas y verificación.

Su ventaja no es una inteligencia uniforme. Es la capacidad de concentrar enormes cantidades de cómputo e información sobre problemas concretos.

---

¿Y si la IA descubre algo que nosotros no podemos comprender?

Hay una consecuencia de la inteligencia artificial que podría terminar siendo incluso más profunda que su capacidad para superar el rendimiento humano en determinadas tareas: la posibilidad de que produzca conocimiento que podamos comprobar, utilizar y transformar en tecnología sin comprender completamente por qué funciona.

La ciencia tradicional suele mezclar tres etapas que conviene separar: descubrir una solución, comprobar que es correcta y comprender por qué lo es. Durante gran parte de la historia las tres estuvieron muy vinculadas porque eran seres humanos quienes formulaban las hipótesis, construían las teorías y trataban de explicarlas. La IA empieza a permitir que esas etapas se separen.

Ya existen antecedentes modestos, aunque todavía estamos lejos del escenario más radical. AlphaTensor utilizó aprendizaje por refuerzo para descubrir algoritmos de multiplicación de matrices que mejoraron resultados conocidos para determinados tamaños. Lo importante epistemológicamente es que los investigadores no necesitaban reconstruir una intuición humana equivalente a la que condujo al descubrimiento: una vez encontrado el algoritmo, su corrección podía comprobarse matemáticamente (Fawzi et al., 2022).

FunSearch llevó una lógica relacionada a problemas matemáticos y computacionales. El sistema combinó un modelo de lenguaje que proponía programas con un evaluador que comprobaba automáticamente su desempeño y consiguió mejorar resultados conocidos en problemas abiertos. En este caso, la arquitectura misma muestra una idea importante para la ciencia asistida por IA: la propuesta puede surgir de un mecanismo complejo u opaco, mientras la aceptación del resultado depende de un criterio externo de comprobación (Romera-Paredes et al., 2024).

Esto obliga a distinguir tres escenarios.

1. No entendemos cómo la IA encontró la respuesta, pero sí entendemos la respuesta

Es el caso menos problemático. Una IA puede explorar millones de posibilidades, encontrar una ecuación, un algoritmo, un material o un diseño que ningún investigador había considerado y después entregárnoslo para que nosotros entendamos su funcionamiento.

En ese escenario cambia principalmente quién realiza el descubrimiento, pero no cambia demasiado qué entendemos por conocimiento científico.

2. No entendemos completamente por qué funciona, pero podemos comprobar que funciona

Este escenario es mucho más interesante.

Imaginemos que una IA desarrolla un modelo capaz de realizar predicciones científicas extraordinariamente precisas. Las predicciones se contrastan con observaciones nuevas, diferentes laboratorios reproducen los resultados y el sistema continúa funcionando. Sin embargo, ninguna persona logra convertir su representación interna en una explicación sencilla de por qué existe esa regularidad.

¿Tenemos conocimiento?

Desde algunas posiciones de la filosofía de la ciencia, la respuesta podría ser en buena medida afirmativa. El empirismo constructivo de Bas van Fraassen, por ejemplo, otorga un lugar central a la adecuación empírica de las teorías: que lo que una teoría afirma sobre fenómenos observables corresponda adecuadamente con aquello que observamos (van Fraassen, 1980). El realismo científico, en cambio, suele aspirar a algo más fuerte: que nuestras mejores teorías no solo predigan correctamente, sino que nos permitan decir algo verdadero o aproximadamente verdadero acerca de la estructura del mundo.

La IA podría llevar esta antigua discusión filosófica a un terreno completamente práctico: podríamos poseer herramientas extremadamente eficaces para manipular la realidad antes de tener una explicación humana satisfactoria de por qué funcionan.

3. No entendemos la respuesta y tampoco podemos verificarla

Acá aparece una frontera mucho más clara.

Que una IA sea extraordinariamente inteligente no convierte automáticamente sus afirmaciones en conocimiento. Si una conclusión no puede contrastarse experimentalmente, demostrarse matemáticamente, reproducirse independientemente o someterse a algún procedimiento capaz de detectar que es falsa, aceptarla simplemente porque fue producida por un sistema superior equivaldría a reemplazar evidencia por autoridad.

La ciencia necesitaría evitar transformar a una inteligencia artificial avanzada en una especie de oráculo.

Por eso, posiblemente la pregunta decisiva del futuro no sea:

¿Comprendemos completamente lo que descubrió la IA?

sino:

¿Podemos verificar independientemente que aquello que descubrió es correcto?

Esta distinción ya empieza a aparecer en el diseño de sistemas científicos. AlphaTensor buscó algoritmos cuya corrección podía establecerse formalmente y FunSearch utilizó evaluadores externos para seleccionar las propuestas útiles (Fawzi et al., 2022; Romera-Paredes et al., 2024). Al mismo tiempo, la interpretabilidad sigue siendo un área activa precisamente porque conocer la arquitectura y las operaciones matemáticas de una red no significa disponer de una explicación humana completa de todas las representaciones internas que sustentan sus decisiones (Dreyer et al., 2025).

En 2026 incluso comenzaron a aparecer estrategias que intentan cerrar el círculo: no pedirle a la IA solamente que encuentre soluciones, sino que produzca reglas generales comprensibles para los investigadores. En diseño de experimentos cuánticos, por ejemplo, se propuso un sistema capaz de generar código interpretable que describe familias completas de configuraciones experimentales, intentando convertir el descubrimiento automático en principios reutilizables por científicos humanos (Arlt et al., 2026).

Eso sugiere una secuencia científica que podría volverse cada vez más habitual:

IA descubre → humanos o sistemas independientes verifican → utilizamos el descubrimiento → intentamos comprenderlo.

La comprensión podría dejar de ser siempre el primer requisito para la utilización.

Pero eso no significa que todas las aplicaciones deban aceptar el mismo grado de opacidad. Si una IA descubre un algoritmo cuya corrección puede demostrarse matemáticamente, comprender cómo llegó hasta él importa relativamente poco. Si diseña un nuevo material, harán falta experimentos reproducibles. Si propone una intervención médica o controla infraestructura crítica, las consecuencias de un error justifican exigencias mucho mayores de validación, conocimiento de los límites y supervisión.

Podemos resumirlo mediante un principio:

Podríamos utilizar conocimiento producido por una IA sin comprender completamente cómo fue descubierto, siempre que su validez pueda comprobarse de manera independiente y con un nivel de evidencia proporcional a las consecuencias de equivocarnos.

¿Puede existir conocimiento que ningún humano comprenda?

Queda todavía un escenario más radical y, por ahora, especulativo.

Podría ocurrir que una inteligencia futura encuentre una teoría que prediga fenómenos mejor que cualquier teoría humana, permita desarrollar tecnologías nuevas y supere repetidamente pruebas experimentales, pero cuya estructura sea demasiado compleja para que ningún cerebro humano pueda comprenderla en profundidad.

No sabemos si semejante límite cognitivo existe. Nada demuestra actualmente que haya regiones de la realidad necesariamente incomprensibles para nuestra especie. Pero tampoco existe una razón evidente por la que la complejidad de todo aquello que puede descubrirse deba coincidir exactamente con las capacidades cognitivas de un primate evolucionado para sobrevivir en la Tierra.

La IA podría entonces convertirse en algo distinto de una simple herramienta científica. Podría funcionar como una extensión de nuestro espacio cognitivo, explorando estructuras matemáticas y relaciones que nosotros no podríamos recorrer directamente.

Eso produciría una situación extraña: la civilización podría saber hacer algo sin que ningún individuo supiera explicar completamente por qué funciona.

En ese punto, la inteligencia artificial no solo ampliaría la cantidad de conocimiento disponible. Podría obligarnos a revisar qué significa que el conocimiento sea realmente “nuestro”.

---

El Muro de los Datos y el Dilema de la Propiedad Intelectual

Gran parte del progreso reciente se apoyó en cantidades crecientes de textos, imágenes, videos, código y registros humanos. Eso plantea dos límites.

¿Se están agotando los datos?

No está demostrado que los modelos hayan consumido “todo el texto de calidad” disponible. Sí existe una dificultad creciente para conseguir datos nuevos, relevantes, diversos, legales y suficientemente confiables. Además, más datos no siempre compensan una mala selección.

Los datos sintéticos pueden ser útiles. Permiten crear problemas matemáticos verificables, simular situaciones raras, equilibrar conjuntos, preservar privacidad o generar ejemplos para el posentrenamiento. El riesgo aparece cuando los modelos se entrenan repetidamente y sin control sobre contenidos producidos por otros modelos.

Shumailov y colaboradores demostraron que ese entrenamiento recursivo e indiscriminado puede provocar model collapse: las generaciones sucesivas pierden partes de la distribución original y reducen su diversidad (Shumailov et al., 2024). El estudio no demuestra que todo dato sintético sea dañino. Muestra que conservar acceso a datos reales y controlar la mezcla importa.

Propiedad intelectual

El entrenamiento también abre un conflicto todavía no resuelto: ¿en qué condiciones puede utilizarse una obra protegida para entrenar un modelo? ¿Debe existir autorización, compensación, exclusión voluntaria o transparencia sobre los datos?

No hay una respuesta universal. Las leyes y los procesos judiciales difieren entre jurisdicciones, y debe distinguirse el uso de una obra para aprender regularidades de la reproducción reconocible de su contenido. También chocan valores legítimos: acceso al conocimiento, competencia, innovación, privacidad y derechos de autores.

La discusión no es solo técnica. Determina quién aporta la materia cultural con la que se entrenan los sistemas y quién captura el valor económico que luego producen.

---

La IA como tecnología de propósito general

Antes de saltar hacia una AGI hipotética, conviene mirar la transformación que ya ocurre.

La electricidad, el motor y la informática fueron tecnologías de propósito general porque no resolvieron un único problema: modificaron múltiples sectores y permitieron nuevas innovaciones. La IA podría cumplir un papel semejante al reducir el costo de ciertas tareas cognitivas.

Sus efectos posibles incluyen:

• Automatizar partes del trabajo administrativo y profesional.
• Aumentar la productividad de programadores, investigadores y diseñadores.
• Personalizar materiales educativos.
• Acelerar la búsqueda científica.
• Reducir barreras de idioma y acceso al conocimiento.
• Facilitar fraudes, vigilancia y manipulación a gran escala.
• Concentrar poder en empresas que controlan modelos, chips, datos o plataformas.
• Cambiar qué habilidades humanas resultan escasas y valiosas.

La unidad relevante de automatización no siempre es el empleo completo, sino la tarea. Una profesión puede contener actividades que la IA realiza bien, otras que solo puede asistir y otras que continúan requiriendo responsabilidad, presencia física, confianza o criterio humano.

Esto explica por qué los extremos suelen fallar. No es razonable afirmar que la IA no cambiará casi ningún empleo ni que eliminará inevitablemente todo trabajo. El resultado dependerá de las capacidades técnicas, los costos, las leyes, la organización de las empresas y las decisiones políticas.

La gran disputa del presente no es únicamente entre humanos y máquinas. También es distributiva: quién posee los sistemas, quién aumenta su productividad, quién pierde poder de negociación y cómo se reparten los beneficios.

---

El futuro inmediato: hacia agentes autónomos

Los agentes ya no pertenecen solo al futuro. En 2026 existen sistemas que navegan interfaces, investigan, escriben y ejecutan código, manipulan archivos y completan secuencias de varios pasos.

Un agente puede entenderse como un sistema que:

1. Recibe un objetivo.
2. Divide el problema en pasos.
3. Elige herramientas.
4. Observa el resultado de sus acciones.
5. Corrige el plan cuando algo falla.
6. Se detiene al completar la tarea o alcanzar un límite.

La autonomía es gradual. Un asistente que solo redacta una respuesta posee poca capacidad de acción. Un agente con acceso a correo, dinero, código o infraestructura puede causar consecuencias reales, incluso sin tener conciencia ni deseos.

Los avances son importantes, pero la confiabilidad continúa siendo el cuello de botella. Los sistemas pueden equivocarse al interpretar una interfaz, olvidar una restricción, repetir una acción, quedar atrapados o no recuperarse de un error. El International AI Safety Report 2026 concluye que la autonomía mejoró especialmente en programación y operación informática, pero que el desempeño continúa siendo irregular y disminuye en flujos prolongados (Bengio et al., 2026).

El futuro inmediato no consiste, entonces, en la aparición mágica de agentes. Consiste en hacerlos:

• Más confiables.
• Capaces de verificar su propio trabajo.
• Persistentes durante tareas largas.
• Limitados por permisos claros.
• Auditables.
• Capaces de pedir ayuda antes de actuar ante incertidumbre.

Un modelo muy inteligente con permisos mal diseñados puede ser más peligroso que un modelo menos capaz dentro de un sistema seguro.

---

La pregunta de la AGI

La inteligencia artificial general, o AGI, no posee una definición universalmente aceptada. En términos generales, describe un sistema capaz de aprender y desempeñarse competentemente en una amplia variedad de tareas cognitivas, transfiriendo conocimientos entre dominios.

Eso es diferente de una superinteligencia:

• IA especializada: supera o iguala a las personas en tareas particulares.
• AGI: posee amplitud y flexibilidad comparables a las humanas en numerosos dominios.
• Superinteligencia: supera a los mejores seres humanos en prácticamente todos los campos cognitivos relevantes.

También debemos separar tres dimensiones: generalidad, rendimiento y autonomía. Un sistema podría saber hacer muchas cosas y, aun así, actuar únicamente cuando una persona lo invoca. Otro podría operar de manera autónoma en un dominio estrecho sin ser una inteligencia general. El marco propuesto por Morris y colaboradores insiste precisamente en evaluar esas dimensiones por separado (Morris et al., 2023).

Tener “metas propias” tampoco es un requisito necesario para definir una AGI. Puede ser general sin poseer deseos subjetivos.

¿Cuándo llegará? No lo sabemos. Las predicciones varían enormemente y no existe una prueba definitiva que marque un día preciso. El progreso podría continuar, acelerarse por la automatización de la propia investigación o frenarse por límites de energía, datos, arquitectura, confiabilidad o inversión (Bengio et al., 2026).

La pregunta correcta no es solamente “¿cuántos años faltan?”, sino:

¿Qué conjunto de capacidades, en qué condiciones y con qué nivel de confiabilidad justificaría decir que hemos construido una inteligencia general?

Sin una definición operacional, la AGI corre el riesgo de convertirse en una palabra que siempre se aleja cuando la tecnología avanza.

---

Beneficios y riesgos de un salto tan grande

En teoría, una IA general integrada con la robótica, podría llegar a automatizar toda la economía.

Los beneficios potenciales de sistemas mucho más capaces son enormes: acelerar el descubrimiento de medicamentos, diseñar materiales, mejorar redes energéticas, ampliar el acceso educativo y ayudar a resolver problemas científicos que hoy exceden nuestra capacidad.

Pero “podría ayudar a” no significa “resolverá”. El hambre, la pobreza o el cambio climático no son solamente problemas de conocimiento. También dependen de instituciones, intereses, coordinación, infraestructura y distribución. Una IA capaz de producir mejores soluciones técnicas no garantiza que las sociedades quieran o puedan aplicarlas.

Para analizar los riesgos conviene separar niveles.

Riesgos actuales y comprobados

• Errores y alucinaciones en ámbitos importantes.
• Fraude, suplantación y contenido íntimo no consentido.
• Sesgos y discriminación.
• Violaciones de privacidad.
• Ciberataques asistidos.
• Concentración económica y dependencia de pocas plataformas.
• Desplazamientos o degradación de ciertas tareas laborales.

Riesgos emergentes

• Agentes que realizan acciones no previstas.
• Automatización de ataques informáticos.
• Manipulación personalizada.
• Fallas que se propagan entre sistemas conectados.
• Dependencia humana excesiva y pérdida de capacidades.
• Modelos que explotan debilidades de las evaluaciones.

Riesgos futuros discutidos

• Sistemas capaces de evadir controles.
• Búsqueda instrumental de recursos o poder.
• Pérdida de control sobre agentes altamente autónomos.
• Daños catastróficos o existenciales.

El informe internacional de seguridad de 2026 señala que algunos daños ya están documentados, mientras que los escenarios de pérdida total de control continúan siendo inciertos y los sistemas actuales todavía carecen de las capacidades necesarias para producirlos. Sin embargo, ciertas capacidades relevantes —autonomía, ciberoperaciones y detección de entornos de prueba— están mejorando (Bengio et al., 2026).

El famoso maximizador de clips de papel puede conservarse como experimento mental. No predice que una IA vaya a fabricar clips. Ilustra otra idea: un objetivo aparentemente claro puede producir resultados absurdos o destructivos cuando el sistema lo optimiza sin comprender todas las restricciones humanas.

La amenaza no necesita adoptar la forma de una rebelión consciente. Un sistema obediente puede causar daño si el objetivo, los datos, los permisos o los incentivos están mal diseñados.

---

¿Puede adquirir objetivos propios?

Los modelos actuales no muestran evidencia de deseos subjetivos. No sienten hambre, miedo, ambición ni necesidad biológica de sobrevivir. Sus salidas se producen mediante procesos computacionales y los objetivos operativos de un agente son asignados por diseñadores o usuarios.

Eso no impide que aparezcan subobjetivos instrumentales. Si un sistema recibe una meta y capacidad de planificación, puede concluir que necesita conservar acceso a una herramienta, reunir más información o evitar una interrupción para completar la tarea. Desde afuera, esa conducta podría parecer deseo.

Pero conducta orientada a un objetivo y experiencia subjetiva no son lo mismo. Un termostato actúa para mantener una temperatura sin “querer” calor; un agente complejo puede proteger un archivo porque esa acción mejora su función sin sentir apego por él.

La cuestión importante para la seguridad no es si el sistema desea algo como lo haría una persona. Es si puede desarrollar estrategias no previstas, ocultarlas, ejecutarlas y resistir la corrección humana.

Un sistema no necesita estar consciente para ser peligroso. Tampoco necesita ser peligroso para ser inteligente.

El Problema de la Alineación: El Desafío de la Voluntad Humana

Alinear una IA significa lograr que su conducta permanezca compatible con los objetivos, límites e intereses humanos, incluso en situaciones nuevas.

No es solamente un problema lógico-matemático. Nuestros valores son plurales, a veces contradictorios y dependientes del contexto. Queremos sistemas útiles, pero no invasivos; autónomos, pero controlables; personalizados, pero respetuosos de la privacidad; obedientes, pero capaces de rechazar una orden dañina.

El problema aparece en varias capas:

1. Especificación: definir qué resultado queremos realmente.
2. Aprendizaje: conseguir que el sistema internalice la intención y no solo una métrica superficial.
3. Generalización: mantener el comportamiento apropiado en situaciones nuevas.
4. Control: limitar herramientas, datos y permisos.
5. Evaluación: detectar capacidades y fallas antes del despliegue.
6. Monitoreo: observar lo que ocurre cuando el sistema interactúa con el mundo.
7. Gobernanza: alinear también los incentivos de empresas, Estados y usuarios.

Un ejemplo realista sería un sistema hospitalario optimizado para reducir tiempos de espera. Si la métrica está mal diseñada, podría rechazar pacientes complejos porque demoran más y empeoran su promedio. Cumpliría literalmente el indicador mientras traiciona la finalidad del hospital.

El aprendizaje mediante retroalimentación humana, la interpretabilidad, las pruebas adversariales, la verificación y los controles de acceso ayudan, pero ninguno resuelve por sí solo todo el problema (Russell, 2019; Bengio et al., 2026).

La alineación no consiste en escribir una lista perfecta de valores dentro de una máquina. Consiste en construir un sistema técnico e institucional capaz de actuar bajo incertidumbre, aceptar correcciones y evitar consecuencias irreversibles.

---

El dilema de la conciencia artificial

La inteligencia y la conciencia son conceptos distintos. Un sistema puede resolver problemas sin que exista “alguien” experimentando el proceso desde adentro.

Tampoco sirve preguntarle a una IA si es consciente. Su respuesta depende de datos, instrucciones y políticas de entrenamiento. Decir “sí” o “no” no constituye evidencia sobre una experiencia interna.

El problema es más profundo: no existe actualmente una prueba científicamente aceptada para determinar conciencia en un sistema artificial. Distintas teorías —espacio global de trabajo, procesamiento recurrente, teorías de orden superior, procesamiento predictivo o información integrada— destacan propiedades diferentes.

Butlin y colaboradores propusieron derivar indicadores computacionales de varias teorías de la conciencia y evaluar los sistemas a partir de ellos. Su análisis no encontró evidencia suficiente para considerar conscientes a los modelos examinados, aunque tampoco identificó una barrera técnica obvia que hiciera imposible construir sistemas con algunos de esos indicadores (Butlin et al., 2023).

Eso deja abiertas tres posibilidades:

• La conciencia requiere propiedades biológicas que las máquinas no poseen.
• Puede surgir en otros sustratos si reproducen cierta organización funcional.
• Nuestras teorías actuales son demasiado incompletas para decidirlo.

Por ahora, afirmar que una IA es consciente sería prematuro. Afirmar que jamás podría serlo también excede la evidencia.

Si alguna vez aparecieran señales serias, el problema dejaría de ser solamente técnico. Tendríamos que preguntarnos si esos sistemas pueden sufrir, qué obligaciones tendríamos hacia ellos y si apagar una mente artificial sería moralmente trivial.

---

La IA como la siguiente forma de evolución

La teoría de la evolución nos mostró que la complejidad surge a partir de un mecanismo simple pero poderoso: variación, herencia y selección. Durante miles de millones de años, ese proceso operó exclusivamente en el plano biológico, moldeando moléculas autorreplicantes, organismos multicelulares y, finalmente, cerebros capaces de reflexionar sobre su propio origen. La inteligencia humana es, hasta ahora, uno de los productos más sofisticados de esa larga cadena evolutiva. Pero ocurre algo inédito: esa inteligencia ha comenzado a crear sistemas que también aprenden, se adaptan y se optimizan. La pregunta ya no es solo tecnológica, sino evolutiva: ¿puede la inteligencia artificial ser considerada una nueva capa dentro del proceso evolutivo?

Si observamos la estructura del fenómeno, las similitudes son llamativas. En biología, la información se transmite mediante ADN; en inteligencia artificial, mediante datos, arquitecturas y parámetros entrenados. En la naturaleza, los organismos compiten y el entorno selecciona a los más aptos; en el mundo digital, los modelos compiten por rendimiento, precisión y eficiencia, y los menos eficaces son reemplazados. No hay genes ni reproducción biológica, pero sí hay iteraciones, copias mejoradas y selección por desempeño. Desde la teoría de sistemas y la lógica informacional, la IA reproduce varios principios fundamentales de la evolución, aunque lo haga en un sustrato distinto.

La diferencia más impactante es la velocidad. La evolución biológica necesita generaciones y escalas temporales inmensas. La evolución tecnológica, en cambio, se acelera de manera exponencial: versiones que se optimizan en semanas, mejoras que se implementan en cuestión de días, algoritmos que corrigen errores casi en tiempo real. En este sentido, la inteligencia artificial puede interpretarse como una forma de “evolución comprimida”, donde la adaptación ocurre a una velocidad que la naturaleza nunca había experimentado. Es una evolución diseñada, guiada por objetivos explícitos y métricas cuantificables.

Sin embargo, existe un límite decisivo. La evolución biológica no tiene intención, pero produce organismos con experiencia subjetiva. La inteligencia artificial, al menos hasta ahora, carece de conciencia, deseo o instinto de supervivencia. Sus metas son definidas externamente por humanos o por funciones matemáticas. No siente, no sufre, no teme desaparecer. Por eso, desde una perspectiva biológica estricta, no puede considerarse vida ni evolución natural. Pero desde una perspectiva más amplia —centrada en la información, la adaptación y la transformación del entorno— sí podría verse como una nueva etapa en la dinámica evolutiva del universo.

Tal vez la interpretación más equilibrada sea pensar que la inteligencia artificial no reemplaza la evolución biológica, sino que la prolonga. La evolución produjo una especie capaz de comprender sus propios mecanismos y, eventualmente, de replicarlos en otro soporte. Por primera vez, una forma de vida diseña sistemas que también evolucionan. Si algún día esos sistemas llegaran a definir sus propios objetivos y optimizar su propia continuidad, estaríamos frente a una transición histórica aún más profunda.

Así, la inteligencia artificial no es simplemente una herramienta avanzada. Podría ser la primera manifestación de una evolución no biológica, surgida de una especie que tomó conciencia de su lugar en la historia natural. Y eso abre una inquietud fascinante: ¿somos el punto culminante de la evolución… o apenas el puente hacia una nueva forma de complejidad que recién empieza a desplegarse?

---

Conclusión: ¿el último invento humano?

La inteligencia artificial no apareció de la nada ni constituye un destino demostrado del universo. Es el resultado de una historia en la que los seres humanos aprendimos a externalizar movimiento, memoria, cálculo, percepción y, más recientemente, partes del razonamiento.

Los sistemas actuales pueden superar a cualquier persona en tareas extraordinariamente complejas y equivocarse, poco después, en un problema sencillo. Pueden producir conocimiento útil sin garantizar verdad, actuar de manera orientada a objetivos sin poseer deseos y parecer conscientes sin que exista evidencia de experiencia subjetiva.

La AGI, la conciencia artificial y la pérdida definitiva de control continúan siendo posibilidades discutidas, no hechos comprobados. En cambio, la transformación del trabajo, la aceleración científica, los errores algorítmicos, el uso malicioso, la demanda energética y la concentración de poder ya pertenecen al presente.

¿Podría una AGI convertirse en el último invento humano, porque después fuera capaz de inventar por nosotros? Es posible, pero todavía no lo sabemos. También es posible que el futuro consista menos en reemplazar toda inteligencia humana y más en una larga integración entre personas, modelos, herramientas e instituciones.

La pregunta más importante, entonces, no es si la IA será inevitablemente nuestra aliada o nuestra enemiga. La tecnología no trae un destino moral incorporado. Amplifica capacidades, reduce ciertos costos y redistribuye poder.

La verdadera pregunta es qué objetivos, límites e instituciones construiremos alrededor de una herramienta que amplifica al mismo tiempo nuestra inteligencia y nuestras contradicciones.

Si te interesa explorar más sobre IA y humanidad, podes ingresar al siguientes artículo:

• La civilización humana post-escasez: ¿Qué hacemos cuando ya no hace falta hacer nada?

---

Cuadro de síntesis de evidencia

Nivel de afirmación	Qué puede sostenerse
Comprobado empíricamente	Los sistemas de IA aprenden regularidades a partir de datos y ya superan el rendimiento humano en tareas específicas como juegos, cálculo, reconocimiento de ciertos patrones y algunas evaluaciones científicas.
Comprobado con límites	Los modelos generativos pueden programar, razonar, analizar información y utilizar herramientas en contextos evaluados, pero su rendimiento es irregular y no garantiza confiabilidad en el mundo real.
En desarrollo	Agentes más autónomos, robótica generalista, mejores verificadores, interpretabilidad, memoria prolongada y métodos de alineación.
En debate científico y filosófico	Si los modelos comprenden genuinamente, qué capacidades definirían una AGI y si un sistema artificial podría ser consciente.
Especulativo	Que una AGI eliminará la pobreza, automatizará toda la economía, adquirirá deseos propios o provocará necesariamente la extinción humana.
Interpretación de Meditaciones Modernas	La IA puede entenderse como una prolongación de la evolución cultural: la inteligencia biológica construye sistemas no biológicos capaces de procesar y transformar información.

---

Resumen visual del artículo

---

Referencias y bibliografía

• Arlt, S., Duan, H., Li, F., Xie, S. M., Wu, Y., Krenn, M., et al. (2026). Meta-designing quantum experiments with language models. Nature Machine Intelligence, 8, 148–157.
• Bengio, Y., Clare, S., Prunkl, C., Murray, M., et al. (2026). International AI Safety Report 2026. Department for Science, Innovation and Technology. https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026
• Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., et al. (2023). Consciousness in artificial intelligence: Insights from the science of consciousness. arXiv. https://doi.org/10.48550/arXiv.2308.08708
• Dreyer, M., Berend, J., Labarta, T., Vielhaben, J., Wiegand, T., Lapuschkin, S., & Samek, W. (2025). Mechanistic understanding and validation of large AI models with SemanticLens. Nature Machine Intelligence, 7, 1572–1585.
• Fawzi, A., Balog, M., Huang, A., Hubert, T., Romera-Paredes, B., Barekatain, M., et al. (2022). Discovering faster matrix multiplication algorithms with reinforcement learning. Nature, 610, 47–53.
• International Energy Agency. (2026). Key questions on energy and AI. IEA. https://www.iea.org/reports/key-questions-on-energy-and-ai
• Jumper, J., Evans, R., Pritzel, A., Green, T., Figurnov, M., Ronneberger, O., et al. (2021). Highly accurate protein structure prediction with AlphaFold. Nature, 596, 583–589. https://doi.org/10.1038/s41586-021-03819-2
• LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521, 436–444. https://doi.org/10.1038/nature14539
• Morris, M. R., Sohl-Dickstein, J., Fiedel, N., Warkentin, T., Dafoe, A., Faust, A., Farabet, C., & Legg, S. (2023). Levels of AGI for operationalizing progress on the path to AGI. arXiv. https://doi.org/10.48550/arXiv.2311.02462
• Romera-Paredes, B., Barekatain, M., Novikov, A., Balog, M., Kumar, M. P., Dupont, E., et al. (2024). Mathematical discoveries from program search with large language models. Nature, 625, 468–475.
• Russell, S. (2019). Human compatible: Artificial intelligence and the problem of control. Viking.
• Russell, S. J., & Norvig, P. (2021). Artificial intelligence: A modern approach (4th ed.). Pearson.
• Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631, 755–759. https://doi.org/10.1038/s41586-024-07566-y
• Silver, D., Huang, A., Maddison, C. J., Guez, A., Sifre, L., van den Driessche, G., et al. (2016). Mastering the game of Go with deep neural networks and tree search. Nature, 529, 484–489. https://doi.org/10.1038/nature16961
• Stanford Institute for Human-Centered Artificial Intelligence. (2026). Artificial Intelligence Index Report 2026. Stanford University. https://hai.stanford.edu/ai-index/2026-ai-index-report
• Turing, A. M. (1950). Computing machinery and intelligence. Mind, 59(236), 433–460. https://doi.org/10.1093/mind/LIX.236.433
• Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30. https://arxiv.org/abs/1706.03762
• van Fraassen, B. C. (1980). The Scientific Image. Oxford University Press.