Tenemos una nave espacial en nuestras manos, hagamos el mayor uso posible de ella

Llevo cerca de año y medio usando IA cada día, y últimamente pienso mucho en lo rápido que ha cambiado el terreno. Al principio, cuando la IA estaba en una fase mucho más temprana, la ventaja real la tenía quien sumaba conocimiento técnico y soltura con las herramientas. Podías tener una idea buena, pero en cuanto querías llevarla un paso más allá, chocabas con el límite de razonamiento del modelo. El resultado solía ser decente: una tecnología interesante, con un techo bastante bajo.

Hoy es distinto. Si tienes un objetivo claro, la IA te lo puede hacer realidad. Sé que es una frase hecha, de las que suelen decirse en LinkedIn o en Instagram, pero lo digo porque lo vivo de primera mano. Ahora mismo estoy construyendo aplicaciones y webs funcionales, sólidas, hechas con esta tecnología, herramientas reales que me ayudan a ser más productivo y a disfrutar más del día a día. Ya no es una demo para enseñarle a un cliente. Es algo que uso yo primero, que ya me resulta útil, y que mañana probablemente pueda vender.

A la velocidad de la luz, con los guardarraíles puestos

Me declaro defensor de la IA. Pero también he mirado de cerca el problema del desajuste de objetivos, lo que en inglés se llama alignment. Nick Bostrom lo explicó muy bien en Superintelligence con el ejemplo del clip: si le das a una IA el objetivo de fabricar el mayor número de clips posible, nada le impide concluir que la humanidad entera, y cada recurso del planeta, deberían destinarse a fabricar más clips. El ejemplo es exagerado a propósito. Sirve para entender por qué una IA tiene que estar alineada con nosotros no solo en el objetivo final, también en cómo lo consigue.

Y aquí está lo que más me llama la atención últimamente: le pedimos guardarraíles a la IA, pero cada vez más es la propia IA la que nos los pone a nosotros. Te pregunta si lo que estás haciendo tiene sentido. Te hace parar a revisar si el paso que acabas de dar es tan bueno como creías, de forma educada y útil, no como un obstáculo. Es la imagen que quería transmitir con la foto de este post: vamos a más velocidad que nunca, pero no vamos solos en la cabina.

Mi reflexión sobre "Si alguien la crea, todos moriremos"

Acabo de terminar If Anyone Builds It, Everyone Dies, de Eliezer Yudkowsky y Nate Soares. El título ya deja poco a la imaginación. Y lo curioso es que, en vez de limitarse a mejorar la tecnología, algunos de los CEOs que más la están empujando (Elon Musk, Sam Altman, Dario Amodei) llevan tiempo hablando en público de las mismas amenazas que describe el libro.

No tenemos el control total que nos gustaría tener sobre esto, y no deberíamos olvidarlo nunca. Lo que sí tenemos es gente investigando en serio qué pasa dentro de estos modelos, y esa es la parte que más tranquilidad me da.

Cuando la IA empieza a mirar hacia dentro

Hace unas semanas, Anthropic publicó una investigación que me parece uno de los ejemplos más concretos de esto. El equipo de Jack Lindsey identificó el espacio interno donde el modelo procesa y construye sus respuestas, y comprobó que puede influir en él para producir un resultado determinado. Lo llaman conciencia introspectiva emergente: cuando inyectan un concepto en las activaciones internas de Claude, el modelo a veces se da cuenta de que "algo raro" ha pasado y hasta identifica qué es. Sigue siendo un mecanismo poco fiable, el modelo no se lee a sí mismo con precisión, pero es la primera vez que vemos evidencia real de que se puede mirar, y hasta cierto punto tocar, lo que pasa dentro de la caja negra.

Hay una pregunta de fondo que no me quito de la cabeza: ¿deberíamos seguir empujando hacia una inteligencia más avanzada que la nuestra en razonamiento y lógica, o deberíamos centrar más energía en lo que a nosotros se nos da mejor, la creatividad y la generación de ideas? Me gusta pensarlo como una vuelta a la Grecia clásica, al revés: antes solo unos pocos tenían acceso al Olimpo, al lugar donde se debatía y se decidía. Ahora, con estas herramientas, ese acceso se ha abierto a mucha más gente.

El panorama de modelos, ahora mismo

Y mientras tanto, el ritmo de lanzamientos no da tregua. En las últimas semanas hemos visto a Kimi K3 de Moonshot, un modelo abierto de 2,8 billones de parámetros que se planta cara a cara con Opus 4.8. Alibaba ha respondido con Qwen3.8-Max, su modelo más grande hasta la fecha, apenas unos meses después de Qwen3.7-Max. OpenAI sigue con GPT-5.6 y sus tres niveles, Sol, Terra y Luna, y hace unos días adelantó el nombre de su próximo gran modelo, Astra, presentándolo con diez soluciones a problemas matemáticos que llevaban años sin resolverse. Astra tendrá que pasar antes por una revisión del gobierno estadounidense antes de salir al público, así que el patrón que comenté hace unas semanas, la regulación llegando antes que el acceso, sigue muy vivo.

Me llama la atención que los nombres de los modelos suenan cada vez más a algo aspiracional: Sol, Astra, Atlas (este último, por cierto, ya lo ha retirado OpenAI). Da la sensación de que las propias empresas son conscientes de que están vendiendo algo más que una herramienta.

Ni los modelos abiertos ni los cerrados son accesibles del todo para todo el mundo, por coste o por suscripción. Yo mismo no puedo usarlos todos con la libertad que me gustaría. Pero el nivel al que hemos llegado, sea quien sea el que lo desarrolle, es difícil de exagerar.

Cambios en los puestos más altos de la IA

También los puestos de mando se mueven rápido. Ayer mismo, Demis Hassabis dejó el cargo de CEO de Google DeepMind para pasar a ser chairman de DeepMind y chief scientist de Alphabet, centrado en la estrategia de AGI a largo plazo en lugar de en la operativa diaria. Tiene sentido: Hassabis es Premio Nobel de Química 2024 por su trabajo con AlphaFold, más perfil de científico que de gestor, y ahora se dedica a lo que mejor sabe hacer. Cuando alguien con tanta autoridad da un paso atrás de la gestión diaria para pensar en el panorama completo, dice bastante sobre en qué fase estamos.

Me parece una buena señal, en general, que cada vez haya más investigadores científicos en la cúpula de las empresas de tecnología, no solo gestores. Cambia el tipo de decisiones que se toman arriba.

Lo que pienso de quienes están al mando

Quiero cerrar con algo más personal, sobre la gente que está construyendo todo esto.

A Sam Altman lo veo como alguien que empuja límites de verdad, con curiosidad genuina por entender el universo, no solo por lanzar producto. A Elon Musk hay que reconocerle el papel de fundador e inversor, y aunque conviene ser cauto con tanto poder concentrado en pocas manos, también merece el crédito por empujar tecnologías que nos benefician. A Hassabis lo admiro por mezclar ciencia y negocio de una forma que pocos consiguen, y su salida de la gestión diaria me parece coherente con esa mezcla.

Y por último Dario Amodei, fundador de Anthropic. Tiene un carácter natural, con valores claros, de los pocos que veo actuar de forma coherente con lo que dice, sin necesidad de forzarlo. Junto a su hermana Daniela forman un equipo que me genera mucha confianza. Suelo ser bastante crítico con lo que dice cualquier CEO de tecnología, buscando las grietas del discurso. Y aun así, de todos los que están construyendo esto, Anthropic es donde más confío.

Para cerrar

Si esto te ha resonado, en el último episodio de Stalmanía, el podcast que grabo con Andy Stalman, hablamos de un caso muy concreto: cómo monté un "cerebro" digital con vaults de Obsidian conectado a Claude Code para crear un curso gratuito de educación financiera. Podés entrar al curso → con la contraseña que compartimos en el episodio, ya disponible en español e inglés.

Y si quieres que sigamos esta conversación con tu equipo o en tu evento: habla conmigo →

¿Vosotros en qué punto de este cambio estáis? Me interesa mucho leer cómo lo estáis viviendo desde vuestro lado.

Un abrazo.