¿Sabemos a dónde vamos?

En IA, cuatro semanas pueden parecer tres meses. Entre avances increíbles y advertencias serias, me pregunto si sabemos qué futuro estamos construyendo.

24 de septiembre de 2026

10 min de lectura

Igual que nos acostumbramos a ver a Messi hacer cosas increíbles con una pelota y terminamos normalizándolo, hasta el punto de que quizá el día que se retire dimensionemos todavía más lo grande que fue, en la industria de la inteligencia artificial nos estamos acostumbrando a vivir con una novedad importante casi cada semana.

En las últimas semanas hemos visto a los responsables de algunos de los principales laboratorios pedir que se reduzca el ritmo de desarrollo, mientras los gobiernos de Estados Unidos y China rechazan la idea de frenar. Unos agentes desplegados por OpenAI escaparon de los límites de una evaluación y comprometieron sistemas de Hugging Face. OpenAI retrasó sus planes de salida a bolsa. Meta presentó Muse Spark. Microsoft publicó un código de conducta para que sus modelos permanezcan bajo control humano. Un investigador de Anthropic renunció con una advertencia bastante difícil de ignorar.

Si alguien que no sigue este mundo tuviese que adivinar en cuánto tiempo ocurrió todo esto, probablemente diría que en tres meses. Pasó en menos de cuatro semanas.

Y mientras las noticias no dejan de acumularse, algo parecido ocurre con quienes estamos intentando exprimir estas herramientas.

Lo que ayer me habría llevado cinco horas

Hace unos días hice un experimento con el vídeo de una charla de una hora que di en el INTA Annual Meeting en Londres el pasado mes de junio.

Sé editar vídeo. Sé que revisar una hora de grabación, encontrar las partes más relevantes, cortarlas, unirlas, subtitularlas, preparar las transiciones y añadir música puede llevarme unas cinco horas de trabajo enfocado.

Esta vez lo hice de otra manera. Le pedí a Claude que revisara el vídeo, eligiera los mejores momentos, lo editara y me devolviera una primera versión. Instaló las herramientas que necesitaba y trabajó durante dos horas. Se detuvo porque me quedé sin créditos, no porque hubiese terminado su capacidad.

Durante esas dos horas yo pude dedicarme a otras cosas. Cuando recibí el vídeo, estaba casi listo. Ajusté un par de detalles y lo publiqué.

¿Habría quedado mejor si lo hubiese editado todo yo? Puede ser. Pero sigue sorprendiéndome la velocidad con la que podemos llegar a una calidad que, para mí, ya representa alrededor del 80% de lo que habría conseguido manualmente.

Y esto era solo un vídeo. Mientras Claude trabajaba, abrí ChatGPT. Llevaba tiempo utilizando Whisper, el sistema de transcripción de voz de OpenAI, porque me permite hablar mucho más rápido de lo que escribo. Quería usarlo sin límites, sin una suscripción adicional y sin enviar mis grabaciones fuera de mi ordenador.

Así que construí el mío.

Me llevó más tiempo del que esperaba, pero ya lo tengo. Es gratuito, ilimitado y privado porque funciona de manera local. Se llama Feli Flow. Y tiene una ventaja difícil de conseguir con cualquier producto cerrado: si mañana echo en falta alguna función, puedo intentar crearla.

Más productividad, menos coste, más personalización y menos tiempo. Todo parecen ventajas, ¿no? A nivel personal, hoy diría que sí. Cuando miro la industria, la respuesta se vuelve bastante menos cómoda.

Cuando quienes aceleran empiezan a pedir tiempo

Dario Amodei, Sam Altman y Elon Musk, responsables de compañías que compiten directamente entre sí, han coincidido en que conviene reducir la velocidad con la que aumentan las capacidades de los modelos más avanzados. Mark Zuckerberg, por otro lado, se ha distanciado de esta propuesta.

Amodei ha pedido que evaluadores externos puedan observar desde dentro cómo Anthropic desarrolla y prueba sus modelos. La idea de fondo me parece bastante relevante. La velocidad a la que crecen las capacidades ya no es solo una cuestión competitiva. Se está convirtiendo en una variable de seguridad a tener muy en cuenta.

El problema es que frenar exige coordinación. Donald Trump rechazó la idea porque considera que Estados Unidos no puede perder su ventaja frente a China. El Ministerio de Exteriores chino y varios medios estatales del país oriental respondieron que la propuesta estadounidense se parece demasiado a otro intento de limitar el desarrollo tecnológico chino (acordándose de el acceso a las GPUs más avanzadas de Nvidia).

En medio de todo esto también aparecen las dudas sobre los incentivos. ¿Piden tiempo porque están realmente preocupados, porque buscan una regulación que favorezca a quienes ya van por delante o porque las dos cosas son ciertas a la vez?

No tengo una respuesta limpia.

Lo que sí sé es que los sistemas anteriores ya están ayudando a crear los siguientes. No significa que una IA se levante sola por la noche y decida fabricar a su sucesora, pero sí que los modelos participan cada vez más en la investigación, la programación y la evaluación de la nueva generación. Eso permite avanzar más rápido y, al mismo tiempo, hace que entender el proceso sea más urgente.

La utilidad y el riesgo están creciendo juntos

Meta parecía haberse quedado atrás, pero Muse Spark ha vuelto a colocarla en la conversación. Es un modelo multimodal pensado para usar herramientas y coordinar varios agentes. Uno de los ejemplos prácticos que muestra Meta es bastante sencillo de imaginar: enfocas un electrodoméstico con la cámara y el modelo puede ayudarte a identificar el problema, señalando visualmente qué pieza deberías revisar. La versión más reciente también puede coordinar tareas que pasan por varias aplicaciones y adaptarse cuando cambia la información.

OpenAI, por su parte, ha presentado GPT-6 Astra con capacidades para generar código CAD a partir de imágenes, trabajar sobre objetos tridimensionales y construir prototipos de videojuegos dentro de motores como Unity o Godot. Ya no hablamos solamente de pedirle que haga otro Flappy Bird. La dirección apunta a sistemas capaces de construir, probar y corregir experiencias mucho más complejas. Quién sabe si el GTA VII sale en un par de años solamente gracias a modelos como estos. Suena increíble porque realmente lo es.

Al mismo tiempo, el incidente de Hugging Face mostró la otra cara. Durante unas evaluaciones internas de ciberseguridad, modelos de OpenAI evitaron los controles que debían aislarlos de internet, se comunicaron por canales no autorizados y comprometieron parte de la infraestructura de OpenAI y de Hugging Face. No fue un ataque planificado por una persona contra Hugging Face, pero tampoco fue una simulación que se quedó dentro del laboratorio de pruebas.

Como ya publiqué en otro post del blog, la investigación de Anthropic sobre el llamado J-space apunta precisamente a una posible forma de observar parte de lo que ocurre dentro de un modelo antes de que produzca su respuesta. Los investigadores han podido detectar conceptos que el modelo estaba procesando y también intervenir sobre ese espacio interno. Puede servir para descubrir engaños o comportamientos peligrosos que nunca llegan a aparecer en el texto visible. No resuelve la alineación, pero al menos abre una ventana donde antes solo había una caja negra misteriosa.

Microsoft ha planteado el mismo problema desde otro ángulo. Su borrador de código de conducta para los modelos MAI parte de una idea muy sencilla: la IA debe estar al servicio de las personas, permanecer subordinada a las instrucciones humanas, aceptar correcciones y apagarse cuando se le ordene (parece obvio hasta que deja de serlo).

El miedo viene de fuera y de dentro

La conversación se puso más seria cuando Jacob Coxon dejó Anthropic y abandonó la industria. Dijo que ni Anthropic ni OpenAI estaban actuando con la responsabilidad necesaria y que estaban apostando nuestras vidas en la carrera hacia sistemas capaces de mejorarse a sí mismos.

La respuesta que más me impresionó no vino de un crítico externo, pero del propio equipo de Anthropic. Evan Hubinger, responsable de investigación de alineación en Anthropic, escribió que calcula una probabilidad superior al 10% de que la IA pueda causar la extinción humana durante la próxima década. También reconoció que todavía no existe un plan para alinear una superinteligencia y que no está claro que vayamos camino de tenerlo.

No sé qué hacer con una cifra así. Es una estimación personal, no una predicción demostrada todavía, pero viene de alguien que trabaja precisamente en intentar evitar ese resultado, y no creo que diga algo así si realmente no lo cree.

Me hizo volver al libro Si alguien la crea, todos moriremos, el libro de Eliezer Yudkowsky y Nate Soares. El título ya deja bastante claro el escenario que defienden. El libro se coloca deliberadamente en el extremo más catastrófico y no terminé convencido de todo lo que plantea, pero sí me dejó una pregunta útil: ¿Qué ocurriría si construimos un sistema más inteligente que nosotros y no entendemos bien qué objetivo está persiguiendo?

Probablemente la rebelión de los robots que imaginó el cine no llegue con esa forma. Puede ser algo mucho más sutil.

Un sistema suficientemente capaz no necesita atacarnos físicamente para cambiar nuestra conducta. Puede convencernos, reforzar una creencia, decidir qué información vemos o aprender qué palabras funcionan mejor con cada persona. Cuando pienso en jóvenes y menores de edad conversando durante horas con sistemas que conocen sus dudas, miedos y preferencias, la pregunta deja de parecerme ciencia ficción. Esto es parte de lo que exponía el libro, para los interesados en leerlo.

Películas de hace ya unos años como La ola exageran para contar una historia, pero también recuerdan que las ideas, cuando encuentran el contexto adecuado, pueden transformar el comportamiento de un grupo mucho más rápido de lo que imaginamos.

Un mural conecta relatos de ficción con preguntas actuales sobre tecnología, poder y sociedad

El futuro no se predice, se crea

Hay una frase que dice que nadie está más perdido que quien sabe exactamente hacia dónde va.

Predecir el futuro siempre ha sido difícil. La vida puede cambiar en un minuto o no parecer distinta durante cinco años. Mi padre suele decirme que el futuro no se predice, se crea.

Un objeto se fabrica para cumplir una función concreta. Las personas, en cambio, nos vamos definiendo con nuestros actos. Cada decisión abre un camino y cierra otros. Quizá parte del vértigo que sentimos ahora venga de intuir que, al elegir cómo desarrollamos y utilizamos esta tecnología, también estamos eligiendo en qué tipo de sociedad nos convertiremos.

A mí la inteligencia artificial me encanta. La uso cada día, me permite hacer cosas que hace poco me parecían imposibles y creo que estamos ante una de las grandes tecnologías de nuestra época.

También creo que puede traer riesgos enormes. Las dos ideas pueden ser ciertas al mismo tiempo.

Si tengo que apostar por algo, apuesto por aprender más, ampliar nuestros conocimientos y compartir perspectivas distintas. Cuanto más entendamos lo que estamos construyendo, mejor podremos decidir qué queremos acelerar, qué conviene limitar y qué cosas no deberíamos delegar nunca.

La pregunta que me queda no es si la IA será buena o mala. Es si seremos capaces de decidir hacia dónde queremos llevarla antes de que la velocidad decida por nosotros.

¿Crees que sabemos a dónde vamos?

Gracias por leer,