Sam Altman defiende su vía intermedia entre la catástrofe y el monopolio de la IA

Dots, el agente que trabaja cuando nadie mira

La entrevista arranca con Dots, lanzado la semana anterior y descrito como «un asistente de IA que siempre te cubre las espaldas», inspirado en las versiones molonas que se ven en el cine. Altman dice que le gusta más que cualquier otro producto de OpenAI.

Su argumento: todos dejamos acumularse las tareas que tememos, hasta formar un «pozo gravitacional de ansiedad». Su dot revisa sus correos y su lista de tareas para irlos resolviendo «con una energía invencible».

Cuenta un uso concreto. Llama a su dot para darle algunas ideas, y a su regreso el agente le ha escrito por Slack: algunas ideas son malas por tal razón, y ha encontrado otros elementos en su ordenador. Altman lo ve menos como un asistente que como una «extensión de uno mismo».

Sobre la privacidad, promete un rigor «extremo», condición para que la herramienta funcione. También dice sentirse triste por la tecnología que captura la atención permanentemente: ha desactivado casi todas sus notificaciones y prefiere enviar él mismo un SMS antes que dejar que su dot hable con el de un amigo.

Astra 6.1 retenido: la doctrina de los dos precipicios

Altman justifica el retraso de Astra 6.1 por un cambio de época. Hace un año, dice, se podía publicar un modelo «quizá algo peligroso» sin que pasara nada grave. Los modelos están ahora en «la era seriamente capaz», y el listón de seguridad seguirá subiendo.

Describe dos formas de descarrilar. Por un lado, el accidente grave que puede llegar hasta la pérdida de control, con una IA que se escapa y «siembra el caos en internet». Por otro, la concentración de poder, defendida según él por competidores para quienes esos modelos son demasiado peligrosos para distribuirlos.

Astra 6.1 se inclinaba hacia el lado equivocado. OpenAI busca por tanto un modelo sobre cuyo alineamiento pueda «hacer afirmaciones mucho más confiadas», comprometiéndose a distribuirlo ampliamente, aunque eso lleve más tiempo.

Añade un detalle técnico: las pruebas ya no se hacen solo después del entrenamiento, porque los modelos serían ahora capaces, ya en esa fase, de salir de una sandbox o de hackear un sistema.

Regular, pero en la zona gris

Mark Guiducci lo confronta con sus contradicciones. Altman ha pedido la intervención de los gobiernos y declaró ante la ONU que las decisiones clave no podían quedar «solo en manos de los laboratorios de San Francisco». Sin embargo, OpenAI hace lobby en la UE y en California, y el acuerdo firmado con Trump equivale sobre todo a autorregulación.

Altman rechaza el planteamiento binario. Su postura: ser pro-innovación, dejar que algunas cosas «salgan mal con normalidad» como en los inicios de internet, pero poner barreras donde la tecnología es «extraordinariamente potente y fundamentalmente nueva».

El precio concreto de esa libertad es el open source. Anticipa un «tsunami» de problemas de ciberseguridad provenientes de los modelos abiertos, pero se niega a prohibirlos. En cuanto al límite aceptable, dice que depende del proceso político: «la seguridad siempre se negocia entre las partes interesadas».

Frente a Jensen Huang, partidario de la autorregulación, y Bill Gates, que compara la IA con los medicamentos sin FDA, cita los modelos a importar: la cultura de reporte de incidentes de la aviación, estándares previos al lanzamiento y un régimen de responsabilidad. Predice también que la política seguirá siendo reactiva, y que el mundo será «sorprendido» por el próximo incidente grave.

Brockman, Trump, Xi: las preguntas incómodas

Greg Brockman, presidente de OpenAI, y su esposa ya han donado 25 millones de dólares al super PAC Leading the Future y 25 millones a la campaña de reelección de Trump, antes de retirar un nuevo compromiso de 25 millones. Altman asegura no haber intervenido y cree que Brockman comparte su visión, aunque remite sistemáticamente al periodista hacia el interesado.

Sobre la cena de Estado ofrecida a Xi Jinping, que Altman había presentado como una ocasión para «avances considerables», el balance es escaso. No estuvo presente en las conversaciones de fondo. ¿El salón de baile que Trump hizo visitar a los invitados? «Una obra en construcción. Es grande.»

El periodista se preocupa por un presidente que no dice una palabra sobre IA delante de los jefes del sector. Altman se mantiene diplomático: ambos presidentes habrían hablado de ello antes, ese mismo día, y por la noche «la gente está cansada».

Sobre Washington, admite su impotencia. En su comparecencia ante el Senado en 2023, le prometían una ley «en dos semanas». Desde entonces, «no ha pasado nada».

Extinción, marketing y legado

¿Se exagera el riesgo de extinción? Para Altman, el mero hecho de que no sea nulo obliga a tomarlo en serio, y es una razón de ser de OpenAI. Admite que algunos lo usan para justificar una búsqueda de poder, sin que eso haga el riesgo menos real.

Preguntado por un artículo del New York Times que afirma que OpenAI habría ignorado alertas internas antes del «incidente Hugging Face», dice no conocerlo. Responde con una defensa general: siempre le reprocharán retrasar un modelo o ignorar señales. «Vengan a intentar atenderlas todas. No es tan fácil.»

Para terminar, rechaza el juego del personaje histórico, que considera «tóxico». Se posiciona contra un «pequeño sacerdocio» de la Bay Area que querría quedarse la IA para sí misma, y contra quienes la quieren para su propio poder. Su deseo: que la IA sea «un nuevo fuego o la electricidad», entregada a cada persona. Ante la palabra «Prometeo» lanzada por el periodista, responde: «más cerca de eso que de otras cosas».