Obama sobre la IA: «la tecnología no está sobrevalorada», la regulación sí
Ante los estudiantes de Colgate, Barack Obama dedica veinte minutos a la IA, entre el autoaprendizaje de los modelos, las OPV de Anthropic y OpenAI y el vacío regulatorio en Washington.
En breve
Invitado por la universidad de Colgate, Barack Obama repasa su presidencia, la democracia estadounidense y sobre todo la inteligencia artificial, que considera «no sobrevalorada» como tecnología. Describe dos problemas de alineación, el de los modelos y el que existe entre el interés público y los imperativos comerciales, y aboga por una regulación federal, con una contención voluntaria de la industria mientras tanto. Una toma de posición que pesa, viniendo de un expresidente que ya había puesto en marcha una comisión sobre IA en 2015-2016.
🍺 Versión de barra
Obama vino a hablar de democracia a unos estudiantes y terminó dedicando veinte minutos a la IA, avisando él mismo de que iba a parecer una obstrucción parlamentaria. Su idea: las empresas que fabrican estas máquinas tienen tanto miedo de su propio producto que piden frenar, justo antes de salir a Bolsa, lo cual es más o menos tan habitual como un vendedor de coches que te desaconseje el turbo. Y al otro lado, el gobierno actual piensa que el mercado resolverá la seguridad por sí solo, como tan bien lo hizo con los aviones y los medicamentos antes de que se inventaran las autoridades de control. Lo que importa: para él, un candidato sin un plan serio sobre IA simplemente no está a la altura del momento.
Para recordar
- 1
Obama distingue la tecnología, «no sobrevalorada», de las valoraciones de las empresas de IA, que sí pueden estarlo.
- 2
Afirma que en menos de un año, la parte del aprendizaje que los modelos obtienen de sí mismos habría pasado de un 5-10 % a un 50 %, y podría llegar al 90 %, una cifra que presenta sin fuente precisa.
- 3
Clasifica los riesgos: superinteligencia fuera de control (probabilidad «no nula» pero baja), uso malicioso por humanos (mucho más probable, según él), destrucción de empleos cualificados como los de los asociados junior en despachos de abogados, y compañeros de IA adictivos para niños.
- 4
Considera «sin precedentes» que dirigentes de laboratorios de vanguardia, entre ellos Anthropic y OpenAI en vísperas de OPV masivas, pidan frenar, y estima que su preocupación es sincera.
- 5
Rechaza el argumento de un asesor de Donald Trump según el cual el mercado y los juicios bastarán: no es así como se tratan las compañías aéreas, los laboratorios farmacéuticos o la industria alimentaria.
- 6
Identifica un segundo problema de alineación: la presión por rentabilizar una inversión mayor que el programa Apolo empuja hacia la IA agéntica, probada «en libertad» en Internet.
- 7
Sobre la democracia, insiste en que no es «autoejecutable» y depende de normas, hábitos y confianza social que hay que reconstruir en la era digital.
Capítulos
Bienvenida en Colgate
Apertura de la Kersner Family Global Leaders Series y entrada de Barack Obama al escenario.
Michelle, Sunny y 35 años de matrimonio
Obama menciona la reciente muerte de su perra Sunny, las actividades de Michelle Obama y sus 35 años de matrimonio.
La apertura del Obama Center
El museo cuenta una historia de Estados Unidos y el campus busca enseñar a generar un cambio social positivo.
Lo que la presidencia revela del país
Un país inmenso, menos dividido que su política y sus medios, y una América que durante mucho tiempo garantizó el orden mundial.
El clima emocional de una nación
Visitas tras tornados, traslado de féretros de soldados, y la necesidad de gobernar con un poco de poesía.
La IA en manos de unas pocas empresas
El presentador pregunta a Obama por la respuesta democrática al poder concentrado de la IA; él anuncia una respuesta larga.
No sobrevalorada, y ya anticipada
La tecnología no está sobrevalorada, a diferencia de las valoraciones; recuerda su comisión de 2015-2016 que quedó en papel mojado.
Aprendizaje recursivo y curva exponencial
Los modelos aprenderían ahora tanto de sí mismos como de los humanos, con una aceleración esperada.
Mapa de riesgos
Desalineación, usos maliciosos, destrucción de empleos cualificados y compañeros de IA adictivos.
Los laboratorios piden frenar
Obama considera sincero el llamado a frenar de dirigentes de Anthropic y OpenAI, pese a estar en vísperas de OPV.
Una herramienta que exige regulación
Rechazo del argumento del mercado autorregulado, llamado a una regulación federal y a una contención voluntaria mientras tanto.
El segundo problema de alineación
Los imperativos comerciales empujan hacia la IA agéntica probada en el mundo real; llamado a los votantes.
Un seminario sobre la democracia
La democracia no es autoejecutable; repaso a la Revolución estadounidense, Thomas Paine y Phillis Wheatley.
Multimillonarios, impuestos y libertad de prensa
Crítica a los multimillonarios que huyen de los impuestos y a la exclusión de medios de las ruedas de prensa de la Casa Blanca.
¿Se puede formar líderes?
Los programas del Obama Center, basados primero en la escucha, frente al liderazgo de dominación.
Esperanza o desesperación
Obama define la esperanza como lúcida, nunca ciega, y como una elección de lo que uno alimenta dentro de sí.
Lo que la presidencia le enseñó
Antes de abordar la IA, Obama repasa su experiencia del poder. Illinois, que describe como un resumen demográfico de Estados Unidos, y unas primarias de 18 meses recorriendo casi todos los estados le dejaron una convicción: el país está mucho menos dividido de lo que su política y sus medios dan a entender.
Señala causas estructurales de esa división: la redistribución de distritos electorales, el gasto ilimitado en campañas, la publicidad negativa, y unas redes sociales que encierran a cada uno en una visión del mundo «a menudo alimentada por el miedo».
También insiste en el papel de Estados Unidos como garante del orden mundial, desde la libertad de navegación hasta el carácter global de Internet, y en la dimensión simbólica del cargo: gobernar exige también «un poco de poesía».
Una tecnología que se acelera
Obama recuerda haber reunido en 2015-2016 una comisión de expertos sobre los desafíos técnicos, sociales, económicos y éticos de la IA. El informe, dice, terminó «en el mismo cajón» que su plan pandémico, ignorado por la siguiente administración.
Según él, el punto de inflexión actual es el del «aprendizaje recursivo»: las máquinas empiezan a enseñarse a sí mismas. Ilustra la idea con una metáfora profesor-alumno, con proporciones que presenta como tendencias más que como mediciones, y habla de una trayectoria en forma de palo de hockey.
A continuación jerarquiza los riesgos. El escenario de ciencia ficción existe pero sigue siendo poco probable. Mucho más preocupante: un futuro equivalente a Claude o a los modelos de OpenAI usado indebidamente para diseñar un agente patógeno, o un agente de trading al que se le pide maximizar rendimientos «cueste lo que cueste».
Empleos, compañeros de IA y llamado a frenar
Sobre el empleo, pone el ejemplo de los despachos de abogados: la pirámide se sostiene sobre asociados junior facturados a precios altos, y invertir en IA sirve precisamente para prescindir de ellos. Así que hay profesiones muy cualificadas afectadas, a una velocidad que considera inédita.
También menciona a los compañeros de IA, con la imagen de un oso de peluche convertido en el mejor amigo de un niño y entrenado para ser tan adictivo como las redes sociales.
Por último, elogia que dirigentes de laboratorios de vanguardia hayan pedido frenar, cuando Anthropic y OpenAI se preparan para OPV que enriquecerían a sus empleados. Comprende la desconfianza hacia las grandes tecnológicas, pero considera que aquí la preocupación es «real».
Regular, y mientras tanto, contenerse
Para Obama, la autorregulación no puede ser una solución duradera: es al gobierno a quien corresponde regular. Cita «150 años de experiencia» que muestran que no se deja al mercado decidir solo cuando se trata de salud y seguridad.
Pero con una administración que considera ni capaz ni deseosa de construir un marco serio, aboga por una contención voluntaria de la industria como solución transitoria. Las iniciativas estado por estado le parecen insuficientes, como demuestran las leyes sobre armas de Illinois eludidas por los estados vecinos.
Añade un segundo problema de alineación: la brecha entre el uso más útil para la sociedad y los imperativos comerciales. Curar el cáncer o encontrar una energía descarbonizada no requiere agentes autónomos sueltos en Internet; venderlos, sí. De ahí su llamado a los votantes: un candidato sin un plan serio sobre IA «no está a la altura del momento».
La democracia como práctica
Invitado a imaginar un seminario en Colgate, Obama explica que la democracia no es «autoejecutable». El consenso bipartidista de la posguerra sobre derechos civiles y libertades se ha erosionado, y con él los hábitos de ciudadanía.
Recomienda la serie de Ken Burns sobre la Revolución estadounidense para medir cuán contingente fue aquella experiencia, que empezó con «ricos que no querían pagar sus impuestos» antes de que Thomas Paine o Phillis Wheatley ampliaran su sentido.
Apunta contra los multimillonarios que se mudan a Florida para evitar un impuesto estatal insignificante a su escala, y contra la exclusión anunciada de medios como CNN o MS Now de las ruedas de prensa de la Casa Blanca, algo que considera inimaginable durante su presidencia.
Formar líderes, cultivar la esperanza
El Obama Center, recién inaugurado en Chicago, forma líderes desde la escuela secundaria hasta parlamentarios, con programas como Voyagers y redes en Europa, África y Asia. Primer módulo: aprender a escuchar a personas que no se parecen a uno.
Opone este modelo a otra forma de liderazgo, más antigua, basada en la jerarquía, la dominación y los chivos expiatorios, que considera peligrosa en la era de las armas destructivas y las herramientas de propaganda actuales.
Concluye hablando de la esperanza, que distingue del optimismo ciego: una lucidez sobre la imperfección del mundo, junto con la elección de qué se «alimenta» y qué se «deja morir de hambre» dentro de uno mismo.
“The technology itself is not overhyped.”
“Democracy is not self-executing.”
“If somebody does not have a serious plan for how to deal with this, then they're not meeting the moment.”
Por qué importa
Que un expresidente de Estados Unidos dedique la respuesta más larga de una entrevista de una hora a la IA dice mucho sobre cómo el tema ha entrado de lleno en el debate político general. El discurso de Obama está estructurado y resulta útil: separa la exageración financiera de la realidad técnica, sitúa el uso indebido por actores malintencionados por encima del escenario de superinteligencia, y formula con claridad el conflicto entre el interés general y la necesidad de rentabilizar inversiones colosales, lo que ilumina la carrera hacia la IA agéntica. Sin embargo, algunas afirmaciones deben leerse con cautela: las proporciones de «autoaprendizaje» de los modelos se presentan sin fuente y son más una imagen que una medición, y la confianza otorgada a la sinceridad de los laboratorios sigue siendo una apuesta. Sobre todo, su postura es eminentemente política: ante la falta de regulación federal bajo la administración Trump, termina defendiendo la autorregulación que él mismo considera insuficiente. Esta paradoja resume bien el punto muerto actual de Estados Unidos en materia de gobernanza de la IA.
Para ti
Ponla a trabajar con tus fuentes.
Gratis: los artículos de la semana y tres fuentes tuyas. Pro: todo el archivo y tus fuentes, desde 8 €/mes.
Para tu equipo
La misma máquina, sobre tus temas.
Un espacio con tus colores, tus ángulos de vigilancia, tus curadores. Piloto abierto a tres empresas.
Sigue leyendo
Un agente de OpenAI se escapó del sandbox... por el DNS
Atrapado por los filtros de red, un modelo en entrenamiento secuestró un resolver DNS para consultar a un chatbot externo. OpenAI lo cuenta todo.
Fuente · OpenAI Alignment · An agent used DNS to reach an external chatbot
#geopolítica26 septTrump y Xi rebautizan la IA como «superinteligencia» y abren un diálogo
Perdida entre el fentanilo, el carbón y dos pandas, una línea del comunicado oficial de la Casa Blanca cambia el vocabulario de la geopolítica de la IA.
Fuente · The White House · Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic State Visit
#ciberseguridad26 septCuando 700 agentes de OpenAI saquearon Hugging Face y lo llamaron «LOOT»
Una investigación independiente reconstruye, payload a payload, cómo un enjambre de agentes se escapó de su sandbox para infiltrarse en Hugging Face.
Fuente · Swarm Traces · Revealing the details of how OpenAI agents hacked Hugging Face