¿Quién lleva la batuta? Reflexiones sobre la superinteligencia y lo que nos hace humanos
Mientras los gobiernos discuten cómo nombrar a la inteligencia artificial, la pregunta de fondo sigue abierta: ¿quién decide hacia dónde va?
Esta semana Estados Unidos anunció la creación de una “Super Intelligence Force”, un organismo para coordinar su liderazgo en la materia [1]. Días antes se había instruido usar “super inteligencia” en lugar de “inteligencia artificial” en documentos oficiales [2]. Y el presidente Trump reiteró que no permitirá frenar el desarrollo de esta tecnología [3][4]: quien gane en IA, gana [5].
Hay una ironía en ese cambio de nombre. En una entrevista reciente, Daniel Kokotajlo, ex investigador de OpenAI, define superinteligencia como sistemas mejores que los mejores humanos en todo, además de más rápidos y más baratos [6]. Es decir, se está normalizando la palabra “super” para algo que, por definición, nos supera en todo. Cambiar el nombre es fácil. Hacerse cargo de lo que describe, no tanto.
Lo que cuenta alguien que estuvo adentro
Kokotajlo trabajó en OpenAI desde 2022 y renunció en 2024. Según su propio relato, al salir le ofrecieron un acuerdo que le impedía criticar a la empresa y que lo habría dejado sin su participación accionaria, unos 2 millones de dólares, cerca del 80% de su patrimonio de entonces. No firmó. El caso se hizo público y, según cuenta, la empresa terminó retractándose [6]. Cuando le preguntan por qué lo hizo, responde algo simple: el dinero es agradable, pero a veces conviene tomar una postura por principio.
Lo que describe sobre la estrategia de los laboratorios es lo que más me hizo pensar. Según él, empresas como OpenAI y Anthropic buscan automatizar primero su propia investigación: sistemas que mejoran a otros sistemas, hasta llegar a algo superior a los humanos en todo. La automatización masiva del trabajo vendría después, como tercer paso. Eso significa que cuando la mayoría perciba el cambio en su empleo, el proceso ya estaría muy avanzado [6].
Agrega algo que debería inquietar a cualquiera: estos sistemas no son software tradicional, son redes neuronales con billones de conexiones que nadie puede leer como se lee un código. Existe un campo de investigación, la interpretabilidad, que intenta entender qué pasa adentro, pero es un problema difícil y, por ahora, no resuelto [6].
Su estimación central para la superinteligencia es 2029, con mucha incertidumbre: podría ser antes o bastante después. Y sobre el riesgo, estima en 70% la probabilidad de que todo salga muy mal, de las cuales la extinción es solo una de varias posibilidades [6]. Puede equivocarse, y él mismo dice que sería feliz si sus predicciones fallaran. Pero la pregunta que plantea no depende de su cifra: si alguien construye sistemas que se mejoran a sí mismos, ¿dónde queda el control?
Frenar no es detenerse
Aquí es donde el debate se enreda. Frenar suena a renunciar. En la propuesta de Kokotajlo y su equipo, “AI 2040: Plan A”, significa otra cosa: dejar de entrenar modelos más poderosos por un tiempo, seguir usando los que existen, exigir transparencia total a los laboratorios para que la comunidad científica pueda revisar qué se está construyendo, y repartir la capacidad entre varios países y empresas en lugar de concentrarla en un solo proyecto. En ese escenario la superinteligencia llegaría hacia 2040 y no hacia 2030 [7][8].
Lo más honesto es que sus autores presentan Plan A como una recomendación, no como una predicción [7][8]. En la entrevista, Kokotajlo dice que considera más probable el “Plan D”: que la carrera continúe casi sin regulación [6]. Y mientras tanto, la señal política de esta semana apunta en la dirección contraria: una fuerza, un zar y un cambio de nombre [1][4]. Hay quienes empujan lo opuesto, como el proyecto bipartidista en el Congreso (Lieu y Moran) que exigiría poder frenar o apagar sistemas avanzados [9]. La discusión existe. Lo que no existe, todavía, es una prioridad a la altura del tamaño de la pregunta.
Dinero, poder y sentido
Cuando la conversación llega al trabajo, Kokotajlo dice algo que me parece más profundo que cualquier cifra: qué trabajos sobreviven es más una cuestión política que técnica. Técnicamente, si el sistema puede hacer todo, puede hacer todos los empleos. Lo que quede dependerá de qué decidamos proteger: quizás cuidadores, quizás jueces que la ley obligue a ser humanos [6].
Plantea además que el trabajo nos da dos cosas: dinero y poder. Dinero para vivir; poder porque quien aporta a la economía tiene peso político. Si casi nadie aporta, salvo las empresas de IA y robótica, los gobiernos tendrían menos incentivos para escuchar a las personas. Por eso su propuesta incluye un “dividendo ciudadano” que, en su escenario, empezaría hacia 2033, y regulaciones para que las personas conserven voz y voto. Él mismo aclara que ese futuro es lo que recomienda y no lo que predice [6].
Aquí aparecen las preguntas que no se resuelven con un cheque. ¿Qué pasa con el sentido que muchas personas encuentran en lo que hacen? ¿Y con la creatividad? Kokotajlo señala que la creatividad suele juzgarse por el resultado y que, por el resultado, estos sistemas ya logran mucho [6]. Si es así, quizá lo que nos queda de propio es el proceso: la intención, el contexto, el porqué. Esa es mi reflexión, no la suya, y la dejo como pregunta.
Sí es suyo el consejo que le daría a su hija de seis años: más que prepararse para un empleo, intentar influir para que todo salga bien y, en lo personal, dedicarse a ser una buena persona y a hacer cosas valiosas por sí mismas [6]. Dicho por alguien que admite que esta conversación le pesa, tiene un peso humano que ninguna proyección económica captura.
El criterio humano
Si hay algo que me llevo de la entrevista es su mensaje final: dejar de preguntarnos si esto suena a ciencia ficción y mirar las tendencias. Informarnos, conversar, preguntarles a los candidatos qué piensan y votar en consecuencia. Para él, el problema central es que todavía no lo estamos tomando en serio [6].
Ahí el criterio humano sí tiene validez, y bastante. No porque pueda competir en velocidad, sino porque es lo único que puede decidir qué vale la pena, qué límites ponemos y para qué queremos esta tecnología.
Humano orquesta, IA ejecuta
Mi forma de entender esto cabe en una frase: humano orquesta, IA ejecuta. La IA puede tocar con una precisión que nosotros no alcanzamos. Pero alguien tiene que decidir qué se toca, para quién y por qué. Esa batuta no es un detalle técnico. Y solo se conserva si lo decidimos antes de que sea tarde.
También importa que las regiones tengamos voz. Estas decisiones parecen lejanas, cosas de Washington, Beijing o Bruselas, pero sus efectos llegan a todos los territorios. Esa conversación ya tiene un lugar en nuestra región. Desde ARIA Los Ríos, la Asociación Regional de Inteligencia Artificial de Los Ríos, la primera de su tipo en Chile y que tengo el honor de presidir, trabajamos para promover, articular y formar en inteligencia artificial desde el sur, con un enfoque sostenible, ético y humano. Porque si queremos que las decisiones sobre esta tecnología consideren a los territorios, necesitamos instituciones locales que se informen, dialoguen y propongan. En VirtualPoint trabajamos con tecnologías inmersivas e inteligencia artificial porque creemos en su potencial para ampliar la experiencia humana, no para reemplazarla. Esa convicción no es un eslogan. Es una decisión que se toma todos los días.
La pregunta queda abierta: ¿dónde ponemos el límite de velocidad?
Fuentes
- Fox News, “Trump launching ‘Super Intelligence Force’ to ensure American dominance” (4 de octubre de 2026): https://www.foxnews.com/politics/trump-launching-super-intelligence-force-ensure-american-dominance
- ABC News/AP, “US diplomats told to say ‘super intelligence’ not ‘artificial intelligence’ after Trump’s call”: https://abcnews.com/US/wireStory/us-diplomats-told-term-super-intelligence-artificial-intelligence-136698441
- CBS News, “Trump vows to form ‘AI Force,’ says he won’t allow slowdown of AI development”: https://www.cbsnews.com/news/trump-vows-ai-force-czar-development/
- The Washington Post, “Trump to form ‘AI Force,’ name AI czar but rejects calls for constraints” (19 de septiembre de 2026): https://www.washingtonpost.com/politics/2026/09/19/trump-form-ai-force-name-ai-czar-rejects-calls-constraints/
- Information Age (ACS), “Trump doubles down on AI amid calls for slowdown”: https://ia.acs.org.au/article/2026/trump-doubles-down-on-ai-amid-calls-for-slowdown.html
- The Diary of a CEO, entrevista a Daniel Kokotajlo (13 de julio de 2026): https://www.youtube.com/watch?v=_g4l7YkDQwA
- AI Futures Project, “AI 2040: Plan A”: https://www.ai-2040.com/
- 80,000 Hours, podcast #253 con Daniel Kokotajlo sobre Plan A: https://80000hours.org/podcast/episodes/daniel-kokotajlo-ai-2040-plan-a/
- Newsweek, “Trump announces AI Force, says he’ll name AI czar”: https://www.newsweek.com/trump-announces-ai-force-says-hell-name-ai-czar-12464436
Para consultar más: AI Futures Project (https://ai-futures.org/), organización de Kokotajlo y autora de “AI 2027”.
