El mayor riesgo de la inteligencia artificial no es que las máquinas piensen, sino que nosotros dejemos de hacerlo
Publicado el 18 de septiembre de 2026 por Boris González, gerente de VirtualPoint. Última actualización: 18 de septiembre de 2026.
Respuesta corta: el principal riesgo cognitivo de la inteligencia artificial no es la superinteligencia, sino la delegación del criterio humano. Un estudio de Microsoft Research y Carnegie Mellon presentado en CHI 2025, con 319 trabajadores del conocimiento, encontró que una mayor confianza en la IA se asocia con menos pensamiento crítico, mientras que una mayor confianza en las capacidades propias se asocia con más. La salida no es usar menos IA. Es cambiar la métrica: de cuánto tiempo ahorré a cuánto entendí. Microsoft
Llevamos años construyendo una narrativa inquietante alrededor de la IA. Cuándo superará nuestras capacidades, cuántos empleos reemplazará, si alcanzará la inteligencia artificial general, si los agentes tomarán decisiones sin nosotros. Son preguntas legítimas, pero hay una amenaza más cercana y menos cinematográfica: qué pasa si la IA sigue haciéndose más inteligente mientras nosotros renunciamos voluntariamente a pensar. Para ese escenario no hace falta una rebelión de las máquinas. Basta nuestra comodidad.
¿Qué dice la evidencia sobre inteligencia artificial y pensamiento crítico?
La preocupación dejó de ser filosófica. El estudio “The Impact of Generative AI on Critical Thinking”, presentado en CHI 2025 por investigadores de Microsoft Research y Carnegie Mellon, encuestó a 319 trabajadores del conocimiento que usan IA al menos una vez por semana y recopiló 936 casos reales de uso en tareas laborales. DOI
El hallazgo central es incómodo por lo simple: la confianza depositada en la herramienta y la confianza en uno mismo empujan en direcciones opuestas. Mientras más confía el usuario en la IA, menos pensamiento crítico reporta aplicar. Mientras más confía en su propio criterio, más lo aplica. ACM Digital Library
Conviene ser preciso, porque el titular fácil sería deshonesto. El estudio no demuestra que usar IA vuelva estúpido a nadie. Es un estudio de autorreporte, no un experimento causal. Y los mismos investigadores observaron algo más interesante: los trabajadores describen el pensamiento crítico en este contexto como fijar objetivos claros, refinar instrucciones y verificar los resultados de la IA contra fuentes externas y su propia experiencia. Es decir, la IA no elimina el pensamiento crítico. Lo desplaza hacia la verificación y la supervisión. DOI
Por eso la pregunta correcta no es si la IA nos hace pensar menos. Es qué clase de profesionales estamos formando alrededor de máquinas que piensan con nosotros.
¿Qué es la teoría de la estupidez de Bonhoeffer y qué tiene que ver con la IA?
Dietrich Bonhoeffer, teólogo alemán opositor al nazismo y ejecutado en 1945, escribió sobre este fenómeno décadas antes de que existieran los algoritmos. Su reflexión “De la estupidez” fue escrita hacia 1942 y publicada póstumamente en Resistencia y sumisión.
Su tesis: la estupidez puede ser un enemigo del bien más peligroso que la maldad, porque contra la maldad se puede protestar, y contra la estupidez no hay defensa. Pero Bonhoeffer no hablaba de falta de inteligencia. Hablaba de la pérdida de autonomía del individuo frente al poder, al grupo y a las certezas colectivas. Su punto más incómodo es que la estupidez, así entendida, afecta también a gente educada y brillante. No es un problema de cociente intelectual. Es un problema de independencia.
Ahí aparece la conexión con nuestra época. Nunca tuvimos tanto conocimiento disponible y nunca fue tan fácil evitar el esfuerzo de construirlo.
Externalizar memoria no es lo mismo que externalizar criterio
Siempre hemos usado tecnología para externalizar capacidades. La escritura externalizó parte de la memoria. La calculadora, las operaciones. El buscador, la localización de información. El GPS, la orientación espacial. Ninguna de esas nos volvió más tontos: cada una liberó capacidad para tareas cognitivas superiores.
La IA generativa introduce algo cualitativamente distinto. Ahora podemos externalizar actividades mucho más cercanas al núcleo del pensamiento: interpretar, resumir, argumentar, comparar, decidir, escribir, programar, formular hipótesis e incluso plantear las preguntas.
Y ahí hay una frontera que conviene tener clara. Una cosa es usar una máquina para pensar mejor. Otra es pedirle que piense para no hacerlo uno.
| IA como sustituto | IA como herramienta de pensamiento | |
|---|---|---|
| Pregunta del usuario | ¿Me puedes resolver esto? | ¿Qué estoy pasando por alto? |
| Rol de la persona | Revisa el formato y publica | Define el problema, verifica y decide |
| Qué produce | Volumen | Comprensión |
| Métrica de éxito | Tiempo ahorrado | Calidad de la decisión |
| Costo inicial | Bajo | Más alto, exige criterio previo |
| Riesgo principal | Dependencia cognitiva y errores que nadie detecta | Menor velocidad aparente en tareas simples |
Microsoft Research viene explorando justamente esta segunda vía, con la idea de tools for thought: sistemas diseñados para entender, proteger y aumentar la cognición humana, en lugar de sustituir el esfuerzo cognitivo. Microsoft
¿Por qué obedecemos a una máquina que suena segura?
Mucho antes de ChatGPT, la psicología social ya había demostrado lo frágil que es nuestra independencia intelectual.
En los experimentos de Solomon Asch, los participantes solo debían comparar la longitud de unas líneas. Tarea trivial. Cuando el resto del grupo daba deliberadamente la respuesta incorrecta, Asch reportó una tasa media de error del 36,8% entre los 123 sujetos reales, en los ensayos críticos donde el grupo respondía mal. Gente que veía la respuesta correcta con sus propios ojos cedió ante la mayoría. nih
Stanley Milgram exploró después el otro mecanismo, la obediencia a la autoridad. En su condición base, el 65% de los participantes llegó hasta el nivel máximo de descarga indicado por el experimentador (Milgram, 1963).
No somos máquinas racionales y nunca lo fuimos. Somos animales sociales. Buscamos aprobación, confiamos en autoridades, seguimos grupos, evitamos el conflicto y preferimos una explicación coherente antes que una realidad incómoda.
Y acabamos de introducir en esa ecuación una autoridad nueva. Una que responde casi cualquier pregunta en segundos y que puede sonar extraordinariamente segura incluso cuando está equivocada.
Qué es la estupidez aumentada
Hablamos todo el tiempo de inteligencia aumentada. Vale la pena preguntarse si también podemos construir estupidez aumentada.
Imagina a alguien que no verifica información, no cuestiona sus creencias y no distingue evidencia de opinión. Antes de la IA, su capacidad de producir y distribuir contenido tenía límites físicos. Ahora puede publicar cien artículos, mil posts, cincuenta videos, argumentos aparentemente sofisticados, gráficos, presentaciones, estudios mal interpretados y agentes ejecutando decisiones en cadena.
La IA no necesita ser estúpida para producir ese escenario. Le basta obedecer a una persona que renunció al pensamiento crítico. La tecnología no solo amplifica nuestras capacidades. También amplifica nuestras debilidades, y ese es uno de los riesgos menos discutidos de esta década.
¿Quién responde cuando una decisión la toma una IA?
Supongamos que un sistema recomienda despedir a alguien. Otro determina que una persona no califica para un crédito. Un algoritmo preselecciona candidatos. Un modelo sugiere un tratamiento. Una IA redacta el informe que gatilla una decisión de directorio.
¿Quién responde?
Decir “lo recomendó la IA” puede terminar siendo el equivalente tecnológico de “yo solo seguía instrucciones”. Y esa frase debería incomodarnos, porque ya sabemos a dónde lleva.
Delegar cálculo es tecnología. Delegar ejecución es automatización. Delegar responsabilidad es otra cosa completamente distinta. La responsabilidad sigue siendo humana aunque una máquina participe en la decisión, y las organizaciones que no dejen eso por escrito lo van a descubrir en el peor momento posible.
Cómo usar IA sin dejar de pensar: 5 preguntas antes de aceptar una respuesta
Esto es lo que recomiendo a los equipos con los que trabajamos en adopción de IA. Toma menos de un minuto y cambia por completo la calidad del resultado.
- ¿Por qué estoy preguntando esto? Si no puedes explicar el problema de negocio detrás, la respuesta va a ser irrelevante aunque sea correcta.
- ¿Qué evidencia contradice esta respuesta? Pídesela al mismo sistema. Si no la busca, búscala tú.
- ¿Qué podría estar omitiendo el modelo? Contexto local, normativa chilena, historia interna de la empresa, la política de quién firma.
- ¿Podría defender esto en una reunión sin la IA al lado? Si la respuesta es no, todavía no lo entendiste.
- ¿Estoy usando esto para ampliar mi pensamiento o para evitarlo? Es la única pregunta que no puede responder la máquina.
Durante décadas asociamos inteligencia con tener respuestas. La IA nos obliga a revisar eso. Quizás lo más característico de la inteligencia humana sea poder decir “no lo sé” y después preguntar, contrastar, disentir, cambiar de opinión, aceptar evidencia incómoda y reconocer un error.
El futuro necesita humanos, no operadores de respuestas
Soy optimista respecto de la inteligencia artificial y trabajo con ella todos los días. Precisamente por eso creo que hay que discutir esto ahora.
No necesitamos menos IA. Necesitamos más humanidad alrededor de la IA. Personas capaces de usar sistemas muy inteligentes sin entregarles lo que ninguna tecnología debería quitarnos por comodidad: criterio, curiosidad, empatía, responsabilidad y capacidad de disentir.
El desafío de esta generación quizás no sea construir una máquina que piense como un ser humano. Puede ser bastante más difícil: conseguir que el ser humano siga pensando cuando ya no sea estrictamente necesario hacerlo.
Porque si algún día llegamos a sistemas mucho más inteligentes que nosotros, habrá una pregunta anterior a toda la discusión sobre AGI y superinteligencia: qué clase de humanidad los estará usando.
Y ahí está la provocación final. Puede que la estupidez humana sí termine siendo un freno para el desarrollo de la IA. No porque seamos incapaces de construir sistemas cada vez más poderosos, sino porque podemos construirlos más rápido de lo que desarrollamos la sabiduría para usarlos. El límite de la inteligencia artificial podría no estar en el silicio. Podría estar en nosotros.
Preguntas frecuentes
¿La inteligencia artificial nos vuelve menos inteligentes?
No existe evidencia de que la IA reduzca la inteligencia. Lo que muestra la investigación disponible es un patrón de autorreporte: quienes más confían en la herramienta declaran aplicar menos verificación y menos análisis. El riesgo no es cognitivo en el sentido biológico, es de hábito profesional.
¿Qué encontró el estudio de Microsoft y Carnegie Mellon sobre pensamiento crítico?
Encuestó a 319 trabajadores del conocimiento, que compartieron 936 ejemplos reales de uso de IA generativa en su trabajo, y encontró que una mayor confianza en la IA se asocia con menos pensamiento crítico, mientras que una mayor confianza en las propias capacidades se asocia con más. Fue presentado en CHI 2025. Microsoft
¿Qué es la teoría de la estupidez de Bonhoeffer?
Es una reflexión escrita por Dietrich Bonhoeffer hacia 1942, publicada póstumamente en Resistencia y sumisión. Sostiene que la estupidez es más peligrosa que la maldad, y la define no como falta de inteligencia sino como pérdida de autonomía frente al grupo y a la autoridad. Por eso puede afectar también a personas educadas.
¿Quién es responsable cuando una decisión la toma una IA?
La responsabilidad sigue siendo de la persona u organización que decide, no del sistema. Un modelo genera una recomendación, no asume consecuencias. Toda adopción de IA en decisiones que afectan personas debería definir por escrito quién revisa, quién aprueba y quién responde.
¿Cómo puede una empresa adoptar IA sin perder criterio propio?
Partiendo por el problema de negocio y no por la herramienta. En la práctica: definir qué decisiones nunca se delegan, dejar por escrito quién valida cada salida del sistema, y medir el éxito por la calidad de las decisiones y no solo por el tiempo ahorrado. En VirtualPoint trabajamos ese diseño con empresas chilenas antes de implementar cualquier tecnología.
Fuentes
- Lee, H. P., Sarkar, A., Tankelevitch, L. et al. (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI 2025, Microsoft Research y Carnegie Mellon University. PDF · DOI
- Microsoft Research (2025). The Future of AI in Knowledge Work: Tools for Thought at CHI 2025.
- Asch, S. E. (1955). Opinions and Social Pressure. Scientific American, 193(5), 31-35.
- Milgram, S. (1963). Behavioral Study of Obedience. Journal of Abnormal and Social Psychology, 67(4), 371-378.
- Bonhoeffer, D. Resistencia y sumisión, reflexión “De la estupidez” (escrita hacia 1942, publicación póstuma).