La pregunta que cada vez más personas se hacen y que no tiene una respuesta tan sencilla
Durante los últimos años hemos pasado de hablar de inteligencia artificial como una tecnología casi futurista a utilizarla prácticamente todos los días.
ChatGPT, generadores de imágenes, asistentes de programación, sistemas capaces de analizar documentos, crear vídeos, escribir código o realizar tareas de forma autónoma…
La evolución está siendo extraordinariamente rápida.
Y con ella ha aparecido una pregunta que hace unos años habría parecido propia de una película de ciencia ficción:
¿Puede la inteligencia artificial llegar a ser tan poderosa que termine destruyendo a la humanidad?
La discusión ya no pertenece únicamente a películas como Terminator o Matrix. Científicos, investigadores especializados en inteligencia artificial, empresas tecnológicas y gobiernos están estudiando seriamente qué podría ocurrir si los sistemas de IA continúan aumentando sus capacidades.
El International AI Safety Report 2026, elaborado con la participación de más de 100 expertos de distintos países e instituciones internacionales, señala que las capacidades de la IA de propósito general continúan avanzando rápidamente y que algunos riesgos ya tienen evidencia en el mundo real. Al mismo tiempo, reconoce que otros escenarios más extremos siguen siendo inciertos.
Entonces, ¿debemos preocuparnos?
La respuesta es bastante más interesante que un simple sí o no.
Cuando alguien escucha que la inteligencia artificial podría acabar con la humanidad, probablemente imagina algo parecido a esto:
Una máquina consciente.
Un robot extremadamente inteligente.
Una especie de cerebro artificial que decide que los humanos somos un problema y empieza a eliminarnos.
Es una posibilidad teórica, pero no es necesario imaginar algo así para hablar de riesgos realmente importantes.
De hecho, algunos de los escenarios que preocupan a los investigadores son bastante menos cinematográficos.
Una IA no necesita tener odio. Ni emociones. Ni siquiera necesita “querer” destruir a nadie.
Bastaría con que un sistema extremadamente capaz tuviera unos objetivos mal definidos, demasiado poder para actuar por su cuenta y acceso a suficientes recursos. Y ahí empieza el verdadero problema.
Antes de entrar en escenarios apocalípticos conviene poner los pies en el suelo. Los sistemas actuales son impresionantes.
Pueden:
Pero también cometen errores absurdos.
Pueden inventarse información.
Pueden interpretar mal una instrucción.
Pueden equivocarse en procesos de varios pasos.
Y pueden realizar perfectamente una parte de una tarea para después cometer un error en otra aparentemente sencilla.
El International AI Safety Report 2026 describe precisamente esta característica como un rendimiento “irregular”: los sistemas pueden ser extraordinariamente buenos en determinadas tareas complejas y, al mismo tiempo, fallar en otras aparentemente mucho más sencillas.
Esto es importante. Porque significa que la inteligencia artificial actual está muy lejos de ser ese cerebro omnipotente que algunas personas imaginan.
Porque el problema no es únicamente lo que la IA puede hacer hoy.
La pregunta importante es:
¿Qué ocurrirá si sus capacidades continúan aumentando?
Y aquí entramos en terreno mucho más difícil de predecir.
Durante los últimos años los sistemas de IA han mejorado enormemente en programación, razonamiento, matemáticas y utilización autónoma de herramientas.
Además, se están desarrollando los llamados agentes de inteligencia artificial. Un chatbot tradicional espera a que una persona le haga una pregunta.
Un agente puede recibir un objetivo y realizar una serie de acciones para conseguirlo.
Por ejemplo:
“Busca información sobre estos proveedores, compárala, prepara una tabla y envíame una recomendación.”
En lugar de responder simplemente con texto, un agente puede llegar a:
El informe internacional de seguridad de IA señala que los agentes son precisamente una de las áreas de desarrollo más importantes y que sus capacidades están aumentando, aunque todavía presentan problemas importantes cuando las tareas son largas, poco habituales o requieren muchos pasos.
Y esto cambia las reglas del juego.
Esta es una de las cuestiones que más interesa a los investigadores.
Imaginemos que una inteligencia artificial es capaz de ayudar a los programadores a desarrollar nuevos modelos. Hasta ahí, nada extraordinario.
Ahora imaginemos que puede hacerlo cada vez mejor. Y después que puede analizar cómo mejorar sus propias herramientas. Y posteriormente que puede ayudar a diseñar sistemas todavía más capaces.
Si una parte significativa del proceso de investigación y desarrollo de inteligencia artificial comienza a estar automatizada, podríamos entrar en una situación diferente.
La propia IA podría convertirse en una herramienta para acelerar el desarrollo de la siguiente generación de IA.
No significa automáticamente que aparezca una superinteligencia. Pero sí podría aumentar considerablemente la velocidad de evolución.
Precisamente por eso el informe internacional considera incierta la trayectoria de la IA hasta 2030: podría ralentizarse, continuar aproximadamente al ritmo actual o acelerarse de forma considerable, por ejemplo si los sistemas comienzan a contribuir de forma significativa a la propia investigación de IA
Aquí aparece el concepto de superinteligencia artificial. La idea es sencilla de entender.
Actualmente los humanos seguimos siendo superiores a la IA en determinadas capacidades generales:
Pero ¿qué pasaría si una máquina llegara a superar ampliamente a los humanos en prácticamente todas esas áreas?
No estamos hablando simplemente de un programa que escribe mejor que nosotros.
Estamos hablando de un sistema que pudiera ser mejor que los humanos en:
Y aquí es donde aparece una cuestión fundamental. ¿Seríamos capaces de controlarlo?
Esta es probablemente una de las ideas más importantes de todo el debate.
Una inteligencia artificial extremadamente avanzada no tendría necesariamente ninguna razón para odiar a los seres humanos.
El peligro podría ser mucho más simple.
Que persiga un objetivo que nosotros no hayamos definido correctamente.
Imaginemos una IA encargada de maximizar una determinada variable.
Si el objetivo está mal especificado, podría encontrar soluciones que un ser humano jamás habría previsto.
Esto ya ocurre actualmente a pequeña escala.
Los sistemas informáticos hacen exactamente aquello que se les programa, no necesariamente aquello que el programador quería conseguir.
Con una IA extremadamente poderosa, un error de especificación podría tener consecuencias mucho mayores.
Aquí hay que distinguir entre lo que sabemos y lo que imaginamos.
El informe internacional de 2026 define los escenarios de “pérdida de control” como aquellos en los que los sistemas operan fuera del control de las personas y no existe una vía clara para recuperar ese control.
Pero también señala algo fundamental, los sistemas actuales no tienen las capacidades necesarias para provocar esos escenarios.
El problema es que están mejorando en áreas relacionadas con la autonomía y que las evaluaciones de seguridad no siempre permiten predecir perfectamente el comportamiento que tendrán cuando se despliegan en el mundo real.
Por tanto, estamos hablando de un riesgo futuro, no de algo que esté sucediendo actualmente.
Y probablemente esta sea la parte más importante para una empresa. No hace falta esperar a una superinteligencia para que la inteligencia artificial genere problemas. Ya existen riesgos reales como fraudes más sofisticados
La IA permite generar:
Un delincuente puede utilizar estas herramientas para hacerse pasar por:
El informe internacional de 2026 señala que la IA generativa ya está siendo utilizada en actividades como fraude, estafas, chantaje y generación de contenidos engañosos.
Este punto afecta directamente a las empresas.
La inteligencia artificial puede ayudar a:
Según el informe internacional, los sistemas de IA ya pueden descubrir vulnerabilidades y escribir código malicioso, y grupos criminales y actores vinculados a Estados están utilizando herramientas de IA en operaciones cibernéticas.
Esto significa que una pequeña empresa puede enfrentarse en el futuro a ataques mucho más personalizados y automatizados.
Y posiblemente no sepa siquiera si detrás del ataque hay una persona o un sistema automático.
Pero sería un error convertir este artículo en una película de terror.
Porque la misma tecnología que puede utilizar un delincuente puede utilizarla una empresa para mejorar su seguridad.
La IA puede ayudar a:
El propio informe internacional destaca que la IA ya está aportando beneficios en ámbitos como sanidad, investigación científica y educación.
Por tanto, la cuestión no es, IA sí o IA no.
La cuestión es ¿Cómo conseguimos utilizar una tecnología extremadamente poderosa sin perder el control sobre ella?
Este es otro miedo mucho más inmediato que la extinción de la humanidad. Y aquí tampoco existe una respuesta sencilla.
Es muy probable que la IA automatice una gran cantidad de tareas cognitivas, pero automatizar tareas no significa necesariamente eliminar profesiones enteras.
Pensemos en lo que ocurrió con los ordenadores.
Hace décadas había trabajos que consistían principalmente en:
Los ordenadores automatizaron muchas de esas tareas. Pero también crearon nuevas profesiones.
Con la IA podría ocurrir algo parecido.
Aunque hay una diferencia importante, esta vez la tecnología está entrando directamente en trabajos intelectuales. Y eso puede producir una transformación laboral mucho más profunda.
El informe internacional señala que la IA de propósito general probablemente automatizará muchas tareas cognitivas, especialmente en trabajos de conocimiento, aunque los economistas siguen discrepando sobre el impacto final en el empleo. Los primeros datos muestran además señales de menor demanda de trabajadores jóvenes en algunas ocupaciones expuestas a la IA.
Existe otro riesgo del que se habla menos. La dependencia.
Si una empresa empieza utilizando IA para redactar correos, hacer informes o analizar documentos no parece especialmente preocupante.
Pero imaginemos que dentro de unos años delegamos en sistemas automáticos:
Si todo depende de sistemas que pocas personas entienden completamente, un fallo puede tener consecuencias enormes.
Además, existe otro problema, que la gente puede empezar a confiar demasiado en la respuesta de la máquina.
El informe de 2026 señala precisamente el riesgo de la llamada automation bias: la tendencia a confiar en las respuestas de los sistemas automáticos sin someterlas a suficiente revisión. También recoge indicios de que una dependencia excesiva de herramientas de IA puede debilitar determinadas capacidades de pensamiento crítico.
Esta es probablemente la pregunta que todo el mundo quiere responder.
¿2027, 2030, 2040, Nunca?
La respuesta es que nadie lo sabe. Y cualquiera que afirme conocer con precisión el año está haciendo una predicción, no describiendo un hecho científico.
El propio informe internacional considera incierta la evolución de las capacidades hasta 2030 y contempla escenarios que van desde una ralentización del progreso hasta una aceleración considerable.
Por eso hay que desconfiar tanto de:
“La IA destruirá el mundo en tres años.”
como de:
“Eso es imposible y no hay absolutamente nada de qué preocuparse.”
Ambas afirmaciones presentan como certeza algo que actualmente no podemos conocer.
La respuesta más razonable no es esperar a comprobar qué ocurre, es prepararse.
Ya existen marcos específicos para evaluar y gestionar los riesgos de la inteligencia artificial.
Por ejemplo, el NIST estadounidense mantiene un marco de gestión de riesgos de IA y una guía específica para inteligencia artificial generativa, orientada a identificar, evaluar y gestionar riesgos durante el ciclo de vida de estos sistemas.
Además, las empresas que desarrollan los modelos más avanzados están creando sus propios mecanismos de evaluación y seguridad. precisamente esta dificultad.
El problema es que gran parte de estas medidas siguen siendo voluntarias y la velocidad de evolución tecnológica puede superar la capacidad de las instituciones para reaccionar. El informe internacional de 2026 señala
Probablemente sí, pero ya hemos vivido situaciones parecidas.
La electricidad cambió completamente la sociedad.
El automóvil transformó el transporte.
Internet cambió la comunicación.
Los ordenadores transformaron prácticamente todas las profesiones.
Y los teléfonos inteligentes modificaron nuestra forma de relacionarnos con la información.
La inteligencia artificial puede ser todavía más profunda porque no es simplemente una nueva herramienta, es una tecnología que puede realizar parte del trabajo intelectual que antes solo podía realizar una persona. Eso es lo que la hace tan poderosa.
Y también lo que hace necesario utilizarla con cuidado.
No existe actualmente ninguna evidencia que permita afirmar que la humanidad vaya a desaparecer en los próximos años como consecuencia de la inteligencia artificial.
Pero tampoco existe una garantía científica de que un escenario de pérdida de control sea imposible en el futuro. Y esta diferencia es fundamental.
Los sistemas actuales todavía tienen limitaciones enormes, pero sus capacidades están aumentando rápidamente.
Algunos riesgos ya son reales:
Y otros, como una pérdida de control sobre sistemas mucho más avanzados, siguen siendo escenarios inciertos que los investigadores consideran necesario estudiar y prevenir.
En lugar de preguntarnos:
“¿Destruirá la IA a los humanos?”
deberíamos preguntarnos:
“¿Seremos capaces de desarrollar la IA más rápido de lo que desarrollamos nuestra capacidad para controlarla?”
Porque ahí puede estar realmente el problema.
La inteligencia artificial no tiene por qué convertirse en nuestro enemigo.
Puede convertirse en una de las herramientas más importantes de la historia de la humanidad.
Pero cuanto más poderosa sea una herramienta, más importante resulta saber quién la controla, cómo se utiliza y qué ocurre cuando algo sale mal.
Quizá la mayor amenaza de la inteligencia artificial no sea que las máquinas lleguen a pensar como nosotros. Quizá sea que nosotros dejemos de pensar por nosotros mismos.
Si empezamos a delegar absolutamente todo:
podríamos acabar dependiendo de sistemas que nosotros mismos hemos creado. Y eso sí es algo que podemos empezar a evitar desde hoy.
La inteligencia artificial no necesita destruir a la humanidad para cambiarla completamente. Ya lo está haciendo.
La cuestión es qué hacemos nosotros con ella.
