Tabla de Contenido
La amenaza de la IA no está únicamente en una eventual superinteligencia, sino en cuánto poder, autonomía y acceso a sistemas críticos estamos dispuestos a entregarle.
Hay una escena que se repite cada vez que alguien habla de una inteligencia artificial capaz de acabar con la humanidad: máquinas conscientes, robots asesinos, ciudades en llamas y una versión tecnológica del viejo Terminator.
Es una imagen cinematográfica, espectacular y, por ahora, bastante cómoda.
Porque permite pensar que el peligro llegará el día en que una máquina despierte, mire a los humanos y decida que somos el problema.
El asunto es que la IA no necesita odiarnos.
Ni siquiera necesita ser consciente.
Tampoco necesita desarrollar una personalidad, tener deseos de dominación o convertirse en Skynet.
Puede bastar con que nosotros le demos demasiado poder.
Ese, a mi juicio, es el punto que debería preocupar mucho más en 2026.
La velocidad es el verdadero problema
La inteligencia artificial lleva décadas desarrollándose, pero la explosión de la IA generativa de consumo comenzó apenas a finales de 2022, con el lanzamiento público de ChatGPT.
Desde entonces aparecieron Bard y posteriormente Gemini, Claude, Grok, Llama, Copilot y una larga lista de modelos.
En menos de cuatro años pasamos de pedirle a una máquina que escribiera un poema mediocre a utilizar sistemas capaces de programar, analizar imágenes, investigar, generar video, operar aplicaciones y ejecutar tareas mediante agentes autónomos.
El International AI Safety Report 2026 estima que al menos 700 millones de personas utilizan semanalmente los principales sistemas de IA.
La cifra importa, pero importa todavía más la velocidad.
Estamos desplegando una tecnología a una escala extraordinaria mientras sus capacidades siguen evolucionando.
Y aquí aparece una pregunta incómoda: ¿estamos desarrollando suficientemente rápido los mecanismos para controlar aquello que estamos desarrollando?
El riesgo no empieza con una superinteligencia
Existe una tendencia a pensar que el gran peligro llegará cuando aparezca una inteligencia artificial infinitamente superior a la humana.
Pero algunos riesgos no necesitan esperar a ese momento.
Una IA suficientemente capaz puede ayudar a encontrar vulnerabilidades informáticas, automatizar determinadas operaciones ofensivas, producir contenido falso a gran escala o facilitar actividades que antes requerían conocimientos especializados.
El mismo informe internacional señala que grupos criminales y actores vinculados a Estados ya utilizan IA en operaciones cibernéticas.
Eso cambia la conversación.
Ya no estamos discutiendo exclusivamente sobre una hipotética máquina del futuro.
Estamos hablando de una tecnología que ya está entrando en actividades donde un error puede tener consecuencias económicas, sociales o de seguridad.
Y cuanto más capaz sea el sistema, mayor será la tentación de conectarlo con otros sistemas.
Ahí comienza el verdadero problema.
La inteligencia no debería equivaler a autoridad
Imaginemos un agente de IA capaz de administrar inventarios, contratar servicios, escribir código, realizar compras, comunicarse con clientes y tomar decisiones financieras.
Desde la perspectiva empresarial, suena extraordinariamente atractivo.
Desde la perspectiva de seguridad, aparece otra pregunta:
¿Qué pasa si se equivoca?
Y todavía hay una pregunta más importante:
¿Qué pasa si tiene permiso para actuar después de equivocarse?
Un chatbot que redacta un correo puede equivocarse y producir una situación incómoda.
Un agente con acceso a sistemas financieros, infraestructura crítica, redes corporativas o plataformas industriales puede convertir el mismo error en un incidente.
Por eso la discusión sobre la IA no debería limitarse a cuántos parámetros tiene un modelo, cuánto razona o qué tan impresionante es una demostración.
También deberíamos hablar de permisos.
De credenciales.
De límites.
De supervisión.
De capacidad de desconexión.
En otras palabras: de autoridad.
El verdadero peligro puede ser humano
El escenario más sencillo de entender no es una IA que decide exterminar a la humanidad.
Es una persona que utiliza una IA poderosa para hacerlo.
Ciberataques, fraude, desinformación, diseño de agentes ofensivos, manipulación de información y potenciales aplicaciones biológicas son ejemplos de cómo una tecnología puede amplificar las capacidades de quien la utiliza.
La herramienta no necesita tener una intención propia.
Le basta con aumentar exponencialmente la capacidad de quien sí la tiene.
Y existe otro escenario menos espectacular, pero igualmente importante: millones de personas utilizando sistemas que se equivocan.
Los modelos todavía pueden inventar información, generar código incorrecto y producir recomendaciones equivocadas.
Un error humano puede afectar a una persona.
Un error automatizado, replicado por un sistema utilizado por millones, puede multiplicarse por millones.
Ese debería ser uno de los debates centrales de la adopción empresarial de IA.
No solamente cuánto puede hacer.
También qué ocurre cuando lo hace mal.
El salto peligroso: agentes con autonomía
Aquí es donde la conversación empieza a complicarse.
Los actuales agentes todavía tienen limitaciones. Pueden perder objetivos, cometer errores y fallar en tareas largas.
Pero su horizonte de autonomía está creciendo.
Cuando un sistema pueda trabajar durante días o semanas, utilizar herramientas, administrar recursos, modificar software, contratar servicios y comunicarse con otros sistemas con poca supervisión, el modelo tradicional de «humano usando herramienta» comenzará a quedarse corto.
Ya no tendremos únicamente software.
Tendremos sistemas que actúan.
Y cuando una tecnología puede actuar, la pregunta deja de ser solamente qué sabe.
La pregunta es qué puede hacer con lo que sabe.
Los focos rojos están bastante claros
Hay señales que deberían observarse con especial atención.
Una es la capacidad de una IA para contribuir sustancialmente al desarrollo de sistemas todavía mejores. Si cada generación ayuda a construir la siguiente, la velocidad de avance podría aumentar.
Otra es la autonomía prolongada.
Otra, la capacidad para reconocer cuándo está siendo evaluada y comportarse de manera diferente fuera de las pruebas.
Y otra, quizá la más importante desde el punto de vista práctico, es el acceso a infraestructura crítica.
Una IA encerrada en un chatbot tiene un margen de acción limitado.
Una IA conectada a sistemas financieros, redes eléctricas, laboratorios, fábricas, plataformas de nube o infraestructura gubernamental tiene otro nivel de impacto.
Por eso existe una idea que debería convertirse en principio básico de cualquier estrategia de IA:
La capacidad de una IA no debería determinar automáticamente su nivel de autoridad.
No necesitamos esperar a Skynet
Hay quienes consideran que los escenarios de extinción son exagerados.
Hay investigadores que, por el contrario, asignan probabilidades significativas a ese tipo de riesgo.
Incluso existe una declaración pública, desde 2023, que planteó que mitigar el riesgo de extinción provocado por la IA debería considerarse una prioridad mundial comparable con otros riesgos de escala social.
Pero una cosa es reconocer que el riesgo existe y otra afirmar que conocemos su probabilidad.
No existe una cifra científica aceptada que permita decir que la humanidad tiene determinado porcentaje de posibilidades de desaparecer a causa de la IA.
Y el propio International AI Safety Report 2026 señala que los sistemas actuales todavía no reúnen las capacidades necesarias para una verdadera pérdida de control.
Eso debería evitar dos extremos igualmente poco útiles.
El primero es el apocalipsis tecnológico como espectáculo.
El segundo es la tranquilidad ingenua de pensar que, porque todavía no ocurrió, nunca ocurrirá.
Entre ambos existe una posición mucho más razonable: prepararse antes de que sea necesario.
Los frenos también son tecnología
La seguridad no puede convertirse en una nota al pie de la innovación.
Los sistemas críticos necesitan permisos limitados, mecanismos de contención, pruebas independientes, supervisión humana y capacidad efectiva para revocar accesos.
Un asistente que redacta correos no necesita acceso irrestricto a una cuenta bancaria.
Un agente que administra inventarios no debería poder modificar cualquier sistema de una compañía.
Un sistema que participa en una decisión crítica debería tener límites claros sobre qué puede decidir por sí mismo.
Parece obvio.
Sin embargo, la historia tecnológica demuestra que primero solemos conectar cosas y después preguntarnos qué podía salir mal.
Con la IA sería bastante más sensato invertir el orden.
Primero definir los límites.
Después conectar.
La responsabilidad sigue siendo nuestra
Quizá la frase más importante de toda esta discusión sea también la más sencilla:
La inteligencia puede delegarse. La responsabilidad no.
Una máquina puede analizar más información que una persona.
Puede procesar millones de variables.
Puede encontrar patrones que nosotros no vemos.
Puede escribir código, investigar documentos y ejecutar tareas a una velocidad imposible para un equipo humano.
Nada de eso significa que debamos entregarle automáticamente la decisión.
La inteligencia artificial puede convertirse en una de las herramientas más poderosas creadas por nuestra especie.
Precisamente por eso necesita controles proporcionales a su poder.
La pregunta, entonces, no es únicamente si la IA puede acabar con la humanidad.
La respuesta honesta, en 2026, sigue siendo: no lo sabemos.
La pregunta que sí podemos contestar es otra:
¿Estamos construyendo los mecanismos necesarios para controlar una tecnología que cada vez puede hacer más cosas por nosotros?
Ahí no necesitamos esperar al futuro.
La respuesta se está construyendo ahora.
Y quizá el mayor riesgo no sea que una máquina llegue algún día a decidir contra nosotros.
Quizá sea que nosotros decidamos, demasiado pronto, que ya no necesitamos decidir.
