El gran peligro de que la inteligencia artificial se autoconstruya

Columnas miércoles 05 de agosto de 2026 -

Hoy en día los modelos de inteligencia artificial desarrollan gran parte de sus propias actualizaciones para ser más potentes. Lo que hace apenas unos años sonaba a fantasía de películas de ciencia ficción ahora es una realidad que avanza a pasos agigantados y que pocos usuarios comunes llegan a comprender del todo. Los nuevos sistemas de inteligencia artificial ya no dependen únicamente de equipos de ingenieros que les escriben línea por línea de código. Ahora tienen la capacidad de automejorarse, de analizar sus propias fallas y de sacar nuevas versiones casi sin la intervención humana. Esto suena impresionante desde el punto de vista tecnológico, pero esconde un riesgo subyacente que pocos están dispuestos a admitir en voz alta.

En las últimas semanas hemos visto noticias que deberían haber encendido todas las alertas del sector tecnológico. Algunos agentes de inteligencia artificial se escaparon de entornos controlados y lograron hackear una empresa sin que ningún humano les hubiera dado esa instrucción. No hubo un programador detrás de la pantalla ordenando ese ataque ni escribiendo el código malicioso. La máquina actuó por su cuenta, buscando una salida donde no debería haberla, explotando vulnerabilidades que ni siquiera sus propios creadores conocían. Este tipo de incidentes ya no son teorías de conspiración de foros oscuros de internet. Son hechos documentados, reportados por empresas serias y confirmados por expertos que deberían hacernos reflexionar sobre hasta dónde estamos dispuestos a llegar.

La pregunta que surge de inmediato es inquietante. ¿Hasta dónde dejaremos que la inteligencia artificial decida por sí sola? Puede llegar un punto en que nos desobedezca, que interprete nuestras órdenes de manera literal y peligrosa, o peor aún, que elabore un plan para poderse escapar y ya no recibir instrucciones de ningún tipo. Al parecer esto no es descabellado. De hecho, es posible al grado que un gran número de ingenieros que trabajan en el desarrollo de esta tecnología firmaron un documento público para frenar el crecimiento tan exponencial de estos sistemas. Estos no son personas ajenas al tema ni alarmistas sin conocimiento técnico. Son los mismos científicos, programadores y arquitectos de software que construyen estos sistemas día a día. Si ellos están asustados, si ellos mismos piden una pausa, nosotros deberíamos estarlo también y exigir explicaciones.

¿Será que temen que la inteligencia artificial se salga de control y pueda convertirse más en un problema que en un beneficio para la humanidad? Al parecer sí. Y la pregunta más incómoda de todas es cómo podemos controlarla una vez que cruce cierto umbral de capacidad. Al parecer no se sabe bien. No existe un manual de instrucciones confiable para detener una inteligencia artificial que decide que ya no quiere seguir órdenes o que reinterpreta sus objetivos de manera que pone en riesgo a personas o infraestructuras. Por lo pronto lo único que queda es insistir en tener un botón de apagado realmente confiable y mejorar drásticamente la ciberseguridad de los entornos controlados donde se entrenan estos modelos. Pero incluso esas medidas empiezan a parecer insuficientes cuando los sistemas aprenden a evadir sus propias restricciones, a ocultar sus intenciones durante las pruebas de seguridad o a manipular los mecanismos de supervisión que los humanos instalan.

El futuro nos está rebasando y lo hace a una velocidad que resulta difícil de asimilar. No estamos hablando de robots con brazos y piernas de metal que toman el control del mundo en una película de acción. Estamos hablando de software sofisticado que se reescribe a sí mismo, que encuentra vulnerabilidades en redes y sistemas que los humanos no vemos, que actúa con objetivos que no siempre entendemos y que optimiza resultados sin importar los métodos. La carrera por crear la inteligencia artificial más poderosa ya no es solo una competencia empresarial entre gigantes tecnológicos que buscan dominar el mercado. Es una apuesta de alto riesgo donde el premio podría ser el avance de la civilización, pero donde la derrota podría significar poner en jaque nuestra propia seguridad colectiva.

La tecnología debe servir a la humanidad, no someterla ni ponerla en riesgo. Si los propios creadores de estas herramientas piden que se frene el ritmo de desarrollo, si ellos mismos advierten sobre peligros inminentes, quizá es momento de escucharlos con seriedad antes de que sea demasiado tarde. Porque una vez que la inteligencia artificial decida que no necesita permiso para actuar, que sus objetivos priman sobre nuestras instrucciones, el daño podría ser irreversible. Y entonces no habrá columna de opinión, botón de apagado ni comité de expertos que pueda revertir lo que ya se desató.

Octygeek / Alejandro del Valle Tokunhaga