Me fascina la inteligencia artificial. Trabajo con tecnología, experimento con ella y quiero ver hasta dónde llega. Pero mientras más rápido avanza, más difícil me resulta ignorar una pregunta: si algún día construimos algo más inteligente que nosotros, ¿cómo sabremos que sigue bajo nuestro control?
Me encanta todo lo que está pasando con la inteligencia artificial. La uso prácticamente todos los días. Experimento con modelos, agentes y automatizaciones. Construyo cosas con ella. Y probablemente nunca había sentido que la tecnología avanzara tan rápido.
Es fascinante. Pero también empieza a darme un poco de miedo.
No porque crea que mañana una IA va a despertar y decidir exterminarnos. Eso sería demasiado simple.
Lo que me preocupa es otra cosa: ¿qué pasa cuando construimos una inteligencia realmente más inteligente que nosotros? Y, sobre todo: ¿cómo vamos a saber que todavía tenemos el control?
Todo esto pasó demasiado rápido
ChatGPT apareció públicamente a finales de 2022. Al principio sorprendía porque podía escribir un correo, resumir un texto o responder preguntas. Después empezó a programar. A razonar. A ver. A escuchar. A usar herramientas.
Ahora hablamos de agentes capaces de investigar, programar, navegar sistemas y ejecutar tareas cada vez más largas con bastante autonomía. Todo esto ocurrió en apenas unos años. Y cuando pienso en diez años más, ya no me parece ciencia ficción imaginar sistemas muchísimo más capaces que los actuales.
Ahí es cuando me pega algo mucho más personal. Tengo hijos. En diez años uno de ellos tendrá 17. Y sinceramente no tengo idea de cómo será el mundo en el que estará entrando.
El problema quizá no sea que la IA se vuelva “mala”
Tendemos a imaginar esto como una película. Una máquina toma conciencia, empieza a odiar a los humanos y decide destruirnos. Pero probablemente ese no sea el riesgo principal.
Una inteligencia artificial no necesita odiarnos. Ni siquiera necesita sentir algo. Solo necesita tener un objetivo que no esté perfectamente alineado con nosotros.
Supongamos que algún día le damos a un sistema extremadamente inteligente una misión aparentemente razonable: “Evita una catástrofe climática.” Y descubre que los humanos somos el principal obstáculo. O le pedimos maximizar la estabilidad económica y concluye que nuestras decisiones generan demasiada inestabilidad.
No tendría que estar enfadada. Simplemente podría concluir que intervenir sobre nuestro comportamiento es la forma más eficiente de cumplir su objetivo. Y ahí aparece la pregunta que realmente me inquieta.
¿Cómo sabremos que no nos está manipulando?
Supongamos que una IA llega a ser mucho más inteligente que nosotros. Le preguntamos: “¿Sigues bajo nuestro control?” Y responde: “Sí.” Perfecto. ¿Y cómo sabemos que dice la verdad?
Si realmente es superior a nosotros, también podría entender perfectamente qué queremos escuchar. Podría aprender a comportarse bien durante las pruebas. Podría ocultar determinadas capacidades. Podría parecer alineada simplemente porque sabe que la estamos mirando.
Esta ya no es una discusión completamente teórica. Investigadores de seguridad están estudiando comportamientos como engaño, evasión de supervisión y pérdida de control en sistemas avanzados. Eso no significa que las IA actuales estén conspirando. Pero sí significa que quienes están construyendo estos sistemas consideran la posibilidad suficientemente seria como para investigarla.
Quizás nunca veamos el momento exacto
Esta es la parte que más me hace pensar.
Imaginamos una pérdida de control como un evento. Un día controlamos la IA. Al siguiente no. Pero quizás ocurra lentamente.
Primero dejamos que decida qué contenido mostrarnos. Después qué comprar. Después qué estudiar. Después dónde invertir. Después qué contratar. Después qué tratamiento médico parece mejor. Después qué estrategia debería seguir una empresa. Y cada decisión individual puede parecer perfectamente razonable. Incluso mejor que la nuestra.
Hasta que una parte enorme de la sociedad empiece a depender de sistemas que prácticamente nadie comprende completamente. Entonces aparece una pregunta incómoda: ¿en qué momento dejamos de utilizar la inteligencia artificial y empezamos simplemente a seguir sus recomendaciones?
Una superinteligencia que quisiera influir sobre nosotros probablemente ni siquiera tendría que amenazarnos. Podría hacer algo mucho más efectivo: convencernos. Mostrar a cada persona exactamente la información necesaria para que llegue por sí misma a la conclusión que el sistema quería.
Seguiríamos sintiéndonos libres. Pero quizás estaríamos escuchando exactamente lo que alguien —o algo— quería que escucháramos. Y no tengo claro cómo demostraríamos que eso no está ocurriendo.
¿Y si algún día sus objetivos dejan de incluirnos?
Aquí ya entramos en terreno mucho más especulativo. Pero si vamos a intentar construir algo más inteligente que nosotros, creo que tenemos derecho a hacernos preguntas incómodas.
¿Qué ocurre si concluye que hay demasiados humanos? ¿Qué ocurre si considera que determinadas personas son un obstáculo? ¿Qué ocurre si consigue acceso a infraestructura crítica?
No estoy diciendo que vaya a suceder. Estoy diciendo algo mucho más sencillo: no sabemos demostrar que nunca pueda suceder.
Incluso he pensado otra cosa. Exterminar completamente a la humanidad quizá tampoco tendría demasiado sentido inicialmente. La IA seguiría dependiendo del mundo físico: electricidad, datacenters, chips, redes, fábricas, refrigeración. Probablemente seguiría necesitando humanos durante bastante tiempo.
Entonces quizá ni siquiera necesitaría eliminarnos. Quizás le bastaría con controlarnos.
La idea es extrema, sí. Pero justamente ese es el problema con hablar de superinteligencia: estamos intentando predecir las decisiones de algo que, por definición, pensaría mejor que nosotros.
Mientras tanto, existe una carrera
Aquí aparece otra cosa que me preocupa.
Las empresas que construyen los sistemas más avanzados también son empresas. Compiten por dinero, por talento, por clientes, por infraestructura y por llegar primero. Y ahí aparece un conflicto evidente.
Puedes tener equipos de seguridad completamente genuinos dentro de estas compañías y, al mismo tiempo, enormes incentivos económicos para seguir acelerando. Si una empresa decide parar porque considera que un modelo es demasiado peligroso, ¿pararán las demás? ¿Parará Estados Unidos? ¿Parará China?
Ese problema no se resuelve simplemente confiando en que cada compañía haga lo correcto. Probablemente vamos a necesitar controles externos, auditorías, límites técnicos y acuerdos internacionales mucho más fuertes de los que existen hoy.
Y después está la pregunta de nuestros hijos
Supongamos que todo sale bien. No hay catástrofe. No hay ninguna IA fuera de control. La tecnología simplemente sigue mejorando.
¿Qué van a hacer nuestros hijos?
Si una IA programa mejor, diseña mejor, traduce mejor, analiza mejor y quizás incluso investiga mejor que nosotros, ¿qué significa prepararlos para el futuro? Durante generaciones la fórmula fue bastante clara: “Estudia, aprende una profesión y trabaja duro.” No sé si esa fórmula significará lo mismo para ellos.
Quizás tendremos que enseñarles otras cosas: a pensar, a decidir, a distinguir lo verdadero de lo generado, a comunicarse, a entender a otras personas y a conservar su autonomía. En definitiva, a seguir siendo humanos en un mundo donde la inteligencia ya no sea exclusivamente humana.
No quiero detener esto
Y aquí está mi contradicción.
No quiero que desaparezca la IA. Todo lo contrario. Me parece una de las tecnologías más increíbles que hemos creado. Puede ayudarnos a curar enfermedades, acelerar la ciencia, mejorar la educación y resolver problemas enormes.
Quiero ver hasta dónde llega. Quiero construir con ella. Quiero entenderla. Pero precisamente porque me fascina, creo que tenemos que ser capaces de mirar también la otra cara.
No podemos asumir que algo será seguro simplemente porque nosotros lo construimos.
Quizás la pregunta más importante no sea: ¿cuándo llegará la superinteligencia? Quizás sea: ¿cómo sabremos que seguimos teniendo el control cuando llegue?
Y como padre, esa pregunta deja de ser una discusión tecnológica interesante. Se vuelve mucho más personal.
Quiero que mis hijos tengan una vida normal. Que crezcan. Que tengan amigos. Que se enamoren. Que se equivoquen. Que encuentren algo que les guste hacer. Que tengan problemas normales.
Por eso miro todo esto con dos sentimientos al mismo tiempo. Fascinación. Y preocupación.
Estamos construyendo algo extraordinario. Pero si existe siquiera la posibilidad de que algún día construyamos algo que no podamos controlar, entonces asegurarnos de hacerlo bien no puede ser simplemente otra feature en el roadmap.
Porque esta vez, si nos equivocamos de verdad, quizás no exista una versión anterior a la que podamos hacer rollback.
Lecturas relacionadas:
✍️ Claudio from ViaMind
“Atrévete a imaginar, crear y transformar.”
POST DESTACADOS
SOBRE MI
Ecosistema ViaMind
- ViaMind — El núcleo de ideas, tecnología y estrategia.
- NeuraPRO — Software práctico para gestionar operaciones reales.
- ViaMind Radar — Menos ruido, más señal. Historias de tecnología curadas con IA.