A veces, las advertencias más importantes no son las más ruidosas. Son las que pronuncian las personas que ayudaron a construir aquello sobre lo que nos advierten.
Esta reflexión proviene de una conferencia pública a la que asistí, impartida por el Premio Nobel Profesor Geoffrey Hinton, titulada “La IA y nuestro futuro”, en Hobart, Australia, el miércoles 7 de enero de 2026 (13:00 AEDT). En la charla, explicó cómo funciona la IA moderna. Analizó por qué puede resultar difícil de controlar. También destacó por qué las decisiones que tomamos ahora Puede que importe más que lo que intentemos hacer después.
Su idea central, según la entendí, es la siguiente:
Si no aprendemos a gestionar la IA mientras aún está en desarrollo, es posible que tengamos dificultades para gestionarla una vez que esté completamente desarrollada.
El problema de la “adolescencia”
La IA ya es poderosa, pero aún está en desarrollo. Como ocurre con cualquier cosa en una fase de rápido crecimiento, es en esta etapa cuando se establecen los patrones.
Hinton describió cómo los modelos de lenguaje complejos no funcionan como el software tradicional, donde cada paso se escribe, se inspecciona y se comprende línea por línea. En cambio, aprenden de enormes cantidades de datos ajustando innumerables "niveles de conexión" internos. El resultado es eficaz, pero no del todo transparente. Puede ser difícil explicar su funcionamiento, y esto es importante cuando los sistemas se vuelven ampliamente utilizados.
En otras palabras: no solo estamos creando herramientas. Estamos moldeando comportamientos.
Por eso creo que la imagen de la adolescencia encaja a la perfección. En la adolescencia, la capacidad crece más rápido que la sabiduría. Es cuando la fuerza y la velocidad llegan antes que la madurez. Y si esperas hasta la edad adulta para enseñar autocontrol, ya es demasiado tarde.
Por qué más tarde puede ser más difícil
Una de las ideas más inquietantes de la charla es que la IA avanzada podría llegar a superar a los humanos. Podría aventajarnos no solo en conocimiento, sino también en coordinación.
Los seres humanos compartimos el conocimiento poco a poco: a través de la conversación, la enseñanza, la experiencia y el tiempo.
Los sistemas digitales permiten compartir el aprendizaje mucho más rápido. Las copias de un mismo sistema pueden aprender en paralelo, combinar lo aprendido y mejorar rápidamente. Esto crea un futuro donde la capacidad puede escalarse a un ritmo mayor del que cualquier persona o institución podría igualar.
Entonces, la pregunta difícil es:
¿Cómo podemos mantener los sistemas poderosos alineados con el bienestar humano a medida que se vuelven más capaces?
No es pánico. Es formación.
No comparto esto para generar miedo. Lo comparto porque es un momento excepcional en el que un constructor del mundo moderno de la IA dice: Presta atención a los primeros años.
En su charla, Hinton sugirió que deberíamos invertir mucho más esfuerzo en la investigación sobre seguridad y control. Nuestra inversión debería ir más allá de simplemente mejorar la inteligencia artificial. Esto significa que la cooperación global debería centrarse específicamente en prevenir la pérdida del control humano. Este enfoque es crucial porque los incentivos pueden coincidir a través de las fronteras. Nadie se beneficia de sistemas que se vuelven contra sus creadores.
Ya sea que trabajes en el mundo de los negocios, la educación, el arte, la investigación o simplemente vivas como una persona que intenta desenvolverse en un mundo en constante cambio, este no es un "tema tecnológico". Es un tema de responsabilidad.
Si no definimos los valores, las salvaguardias y las estructuras de rendición de cuentas mientras la IA aún está en desarrollo, podríamos enfrentar problemas más adelante. Podríamos vernos obligados a negociar con algo que ya no podemos controlar eficazmente.
Esta es la época de la sabiduría.
No porque podamos detener el futuro, sino porque todavía tenemos voz y voto en cómo se desarrolla.
Fuente: “La IA y nuestro futuro: una charla pública” a cargo del profesor y premio Nobel Geoffrey Hinton, Ciudad de Hobart, Hobart, Australia, miércoles 7 de enero de 2026.
Deja un comentario