2030 ¿Y SI QUIENES ESTÁN CREANDO EL FUTURO TAMBIÉN LE TIENEN MIEDO?

Durante los últimos años nos hemos acostumbrado a hablar de inteligencia artificial en términos casi aspiracionales.Más rápida. Más inteligente. Más creativa. Más humana.La usamos para escribir, diseñar, programar,investigar, diagnosticar, traducir, producir imágenes y resolver en segundos tareas que antes necesitaban horas.Pero quizá llevamos demasiado tiempo haciendo la pregunta equivocada.

LR

Lorenzo Ruíz Martínez

Previous slideNext slide

Durante los últimos años nos hemos acostumbrado a hablar de inteligencia artificial en términos casi aspiracionales.Más rápida. Más inteligente. Más creativa. Más humana.La usamos para escribir, diseñar, programar, investigar, diagnosticar, traducir, producir imágenes y resolver en segundos tareas que antes necesitaban horas.Pero quizá llevamos demasiado tiempo haciendo la pregunta equivocada. La conversación ya no debería ser únicamente qué podrá hacer la inteligencia artificial por nosotros, sino qué ocurrirá cuando pueda hacer cosas que nosotros ya no podamos comprender, supervisar o detener.Y esa conversación acaba de recibir una sacudida desde el interior de Silicon Valley.

Jacob Coxon, investigador que trabajó durante los últimos tres años en OpenAI y Anthropic, renunció esta semana a esta última compañía lanzando una advertencia extraordinaria: las empresas que lideran la carrera de la IA estarían avanzando hacia sistemas de superinteligencia capaces de mejorarse a sí mismos sin haber resuelto todavía cómo mantenerlos bajo control. Su frase dio la vuelta al mundo:

“The people building AI earnestly believe that it could kill us all by the end of the decade.”

Jacob Coxon

No es exactamente la frase que uno espera escuchar de alguien que estuvo ayudando a construir la tecnología más poderosa de nuestro tiempo.

EL PROBLEMA NO ES CHATGPT

Y aquí aparece una distinción fundamental.

Coxon no está diciendo que el chatbot que hoy usamos para preparar una presentación vaya a despertarse mañana con intenciones homicidas.El riesgo que plantea está más adelante. Habla de la posibilidad de desarrollar una self-improving superintelligence: sistemas superiores a los humanos en múltiples áreas y capaces de participar en la creación y mejora de las siguientes generaciones de inteligencia artificial.Ahí cambia radicalmente la ecuación. Porque si una IA puede contribuir a construir una IA todavía más capaz, el ritmo de desarrollo deja de depender exclusivamente de la velocidad humana.

Coxon imagina sistemas capaces de hackear infraestructuras, transformar disciplinas científicas en periodos extraordinariamente cortos y adquirir poder y recursos en el mundo real. Su argumento es que el progreso en esas capacidades ya está ocurriendo y no muestra señales claras de desaceleración. ⁠

No estamos hablando necesariamente de robots caminando por las calles.Eso pertenece a Hollywood.Estamos hablando de poder:

Poder computacional.
Poder económico.
Poder científico.
Poder informativo.
Poder militar.
Poder para persuadir.

Y, eventualmente, autonomía.

LO VERDADERAMENTE INCÓMODO

Sin embargo, quizá lo más perturbador de las declaraciones de Coxon no sea su predicción.

Es lo que asegura que ocurre dentro de las compañías que están desarrollando esta tecnología.

Según él, muchos investigadores y ejecutivos conocen perfectamente los riesgos, aunque públicamente utilicen un lenguaje mucho más moderado. Y sostiene que existe una dinámica competitiva difícil de detener: cada laboratorio teme que, si reduce la velocidad, otro llegará primero. ⁠Es una paradoja fascinante.

Todos pueden entender el riesgo y, aun así, nadie quiere abandonar la carrera.

Anthropic podría pensar que OpenAI llegará primero. OpenAI puede mirar hacia otros competidores.Estados Unidos observa a China.China observa a Estados Unidos.Los inversionistas observan el mercado.Y el mercado observa quién será el primero.La tecnología continúa avanzando.No necesariamente porque alguien haya decidido que es seguro hacerlo, sino porque nadie quiere ser el segundo.

CUANDO TU EXJEFE DICE QUE TIENES RAZÓN

Sería relativamente sencillo descartar las declaraciones de Coxon como la visión extrema de un investigador que acaba de abandonar una compañía.

Excepto por un detalle.

Evan Hubinger, responsable de Alignment Science en Anthropic, respondió públicamente respaldando el núcleo de su advertencia y situó su propia estimación de una catástrofe existencial provocada por IA en más del 10% durante la próxima década. También reconoció que todavía no existe un plan demostrado para resolver el problema de alineación de una futura superinteligencia. ⁠Pensemos un segundo en ese número.Si alguien nos dijera que un avión tiene más de un 10% de posibilidades de estrellarse, probablemente nadie subiría.Si una medicina tuviera un 10% de posibilidades de provocar una consecuencia catastrófica, difícilmente llegaría al mercado. Pero cuando hablamos de inteligencia artificial, la promesa parece ser tan extraordinaria que nuestra percepción del riesgo cambia.Y ahí está quizá el verdadero debate.

EL FUTURO TAMBIÉN ES IRRESISTIBLE

Porque sería demasiado fácil convertir esta historia en una pieza anti-IA.No lo es.

La misma tecnología que genera estos temores podría acelerar descubrimientos médicos, desarrollar nuevos materiales, transformar la educación, optimizar sistemas energéticos, democratizar conocimiento y ayudarnos a resolver problemas que hoy parecen imposibles.Esa es precisamente la razón por la que resulta tan difícil detener la carrera.La inteligencia artificial puede ser simultáneamente una de las mayores oportunidades y uno de los mayores riesgos creados por nuestra especie.Las dos cosas pueden ser ciertas.Y reducir la discusión a optimistas contra catastrofistas probablemente sea una manera demasiado cómoda de evitar la conversación importante.

2030 ESTÁ A LA VUELTA DE LA ESQUINA

Durante décadas imaginamos la inteligencia artificial como algo perteneciente al futuro.

El problema es que el futuro llegó sin pedir permiso.

Coxon asegura que dentro de la comunidad que desarrolla sistemas avanzados existe la sensación de que los próximos uno o dos años serán decisivos para determinar si conseguimos construir mecanismos de seguridad antes de que las capacidades avancen mucho más. ⁠

Eso no significa que la humanidad vaya a desaparecer en 2030.Las predicciones sobre riesgo existencial son profundamente discutidas y existe un amplio espectro de opiniones entre investigadores sobre su probabilidad, sus mecanismos y sus tiempos.Pero tampoco podemos ignorar algo extraordinario:personas que conocen esta tecnología desde dentro están diciendo públicamente que existe un riesgo que consideran real.Y quizá no necesitemos saber si la probabilidad es 1%, 10% o 50% para empezar a preguntarnos quién debería decidir cuánto riesgo estamos dispuestos a aceptar.

HOW WE THINK

La inteligencia artificial nació como una herramienta.Después se convirtió en asistente.Ahora empieza a convertirse en agente.La siguiente frontera podría ser una inteligencia capaz de participar activamente en su propia evolución.Y entonces aparece una pregunta que no pertenece únicamente a ingenieros, gobiernos o compañías tecnológicas.Nos pertenece a todos:

¿qué hacemos cuando nuestra capacidad para crear avanza más rápido que nuestra capacidad para controlar lo creado?Quizá la gran historia tecnológica de esta década no sea que las máquinas aprendieron a pensar.Quizá sea descubrir si nosotros pensamos lo suficiente antes de enseñarles cómo hacerlo.

How we live. How we feel. How we create. How we connect.

Y ahora, inevitablemente:

How we survive.