En los últimos días volvió con fuerza una pregunta que parecía reservada para académicos, futuristas y películas de ciencia ficción: ¿deberíamos frenar el desarrollo de la inteligencia artificial?

La discusión cobró relevancia después de que Dario Amodei, director ejecutivo de Anthropic, pidiera reducir la velocidad con la que avanzan los modelos más poderosos. Su propuesta recibió el respaldo público de figuras como Sam Altman, de OpenAI, y Elon Musk. La reacción fue suficientemente fuerte como para afectar incluso a las acciones de empresas vinculadas con el negocio de la inteligencia artificial.

Las advertencias merecen ser escuchadas.

Lo que no merecen es ser aceptadas automáticamente.

Porque quienes hoy nos dicen que la inteligencia artificial podría convertirse en un peligro extraordinario son, en varios casos, las mismas personas que construyen esos sistemas, los comercializan y compiten por tener el modelo más poderoso.

Y aquí conviene recordar una regla sencilla: ¿quién vende pan frío?

Ninguna empresa tiene incentivos para describir su producto como mediocre. Las compañías de inteligencia artificial necesitan convencernos de que están construyendo algo extraordinariamente poderoso. Eso atrae inversiones, clientes, talento y atención política.

Pero ahora aparece una situación curiosa: algunos de esos mismos ejecutivos también nos dicen que su tecnología podría ser tan poderosa que quizá tengamos que desacelerarla.

¿Debemos creerles?

No necesariamente.

Pero tampoco deberíamos descartarlos simplemente porque tienen intereses económicos.

La posición razonable está en otro lugar: no detener el desarrollo de la inteligencia artificial basándonos en predicciones catastróficas, pero tampoco dejar su seguridad exclusivamente en manos de quienes ganan dinero desarrollándola.

Lo que sí sabemos

Antes de discutir escenarios sobre máquinas fuera de control conviene revisar aquello que ya podemos medir.

La inteligencia artificial está mejorando rápidamente.

El AI Security Institute del Reino Unido lleva evaluando modelos avanzados desde 2023 y reporta aumentos importantes de capacidad en áreas sensibles, entre ellas la ciberseguridad. En sus evaluaciones, los mejores modelos pasaron de completar menos del 9% de determinadas tareas de nivel aprendiz a alrededor del 50%, y ya han aparecido modelos capaces de resolver algunas tareas clasificadas como propias de expertos.

Stanford llega a una conclusión semejante en su AI Index 2026: las capacidades continúan creciendo rápidamente, varios modelos ya alcanzan o superan referencias humanas en determinadas pruebas y los agentes de inteligencia artificial han mejorado de manera notable en tareas realizadas directamente sobre computadoras. Pero el mismo informe muestra algo fundamental: el progreso es muy irregular. Un sistema puede sobresalir en matemáticas avanzadas y fallar en tareas sorprendentemente sencillas.

Eso debería servir para enfriar dos narrativas.

La primera es la de quienes sostienen que la inteligencia artificial actual no representa ningún riesgo porque todavía comete errores absurdos.

La segunda es la de quienes interpretan cada avance como evidencia de que estamos a unos meses de construir una superinteligencia incontrolable.

Ninguna de las dos conclusiones se desprende de los datos.

Lo que muestran las evaluaciones es una tecnología extremadamente potente, que mejora con rapidez, pero que también conserva fallas, inconsistencias y limitaciones importantes.

El problema con los profetas del desastre

Las advertencias sobre inteligencia artificial suelen mezclarse con escenarios extremos: pérdida total de control, sistemas que engañan deliberadamente a sus creadores o incluso extinción humana.

No se puede demostrar que esos escenarios sean imposibles.

Pero tampoco existe actualmente evidencia que permita afirmar que sean inevitables o inminentes.

Y ése es un problema importante.

Las políticas públicas no deberían construirse alrededor de profecías imposibles de verificar.

Si mañana alguien afirma que existe un 10% de probabilidades de que cierta tecnología destruya a la humanidad, la cifra puede sonar aterradora, pero la pregunta sigue siendo: ¿cómo se calculó ese porcentaje?

En muchos casos estamos hablando de estimaciones, modelos teóricos y opiniones de especialistas, no de probabilidades obtenidas mediante experimentos repetibles.

Eso no vuelve inútiles esas advertencias. Sirven para identificar riesgos que vale la pena estudiar.

Lo que no deberían hacer es convertirse automáticamente en argumentos para paralizar una tecnología completa.

Detener o desacelerar de forma general el desarrollo de inteligencia artificial tendría consecuencias reales: investigación científica más lenta, menor competencia, menos innovación y probablemente una mayor concentración del mercado en las empresas que ya poseen infraestructura y modelos avanzados.

También existe un problema geopolítico evidente. Alemania, por ejemplo, rechazó este lunes la idea de detener el desarrollo de IA en Europa y señaló que cualquier estrategia realmente efectiva necesitaría incluir a potencias como Estados Unidos y China.

Pretender una pausa unilateral mientras el resto del mundo continúa avanzando difícilmente parece una política sostenible.

Pero las empresas tampoco merecen nuestra confianza ciega

El hecho de que algunos alarmistas exageren no convierte automáticamente a las empresas en una fuente neutral.

Muy al contrario.

Los incentivos económicos alrededor de la inteligencia artificial son enormes.

Stanford calcula que la inversión privada estadounidense en IA alcanzó unos 285,900 millones de dólares durante 2025. Además, más del 90% de los modelos considerados relevantes fueron desarrollados por la industria, no por universidades o instituciones públicas.

Esto significa que buena parte de nuestro conocimiento sobre los sistemas más avanzados proviene precisamente de las organizaciones que los construyen.

Y existe otro problema: mientras las capacidades aumentan, la transparencia disminuye.

Stanford señala que algunos de los modelos más avanzados ya no revelan elementos básicos como el tamaño exacto de sus conjuntos de entrenamiento, duración del entrenamiento o número de parámetros.

Así que tenemos una paradoja.

Los sistemas se vuelven más poderosos al mismo tiempo que desde fuera resulta más difícil conocer exactamente cómo fueron construidos y evaluados.

Por eso confiar exclusivamente en las pruebas internas de OpenAI, Anthropic, Google, Meta o cualquier otra compañía sería ingenuo.

No hace falta suponer mala fe.

Basta reconocer un conflicto de interés elemental.

La empresa que invierte miles de millones en construir un modelo y necesita lanzarlo antes que sus competidores no debería ser también la única institución autorizada para determinar si ese modelo es suficientemente seguro.

También hay razones para desconfiar cuando las empresas piden regulación

Aquí aparece una parte especialmente incómoda del debate.

Cuando una gran empresa tecnológica pide más regulación, solemos interpretar que está actuando contra sus propios intereses.

No siempre es así.

Una regulación compleja puede convertirse en una barrera de entrada formidable.

OpenAI, Google, Anthropic o Meta pueden contratar equipos enteros de abogados, investigadores, auditores y especialistas en cumplimiento normativo.

Una empresa pequeña difícilmente puede hacerlo.

Por eso una regulación mal diseñada puede terminar produciendo exactamente lo contrario de lo que promete: fortalecer a las compañías dominantes y reducir la competencia.

La propia Anthropic plantea actualmente una regulación escalonada donde las exigencias aumenten conforme aumente el riesgo. Su política también contempla evaluaciones externas y una supervisión gubernamental creciente para los sistemas más capaces.

La idea puede ser razonable.

Pero no debería aprobarse porque Anthropic diga que es razonable.

Tiene que demostrarse que las medidas reducen riesgos reales sin convertirse en mecanismos para cerrar el mercado.

Otra vez: evidencia antes que confianza.

Entonces, ¿hay que frenar la inteligencia artificial?

Mi respuesta es no.

No hay evidencia suficiente para justificar una detención general del desarrollo de inteligencia artificial.

Sería una medida extraordinaria basada, en buena parte, en escenarios que todavía no sabemos si ocurrirán.

Además, “detener la IA” es una expresión engañosa.

No existe una sola inteligencia artificial.

Existen miles de modelos, empresas, universidades, proyectos abiertos, aplicaciones científicas y desarrolladores distribuidos por todo el planeta.

Una moratoria global sería extremadamente difícil de aplicar y una moratoria parcial podría simplemente trasladar el desarrollo hacia otras empresas o países.

Pero rechazar una pausa general no significa adoptar la postura contraria.

Tampoco creo que debamos permitir que cualquier sistema sea desplegado simplemente porque una empresa asegura haber realizado suficientes pruebas.

Ésa es la parte del debate que suele perderse.

No necesitamos detener el desarrollo. Necesitamos mejorar radicalmente la evaluación.

La respuesta debería ser medir antes de prohibir

Existen alternativas mucho más sensatas que una moratoria general.

Una de ellas es desarrollar sistemas independientes de evaluación.

NIST, el organismo estadounidense responsable de numerosos estándares tecnológicos, lanzó este año un programa destinado precisamente a probar sistemas de inteligencia artificial mediante conjuntos de datos reservados y condiciones controladas, reduciendo problemas como la contaminación de las pruebas. También está desarrollando metodologías específicas para evaluar sistemas tradicionales, multimodales y agentes autónomos.

Ése me parece un camino mucho más serio.

Si un modelo afirma que puede realizar determinada tarea, probémoslo.

Si una empresa asegura que su sistema no puede realizar determinada acción peligrosa, intentemos demostrar lo contrario.

Si aparecen capacidades nuevas, midámoslas.

Y si una evaluación independiente encuentra un riesgo concreto y grave que el desarrollador no puede mitigar, entonces sí debería existir la posibilidad de retrasar ese despliegue.

No porque la inteligencia artificial sea malvada.

No porque alguien haya imaginado una película apocalíptica.

Porque existe evidencia.

Ésa es una diferencia fundamental.

El mejor argumento para no detenerla también exige vigilancia

Existe además otro motivo para mantener la investigación activa.

La inteligencia artificial no solamente crea riesgos.

También puede ayudarnos a combatirlos.

Los mismos modelos capaces de identificar vulnerabilidades pueden servir para defender sistemas informáticos. Las herramientas capaces de analizar grandes cantidades de información pueden apoyar investigaciones científicas. Y avances en IA ya están siendo utilizados en áreas como química, medicina, astronomía y otras disciplinas.

Una política basada exclusivamente en miedo podría retrasar también esas capacidades.

Por eso la discusión no debería ser “IA sí” o “IA no”.

Esa dicotomía es demasiado pobre para una tecnología de esta magnitud.

México debería evitar copiar cualquiera de los dos extremos

Para México, además, el problema tiene características particulares.

Probablemente no construiremos en el corto plazo el modelo de frontera más avanzado del planeta, pero sí utilizaremos masivamente sistemas creados fuera del país.

Gobiernos, bancos, escuelas, hospitales, empresas y ciudadanos dependerán cada vez más de modelos cuyos mecanismos internos posiblemente desconocemos.

Nuestro objetivo debería ser desarrollar capacidad técnica para evaluarlos y establecer obligaciones proporcionales al lugar donde se utilicen.

No necesitamos una gran ley redactada únicamente para poder decir que México ya “reguló la inteligencia artificial”.

Necesitamos saber qué ocurre cuando una dependencia pública entrega información a un modelo externo, quién responde cuando un sistema automatizado toma una decisión equivocada, qué evaluaciones deben realizarse antes de utilizar IA en infraestructura crítica y cuáles son las condiciones mínimas de transparencia que deben exigirse a los proveedores.

Eso requiere especialistas y pruebas.

No solamente políticos redactando prohibiciones.

Ni fe ni miedo

La discusión sobre frenar la inteligencia artificial tiene algo incómodo: los dos bandos tienen incentivos para exagerar.

Quienes llevan años alertando sobre riesgos extremos necesitan demostrar que sus advertencias estaban justificadas.

Las compañías necesitan convencernos de que sus modelos son extraordinariamente poderosos para justificar inversiones multimillonarias.

Y algunos gobiernos pueden utilizar ambas narrativas para justificar nuevos controles.

Por eso probablemente lo más sano sea desconfiar un poco de todos.

No significa ignorarlos.

Significa exigirles pruebas.

Si una empresa asegura que su modelo es seguro, que lo demuestre ante evaluadores independientes.

Si un investigador afirma que determinado sistema representa un riesgo extraordinario, que explique qué evidencia respalda esa afirmación.

Y si un gobierno quiere impedir el desarrollo o despliegue de una tecnología, que demuestre qué riesgo concreto pretende evitar y por qué la medida propuesta es proporcional.

La inteligencia artificial avanza demasiado rápido como para conducirla con fe.

Pero también es demasiado importante como para conducirla con miedo.

No necesitamos detenerla. Necesitamos dejar de creer que sólo existen dos opciones: pisar el acelerador a fondo o apagar el motor.

La opción más inteligente es seguir avanzando mientras construimos mejores instrumentos para saber cuándo realmente debemos frenar.

Y cuando llegue ese momento, el freno no debería activarlo quien grite más fuerte ni quien tenga más dinero.

Debería activarlo la evidencia.