La historia, resumida, es la siguiente: una inteligencia artificial detecta en internet una noticia negativa contra la Presidenta, determina que puede hacerla crecer, identifica a determinados influencers, pone en marcha una red de bots y, en apenas tres horas, aquella nota termina convertida en 500 mil publicaciones.
Después vino la parte que me llamó especialmente la atención.
Según la explicación de Sheinbaum, todo este proceso puede ocurrir prácticamente solo:
“No hay una persona que esté diseñando, porque la inteligencia artificial utiliza la nota y crea la estrategia”.
Y enseguida planteó la pregunta:
“¿Hay que regular esto? A mí me parece que sí”.
Aquí tenemos un problema.
No porque sea falso que existan bots. Existen.
Tampoco porque no haya campañas coordinadas para tratar de manipular conversaciones en redes sociales. Las hay, desde hace años.
Mucho menos porque la inteligencia artificial no pueda utilizarse para producir propaganda, generar cientos de versiones de un mensaje, analizar tendencias, crear imágenes, traducir textos o acelerar una campaña de influencia. Todo eso ya ocurre.
El problema es que son cosas distintas.
Y si vamos a discutir una regulación que puede terminar afectando la manera en que millones de personas se expresan, reciben información o participan en una conversación pública, quizá convendría entender primero qué queremos regular.
Un bot no es inteligencia artificial
Empecemos por algo sencillo.
Un bot no necesariamente tiene inteligencia artificial.
En informática, un bot puede ser simplemente un programa que ejecuta automáticamente una serie de instrucciones. Publicar algo cada determinado tiempo, responder cuando aparece cierta palabra, repetir mensajes, consultar una página o realizar alguna acción previamente programada.
Ese tipo de automatización existe desde mucho antes del actual auge de la inteligencia artificial generativa.
Otra cosa es utilizar un modelo de inteligencia artificial para escribir el contenido que posteriormente publicará ese bot.
Y otra diferente es disponer de cientos o miles de cuentas que trabajen coordinadamente para intentar amplificar una conversación.
Las tres cosas pueden utilizarse juntas, por supuesto.
Pero no son lo mismo.
También está el algoritmo de recomendación de cada plataforma, que decide qué contenido mostrar a determinados usuarios a partir de múltiples señales.
Otra cosa distinta.
En pocas palabras, cuando hablamos de manipulación en redes podemos estar hablando de inteligencia artificial, automatización, bots, cuentas falsas, redes coordinadas, publicidad, influencers, algoritmos de recomendación o incluso personas reales participando voluntariamente en una conversación.
Meter todo eso en la misma bolsa y llamarlo “inteligencia artificial” quizá resulte cómodo para explicarlo en una conferencia de prensa.
Para legislarlo, no.
Sí existen operaciones de influencia
Conviene aclarar esto porque el otro extremo también sería absurdo.
Las operaciones de influencia existen y están ampliamente documentadas.
OpenAI, por ejemplo, lleva varios años publicando reportes sobre actores que han utilizado sus modelos dentro de campañas de influencia. Se han encontrado casos en los que operadores utilizaron inteligencia artificial para generar comentarios políticos, traducir textos, construir perfiles falsos, crear artículos o adaptar mensajes para diferentes públicos.
Pero hay un detalle interesante.
En sus propios informes OpenAI describe normalmente personas y organizaciones utilizando inteligencia artificial como una herramienta dentro de una operación más grande. No inteligencias artificiales que un buen día encuentran una noticia, deciden autónomamente que quieren intervenir en la conversación política de un país y organizan por iniciativa propia la campaña.
El 25 de agosto, de hecho, OpenAI publicó otro caso particularmente oportuno para esta discusión. La empresa informó que bloqueó cuentas vinculadas con una operación de influencia originada probablemente en Rusia. Los operadores utilizaban ChatGPT para generar comentarios que después publicaban en Substack, Telegram, X, Facebook y LinkedIn.
Había inteligencia artificial.
Pero también había operadores, cuentas, objetivos, instrucciones y una infraestructura detrás.
Esa diferencia importa mucho.
Porque una cosa sería decir:
una organización utiliza inteligencia artificial para hacer más eficiente una campaña de manipulación.
Y otra:
la inteligencia artificial detecta una noticia, diseña sola la estrategia y lanza una campaña.
La primera afirmación está suficientemente documentada.
La segunda necesita evidencia.
¿Y las 500 mil publicaciones?
Hay otra parte de la declaración presidencial que merece atención.
Sheinbaum habló de una red capaz de convertir una noticia en 500 mil publicaciones en tres horas.
¿Es técnicamente imposible?
No.
Con suficiente infraestructura, cuentas automatizadas y capacidad de generación de contenido pueden producirse cantidades enormes de publicaciones.
Pero ésa no debería ser la pregunta.
La pregunta es de dónde salen las 500 mil.
¿Qué plataforma fue analizada?
¿Cuántas cuentas participaron?
¿Cómo se determinó que eran bots?
¿Se trató de 500 mil publicaciones originales, reposts, respuestas o interacciones?
¿Qué herramienta realizó el análisis?
¿Cuál fue su margen de error?
¿Existe el estudio?
¿Podemos revisarlo?
No conocemos esas respuestas a partir de lo dicho por la Presidenta. La explicación fue atribuida simplemente a “un experto”.
Y cuando un número se utiliza para ayudar a justificar una posible regulación, conocer su metodología deja de ser un detalle técnico.
Que algo sea tecnológicamente posible no demuestra que esté ocurriendo de la manera en que se describe.
El gobierno ya viene construyendo este argumento
La declaración tampoco apareció de la nada.
Durante las últimas semanas el gobierno ha insistido varias veces en el tema de los bots, la inteligencia artificial y las campañas coordinadas.
El 19 de agosto, Sheinbaum aseguró que mediante dinero y robots se pueden hacer “gigantescas” determinadas noticias y generar la impresión de que muchas personas están opinando lo mismo.
Un día después volvió sobre el tema. Dijo que algunas tendencias que aparentemente involucran a 100 mil personas podrían estar siendo generadas realmente por unas cuantas decenas de operadores y amplificadas mediante robots e inteligencia artificial.
La discusión, además, ya está vinculada explícitamente con la regulación.
Desde junio la Presidenta había señalado que México debería entrar en una discusión sobre regulación de inteligencia artificial y redes sociales, aunque aclarando que debería hacerse “sin caer en la censura”.
Hasta ahí no veo nada extraño.
Discutir reglas sobre inteligencia artificial es razonable.
Investigar redes coordinadas también.
Combatir campañas fraudulentas, suplantaciones, estafas, operaciones extranjeras de influencia y estructuras que utilizan cuentas falsas para manipular artificialmente una conversación puede ser perfectamente legítimo.
El problema comienza cuando no queda claro dónde termina una cosa y empieza otra.
Las plataformas ya prohíben buena parte de estas conductas
También hay algo que pocas veces se menciona en esta discusión.
Por lo menos algunas de las conductas descritas por la Presidenta ya están prohibidas por las propias plataformas.
X, por ejemplo, prohíbe las actividades coordinadas no auténticas que influyan artificialmente en las conversaciones. También prohíbe determinadas formas de automatización no autorizada, registro masivo de cuentas falsas y comportamientos destinados a manipular artificialmente la manera en que un contenido es descubierto o amplificado.
Eso no significa que X consiga detectarlas todas.
Claramente no.
Tampoco significa que debamos confiar ciegamente en que las empresas tecnológicas resolverán por sí mismas cualquier problema.
Significa algo mucho más sencillo:
antes de crear una nueva regulación necesitamos saber qué conducta concreta queremos regular y qué problema que actualmente no está resuelto pretendemos solucionar.
Porque decir “hay que regular los bots” puede sonar muy fácil.
Hasta que tenemos que escribir la ley.
¿Qué exactamente vamos a regular?
Ésta debería ser, para mí, la discusión central.
¿Queremos prohibir los bots?
Entonces tendremos que definir qué es un bot y decidir qué hacemos con miles de automatizaciones legítimas: servicios de emergencia, cuentas meteorológicas, alertas de seguridad, publicación automática de noticias, atención a clientes o servicios que distribuyen información.
¿Queremos prohibir cuentas falsas?
Habrá que distinguir una identidad fraudulenta de una cuenta anónima, una cuenta de parodia o alguien que simplemente no desea publicar su nombre verdadero.
¿Queremos regular contenido generado con inteligencia artificial?
Entonces habrá que determinar si estamos hablando de deepfakes, propaganda, imágenes, textos, sátira, contenido comercial o cualquier texto que haya recibido asistencia de una IA.
¿Queremos evitar la manipulación artificial de tendencias?
Perfecto.
¿Quién decide cuándo una tendencia es artificial?
¿Con qué datos?
¿Con qué metodología?
¿Y qué ocurre cuando cientos de miles de personas reales simplemente están criticando al gobierno?
Ésa última pregunta no es menor.
Porque un mecanismo diseñado para combatir manipulaciones puede terminar convirtiéndose, si está mal hecho, en una herramienta para deslegitimar conversaciones auténticas.
El peligro de equivocarse de diagnóstico
Hay una tentación frecuente cuando aparece una tecnología nueva: atribuirle capacidades casi mágicas.
Pasó con “el algoritmo”.
Ahora comienza a ocurrir con “la inteligencia artificial”.
La IA parece convertirse en la explicación para prácticamente cualquier fenómeno extraño que ocurre en internet.
Pero una operación moderna de influencia es bastante menos misteriosa.
Alguien tiene un objetivo.
Ese actor puede utilizar herramientas para monitorear conversaciones y detectar temas con potencial.
Puede utilizar inteligencia artificial para analizar información, escribir textos, producir imágenes o generar cientos de variaciones de un mismo mensaje.
Puede utilizar software de automatización para distribuirlos.
Puede utilizar cuentas falsas, bots, influencers o incluso publicidad.
Después entran los algoritmos de las plataformas.
Y finalmente pueden incorporarse personas completamente reales que ven el contenido, están de acuerdo con él y comienzan a compartirlo por voluntad propia.
La inteligencia artificial puede acelerar varias partes del proceso.
Pero detrás sigue existiendo una intención.
Un objetivo.
Alguien que decidió qué quería conseguir.
Por eso resulta tan extraña la idea de que “no hay una persona que esté diseñando”.
Hasta ahora, la evidencia pública sobre operaciones reales de influencia apunta precisamente en la dirección contraria: hay actores humanos utilizando inteligencia artificial para ampliar sus capacidades.
Regular algo que todavía estamos aprendiendo a entender
No hace falta negar el problema para cuestionar la solución.
Existen bots.
Existen campañas coordinadas.
Existen empresas y gobiernos que intentan manipular conversaciones.
Existen cuentas falsas.
Y la inteligencia artificial está haciendo mucho más sencillo producir propaganda a una escala que hace apenas unos años habría requerido decenas o cientos de personas.
Todo eso merece atención.
Precisamente por eso deberíamos preocuparnos cuando los conceptos se confunden.
Una mala explicación en una conferencia de prensa puede quedarse en una anécdota.
Una mala definición escrita en una ley puede afectar derechos.
La discusión que México necesita sobre inteligencia artificial y redes sociales no debería comenzar preguntando únicamente si estamos a favor o en contra de regularlas.
Antes hay preguntas más elementales.
¿Qué problema queremos resolver?
¿Qué tecnología lo está provocando?
¿Quiénes son los responsables?
¿Qué evidencia tenemos?
¿Qué conductas ya están prohibidas?
¿Cuáles requieren una nueva regulación?
¿Y cómo evitaremos que una herramienta creada supuestamente para combatir bots y campañas artificiales termine utilizándose contra personas reales?
Tal vez ésa sea la parte de esta discusión que todavía falta.
Porque antes de decidir cómo regular una tecnología, convendría asegurarnos de que quienes van a hacerlo entienden, realmente, cómo funciona.