Los 5 Acuerdos Globales que Deciden Qué Puede Hacer la Inteligencia Artificial Con Tu Vida

He pasado buena parte de los últimos meses siguiendo la trayectoria de una palabra que apenas existía hace una década: gobernanza de la inteligencia artificial. No es un término atractivo, pero es el nombre que recibe el esfuerzo de gobiernos, organismos internacionales y empresas por poner límites a algo que evoluciona más rápido que las leyes. Me interesé por este tema después de que un banco me negara un crédito. La respuesta fue automática. Nadie supo explicarme qué modelo matemático había tomado la decisión ni qué datos usó para descartarme. Esa experiencia privada es, en realidad, un asunto público. Hay cinco instrumentos globales que deciden si una aplicación puede escanear tu cara, si un algoritmo puede puntuarte socialmente o si un dron puede decidir por sí solo a quién ataca. La mayoría de las personas no los conoce. Yo mismo los descubrí en orden accidental.

El primero que apareció en mi radar fue el Reglamento Europeo de Inteligencia Artificial. La Unión Europea lo diseñó como una pirámide de riesgos. Los sistemas de riesgo inaceptable están prohibidos. Entre ellos se encuentran el reconocimiento facial en espacios públicos por parte de las fuerzas del orden, la puntuación social y los juguetes que usan IA para explotar a menores. Lo que casi nadie menciona es que esta prohibición del reconocimiento facial no fue la primera idea de los legisladores. En el borrador original se permitía con condiciones. Después de dos años de negociaciones y una presión ciudadana notable, la prohibición se endureció. Pero no es absoluta: las autoridades pueden pedir una excepción judicial para casos de terrorismo o desapariciones. El reglamento también obliga a los bancos y aseguradoras que usan algoritmos para evaluar tu solvencia a someter sus sistemas a una evaluación de conformidad antes de ponerlos en marcha. Es decir, el mismo tipo de proceso que exige un ascensor antes de instalarse. Los ascensores llevan décadas regulados. Los algoritmos de crédito, hasta hace poco, no.

El proceso legislativo fue un campo de batalla silencioso. Cuando la propuesta se presentó en 2021, nadie mencionaba los grandes modelos de lenguaje. Los redactores pensaban en IA aplicada, no en sistemas generativos. Después de la oleada de herramientas como ChatGPT, el parlamento tuvo que improvisar un capítulo entero para regular los modelos de propósito general. Esa improvisación retrasó la ley, pero produjo una de las primeras obligaciones del mundo para marcar contenido sintético. Ahora, un video o audio creado por una máquina debe llevar una etiqueta visible. El detalle menos conocido es el alcance extraterritorial: no importa si una empresa tiene su sede en Silicon Valley o en Singapur. Si ofreces servicios a ciudadanos europeos, las reglas se aplican igual. Eso significa que el mayor bloque comercial del mundo está exportando sus valores a través del mercado, no con discursos sino con multas que pueden alcanzar el siete por ciento de la facturación global. Las empresas prefieren cumplir antes que arriesgarse a perder el acceso a medio millón de consumidores.

El segundo instrumento que encontré fue obra de la OCDE. Hacia 2019, cuarenta y dos países adoptaron un conjunto de principios que hoy sirven como base para muchas leyes nacionales. Lo que me sorprendió no fue su contenido, que exige transparencia, responsabilidad y respeto por los derechos humanos. Lo sorprendente es su método. La OCDE no tiene ejército ni tribunales. Sus principios son voluntarios. Sin embargo, opera un sistema de revisión entre pares que funciona como un examen público: cada país tiene que demostrar cómo está implementando las recomendaciones y recibe críticas de sus colegas. Es una presión social a escala diplomática. En 2024 actualizaron los principios para incluir la IA generativa y los efectos en el trabajo, pero conservaron una definición de sistema de IA que se volvió casi universal. Definir algo antes de regularlo es mitad de la batalla, aunque nadie lo reconozca.

Un hecho curioso de la OCDE es que su influencia se siente más en los países que no son miembros que en los propios miembros. Las economías emergentes que no quieren adoptar la ley europea por considerarla demasiado dura, ni la estadounidense por considerarla demasiado laxa, usan los principios de la OCDE como un término medio. Es una gobernanza de baja intensidad, pero de gran penetración. La definición de sistema de IA de la OCDE parece aburrida, pero es deliberadamente neutral: describe un sistema basado en máquina que recibe entradas y genera salidas que influyen en entornos. Esa neutralidad es lo que la hace útil. No prescribe sanciones ni establece jerarquías de riesgo. En cambio, obliga a cada país a adaptar la definición a su contexto jurídico. Esa flexibilidad explica por qué sigue vigente mientras otras iniciativas más ambiciosas han quedado atrapadas en disputas ideológicas.

El tercer acuerdo me llevó a París. La UNESCO aprobó en 2021 la primera recomendación global sobre ética de la inteligencia artificial, respaldada por los 193 estados miembros. Este documento no se limita a sugerencias vagas. Prohíbe explícitamente la puntuación social, como la que se usa en algunos sistemas de crédito o comportamiento, y también rechaza la vigilancia masiva. Fue adoptada por aclamación, no por votación. En diplomacia, eso significa un consenso tan amplio que no se quiso someter a un recuento. Lo que más me llama la atención es su origen: mientras Europa hablaba de mercados y la OCDE de tecnología, la UNESCO puso el foco en los derechos culturales y la dignidad. Fue impulsada por países del Sur global, que veían la IA como un continuo del colonialismo de datos. Ese ángulo suele omitirse en los análisis occidentales. La recomendación no es obligatoria, pero ofrece a los países pequeños un lenguaje jurídico común para exigir explicaciones a las grandes empresas. Cuando un país como Brasil o India quiere defenderse de términos de servicio abusivos, tiene un documento firmado por todos para apoyarse. La UNESCO añadió una metodología de evaluación de preparación, un cuestionario que mide las capacidades institucionales de cada país para gobernar la IA. El problema es que no ofrece incentivos para responderlo. Apenas medio centenar de países lo ha completado.

Poco después llegó el cuarto instrumento, y este fue el más extraño. En noviembre de 2023, en una mansión inglesa llamada Bletchley Park, representantes de Estados Unidos, China y otras dos docenas de países firmaron una declaración sobre los riesgos de los modelos avanzados de IA. Lo extraordinario no fue el texto, que reconoce la existencia de riesgos con un lenguaje cuidadoso y evita compromisos concretos. Lo extraordinario fue que China y Estados Unidos, que no se ponen de acuerdo en casi nada, coincidieran en que los sistemas de IA más potentes pueden causar daños graves. El lugar tampoco era casual: allí descifraron la máquina Enigma durante la Segunda Guerra Mundial. Hay algo inquietante en que el origen simbólico de la computación moderna haya servido de escenario para hablar del riesgo de extinción humana. La declaración se gestó en unos meses, un ejercicio de diplomacia de emergencia. El texto final reconoce peligros como los ciberataques o la desinformación, pero no define qué modelos cuentan como avanzados. Esa vaguedad fue intencional. Incluir una definición habría hecho imposible el acuerdo.

La declaración de Bletchley fue criticada por no ser vinculante. Pero tiene un efecto práctico que pocos advierten: creó una red de institutos de seguridad de IA que comparten pruebas y metodologías. Antes, los laboratorios evaluaban sus propios modelos sin estándares externos. Ahora, al menos entre los países firmantes, hay un lenguaje común para hablar de capacidad, alineación y control. No es una policía global, pero es una vía de contacto diplomático que no existía. El segundo día de la cumbre se abrió a las empresas, y no fue casualidad: el acuerdo político solo tiene sentido si los laboratorios se obligan a informar sobre sus pruebas de seguridad. Algunos ya lo hacen. Otros, simplemente, asisten para no quedar fuera de la conversación.

El quinto acuerdo, si puede llamarse así, es el más antiguo y el que más me frustra: las negociaciones sobre armas autónomas en la ONU. Desde 2014 se discute en Ginebra si es aceptable que un sistema de armas seleccione y ataque objetivos sin intervención humana. Hay una coalición llamada Stop Killer Robots que impulsa un tratado preventivo. Hay decenas de países que lo apoyan. Pero hay también potencias militares que se resisten a aceptar cualquier prohibición porque ya invierten millones en esta tecnología. Lo que la mayoría ignora es que el debate técnico se ha convertido en una disputa lingüística. La frase mágica es control humano significativo. Para algunos, eso significa que un humano debe apretar el gatillo. Para otros, basta con que un humano haya supervisado el diseño del sistema. Mientras el mundo discute si la supervisión puede ser a posteriori, los drones autónomos ya se usan en varios conflictos. En 2024, la Asamblea General de la ONU aprobó una resolución sobre inteligencia artificial por consenso, pero omitió cualquier mención a los sistemas de armas autónomas. Esa omisión fue otro fracaso silencioso.

Lo que me llevo de esta exploración es que no hay una única ley mundial. Hay un mosaico. La Unión Europea impone multas; la OCDE ofrece estándares; la UNESCO da legitimidad; Bletchley abre canales de diálogo; la ONU intenta frenar lo que aún puede pararse. Cada uno actúa en una capa diferente. Juntos, dibujan un sistema imperfecto pero real. Un sistema lleno de vacíos, pero que ya está cambiando el comportamiento de gobiernos y empresas. Cuando una aplicación de reconocimiento facial desaparece de un espacio público europeo, cuando un banco tiene que explicar su algoritmo, cuando un país del Sur invoca el texto de la UNESCO, todos estos documentos están respirando.

Aquel banco que me negó el crédito no me dio explicaciones. Si la solicitud hubiera ocurrido en Europa con el reglamento plenamente aplicado, habría tenido derecho a una respuesta clara y a impugnar la decisión. En mi país, que sigue los principios de la OCDE, espero que algún día esas recomendaciones se conviertan en leyes efectivas. Mientras tanto, la próxima vez que un algoritmo decida algo sobre ti, pregúntate qué acuerdo está actuando en tu defensa. No siempre habrá uno, pero cada vez es más difícil que no lo haya.