OpenAI, Anthropic y Google se sientan en la Casa Blanca a hablar de seguridad

La administración estadounidense convocó a las grandes de la inteligencia artificial para hablar de un marco común de pruebas de seguridad de los modelos. Entre las convocadas, OpenAI, Anthropic y Google.

La palabra que lo cambia todo: voluntario

No es una ley. Es un acuerdo entre partes sobre cómo se somete a prueba un modelo antes de sacarlo al mercado. Quien lo firma se compromete; quien no lo firma, no se compromete a nada.

Eso tiene una ventaja y un problema, y conviene ver los dos.

La ventaja es la velocidad. Un acuerdo así se monta en meses y se cambia cuando se aprende algo nuevo, sin esperar años a que se apruebe una norma que además nace vieja. En un campo que se mueve tan rápido, eso no es poca cosa.

El problema es que depende de que las empresas quieran. Y la que más prisa tenga por lanzar siempre podrá quedarse fuera, o firmar y cumplir lo justo. Sin sanción, el compromiso vale lo que valga la reputación de quien lo firma.

El contraste con Europa

Justo este mes ha entrado en aplicación general el reglamento europeo de IA, que va por el camino contrario: obliga, pone plazos y prevé sanciones.

Son dos maneras distintas de intentar lo mismo:

• Estados Unidos: acuerdos flexibles con la industria, rápidos de montar, sin obligación real.
• Europa: una norma que no admite discusión, lenta de aprobar, con consecuencias si no la cumples.

Dentro de unos años sabremos cuál ha funcionado mejor. De momento significa algo muy concreto: una empresa que opere en los dos sitios tiene que cumplir dos cosas distintas a la vez, y la europea es la que muerde.

Por qué las empresas van a estas reuniones

No es solo buena voluntad. A las empresas grandes les interesa participar en el diseño de las reglas por dos motivos:

• Para que las reglas se parezcan a lo que ya hacen. Quien ayuda a escribir el examen lo aprueba más fácil.
• Porque unas reglas comunes, aunque sean incómodas, son mejores que veinte reglas distintas en veinte países. El coste de cumplir se dispara cuando cada mercado pide una cosa.

Esto no las convierte en villanas. Explica por qué acuden.

Qué significa para ti

Si vendes a clientes europeos, lo que te obliga es la norma europea, no lo que se acuerde en Washington. Ese es el suelo que tienes que cumplir, y es el que ya está en vigor.

Ahora bien, hay dos cosas que sí te afectan y conviene tener en el radar:

• Los modelos pueden tardar más en llegar. Si pasan más pruebas antes de salir, salen más tarde y con más limitaciones de uso. No es malo, pero cambia las expectativas de "esto sale mañana".
• Tus clientes van a empezar a preguntar. No por la ley, sino por lo que leen. Prepárate una respuesta de dos frases sobre qué modelo usas, dónde se procesan los datos y qué pasa con lo que la gente escribe en tu bot. Quien tiene esa respuesta a mano transmite otra cosa.

Lo que no sabemos

Si el marco llegará a firmarse, quién lo firmará, y qué incluirán exactamente esas pruebas de seguridad. Una reunión no es un acuerdo, y de las convocatorias de este tipo salen tanto marcos completos como notas de prensa sin nada detrás.

Tampoco está claro qué pasa con las empresas de fuera —las chinas, sobre todo— que no van a sentarse en esa mesa y compiten en el mismo mercado.