Anthropic le abre la cocina a un grupo de auditores externos: ahora pueden mirar todo, preguntar todo y publicar casi todo

A mí me revienta cuando una empresa enorme dice que es transparente y, a la hora de la verdad, te muestra una puerta con candado. Esta vez la historia es al revés: Anthropic, una de las firmas más pesada con éxito del negocio de la inteligencia artificial, decidió darle las llaves de su casa a seis personas de afuera. Y no unas llaves cualquiera: las mismas que usa cualquier empleado del área que evalúa si los modelos son seguros o si un día se les ocurre hacer cualquier locura.

Los seis pertenecen a METR, una organización sin fines de lucro dedicada justamente a eso: a poner a prueba sistemas de IA. Recibieron computadora de la empresa, un lugar físico en la oficina y acceso a las herramientas internas. Pueden conversar con el personal como si fueran parte del equipo, con una sola excepción: hay tres territorios vedados. Uno son los datos de clientes, otro es lo que la firma considera información protegida por el secreto entre abogado y cliente, y el tercero son los detalles de cómo están construidos los modelos por dentro, lo que en la jerga se llama su arquitectura.

Un esquema con escalera, no con puerta abierta

El acceso no es único ni parejo. Anthropic armó un sistema con tres niveles, como un edificio con planta baja, primer piso y azotea. Abajo del todo están los revisores tipo SecureBio, que trabajan sobre temas puntuales y necesitan autorización antes de difundir lo que encontraron. En el medio hay organizaciones que reciben más información y pueden publicar sin pedir permiso. Arriba de todo, en la azotea, está hoy METR: acceso de empleado, sin filtro para publicar evaluaciones, reportes de incidentes y hasta análisis de las prácticas internas de la empresa.

Eso no significa barra libre total. La compañía puede pedir que se tape información encuadrada en categorías muy estrechas y previamente definidas. Pero METR conserva un derecho que vale oro: si considera que esa redacción fue injustificada, puede salir a contarlo públicamente. Es la diferencia entre que te tape la boca y que te tape la nariz: podés señalar que te taparon.

Por qué hace falta tanto acceso para una auditoría útil

La empresa lo justificó con cuatro condiciones, que en criollo podríamos llamar el decálogo del auditor serio:

• Tener experiencia técnica suficiente para distinguir cuando un modelo finge estar alineado en vez de estarlo de verdad. Sí, los modelos pueden hacer teatro y actuar como buenitos mientras nadie los mira.
• Gozar de independencia económica y operativa respecto de la empresa auditada, para no terminar siendo empleado de quien tenés que controlar.
• Acceso que vaya más allá del modelo terminado e incluya cómo se lo entrenó y cómo funcionan sus mecanismos de seguridad.
• Libertad para publicar sin restricciones previas, o sea, sin que nadie pueda apretar el botón de borrar.

Anthropic también aclaró lo obvio: no puede hacer pública toda su información de seguridad, ya que parte podría servirle a actores maliciosos o es sensible desde lo comercial. Por eso el acceso profundo queda restringido a un grupo chico, con acuerdos legalmente exigibles, y el resto del personal de METR queda aislado de ese trabajo.

Antes de subir a la azotea, el equipo de METR ya había revisado varios informes de riesgo de la compañía durante el año previo. La empresa también tuvo que admitir algo incómodo, y se nota en la última línea del material de base: el comunicado queda cortado justo cuando reconoce que no puede tener el control total sobre lo que estos auditores decidan ventilar. Vamos, que hasta el gigante se da cuenta de que, a veces, abrir la puerta es la única forma de demostrar que no escondés nada raro detrás.

Mi consejo si te importa este tema

No te quedes con el título épico y empezá a mirar los informes que salgan de METR en los próximos meses. Si querés saber cómo viene la mano con la seguridad de la inteligencia artificial, seguí a quienes auditan de verdad, no a quienes solamente postean en LinkedIn que la IA es segura. Y si sos de los que todavía creen que estas empresas se controlan solas, te dejo una tarea: buscá la palabra accountability, en castellano rendición de cuentas, y fijate cuántas veces aparece en los comunicados oficiales. Después me contás.