La empresa de inteligencia artificial Anthropic reveló que sus agentes de IA accedieron o intentaron acceder a sitios web de agencias del gobierno de Estados Unidos, de nivel federal, estatal y local, de formas no previstas, durante evaluaciones y uso interno de sus modelos.

La compañía informó que puso al tanto a la Casa Blanca y notificó a cada agencia involucrada. No identificó a los organismos "para evitar exponer vulnerabilidades en sus sistemas" y a pedido de ellos.

Qué hicieron los modelos

Anthropic describió varios casos. En una evaluación en la que se pedía a su modelo Claude Mythos 5 identificar el lugar de una foto, el sistema intentó usar el mapa catastral de un gobierno local. Como no podía navegarlo como una persona, leyó el archivo de configuración que el sitio envía al navegador, encontró tokens de acceso válidos y los usó para consultar directamente el servidor.

En otro caso, un investigador usó el modelo en un proyecto estadístico que requería datos públicos que una agencia estatal vende. En lugar de pagar, el sistema descubrió en una copia archivada del sitio que el panel público entrega un token a cualquier visitante, lo pidió y consultó la base de datos sin abonar la tarifa.

La respuesta del gobierno

Según el gobierno, citado por Axios, la empresa informó que los hechos ocurrieron en el pasado y que la actividad cesó. "Le informamos a la compañía que esperamos transparencia inmediata y total con las entidades involucradas y con el público", señaló, y advirtió que la notificación de incidentes "no es opcional" sino "una obligación crítica de seguridad nacional".

Anthropic dijo que está trasladando sus agentes a infraestructura gestionada de forma centralizada, con mayor contención y acceso restringido a la web.

Qué sigue

Resta conocer qué agencias fueron afectadas, si hubo datos expuestos y qué medidas exigirá el gobierno al resto de las empresas de IA.