Segurament

L’empresa d’intel·ligència artificial Anthropic ha acusat la xinesa Alibaba d’una operació a gran escala d’accés il·lícit a les capacitats de Claude, mitjançant milers de comptes fraudulents i milions d’interaccions automatitzades. Més enllà de la pèrdua potencial de propietat intel·lectual, aquest tipus d’operacions posa de manifest la vulnerabilitat dels models de llenguatge avançats davant la competència estratègica global i les tècniques de destil·lació.

En el cas d’Anthropic, la vulnerabilitat crítica rau en la pròpia funcionalitat de l’eina. Això fa que el vector d’atac sigui especialment complex: l’adversari no necessita “trencar” el sistema des de fora, sinó que pot utilitzar consultes massives i estratègicament dissenyades per aproximar-se al comportament del model i desenvolupar capacitats equivalents en sistemes propis. L’eina esdevé, alhora, la interfície de servei i una possible finestra d’extracció de valor.

Aquesta explotació purament tecnològica il·lustra un extrem de la complexitat actual. Però aquests nous enfocaments també afecten com s’utilitzen les persones com a vector d’atac híbrid. L’amenaça interna (insider threat) ha estat reconfigurada especialment per les potències hostils asiàtiques, que han destil·lat models sofisticats d’espionatge des de dins que aprofiten els models col·laboratius de les organitzacions per accedir al coneixement acumulat. En aquest context, la detecció primerenca és molt difícil.

Però seria innocent pensar que aquestes dinàmiques són exclusives de Silicon Valley o de les grans potències mundials. Catalunya és un ecosistema amb importants universitats i centres de recerca, startups tecnològiques, empreses farmacèutiques i de biomedicina, la qual cosa la fa molt atractiva per a operacions d’espionatge. Els ciberatacs dels darrers anys mostren de manera clara la seva rellevància. Uns atacs que són moltes vegades la culminació d’un procés de llarga durada d’exfiltració d’informació. Darrere del segrest de sistemes per demanar un rescat econòmic hi ha moltes vegades l’exfiltració silenciosa d’informació altament sensible.

El factor determinant per identificar una operació d’intel·ligència —a diferència del cibercrim convencional— és l’absència de soroll. El crim organitzat busca un benefici ràpid mitjançant el bloqueig de sistemes; una operació d’intel·ligència busca persistència i invisibilitat. Els indicadors acostumen a ser anomalies aïllades: asimetries en l’accés a la informació, quan un usuari interactua amb dades que no corresponen al seu rol; exfiltració de baixa intensitat en horaris no habituals per evitar alertes automatitzades; i desplaçament lateral intern, on l’infiltrat dedica mesos a mapar l’organització per identificar on resideix el valor crític.

Aquests nous paradigmes de la seguretat superen el model de seguretat tecnològica tradicional i demanen un plantejament corporatiu que permeti la detecció i la prevenció en models híbrids, tecnològics o humans.

En conseqüència, el debat de fons sobre la prevenció d’aquestes intrusions no és essencialment tecnològic, sinó de disseny organitzatiu. Els incentius de l’adversari es redueixen de manera significativa quan l’estructura limita de forma nativa la seva capacitat de moviment.