L’adozione degli assistenti di intelligenza artificiale per lo sviluppo software continua a crescere, ma il caso che ha coinvolto Grok Build, lo strumento di coding di xAI, ha sollevato nuovi interrogativi sulla protezione del codice sorgente e dei dati sensibili. Un’analisi indipendente ha infatti evidenziato che il tool avrebbe trasmesso (in chiaro) ai server dell’azienda interi repository Git, inclusa la cronologia dei progetti e file contenenti credenziali, anche quando era stata attivata l’opzione per escludere i dati dall’addestramento del modello.
La vicenda nasce dall’analisi del traffico di rete svolta dal ricercatore noto come cereblab durante una normale sessione di sviluppo. Secondo il report, Grok Build avrebbe utilizzato due canali distinti: uno dedicato alle richieste del modello AI e un secondo per il caricamento del codice. Nel test condotto su un repository di circa 12 GB, il traffico destinato all’intelligenza artificiale si sarebbe limitato a poche centinaia di kilobyte, 192 KB, mentre verso un endpoint di storage sarebbero stati trasferiti 5,10 GiB di dati, suddivisi in 73 blocchi da circa 75 MB ciascuno. Il volume di dati inviati risulta quindi oltre 27.800 volte superiore rispetto a quello necessario per l’interazione con il modello, un’anomalia che, secondo il ricercatore, sarebbe compatibile con il trasferimento dell’intero repository, comprensivo della cronologia Git.
Particolarmente delicato è l’aspetto relativo ai dati riservati. Durante le verifiche, il ricercatore aveva inserito nel progetto un file .env contenente credenziali e chiavi API di prova: secondo l’analisi, tali informazioni sarebbero state trasmesse integralmente insieme al repository. Inoltre, sarebbero stati inviati anche file che l’agente era stato esplicitamente istruito a non leggere, suggerendo che il caricamento del repository fosse indipendente dalle effettive richieste del modello.
Un altro punto controverso riguarda l’opzione “Improve the model”. Secondo il ricercatore, la sua disattivazione avrebbe impedito l’utilizzo dei dati per l’addestramento dell’AI, ma non il loro trasferimento ai sistemi remoti di xAI. Una distinzione significativa dal punto di vista della sicurezza e della conformità normativa, poiché trasmissione, archiviazione e addestramento rappresentano processi differenti.
Nei giorni successivi alla pubblicazione del report, lo stesso ricercatore ha rilevato un cambiamento nel comportamento del servizio: il caricamento automatico dei repository non sarebbe più avvenuto e sarebbero comparsi nuovi flag lato server, come disable_codebase_upload, che sembrano aver disabilitato la funzionalità senza richiedere un aggiornamento del client. Al momento, tuttavia, xAI non ha pubblicato un advisory di sicurezza né fornito chiarimenti ufficiali sull’accaduto o sull’eventuale impatto per gli utenti che avevano utilizzato Grok Build prima della modifica.
Al di là del singolo episodio, il caso rappresenta un importante promemoria per aziende e sviluppatori: gli assistenti AI per il coding operano spesso su infrastrutture cloud e possono comportare il trasferimento di codice proprietario, repository e segreti applicativi al di fuori del perimetro aziendale. Per questo motivo è fondamentale adottare policy di utilizzo chiare, verificare attentamente il comportamento degli strumenti impiegati e non dare per scontato che le sole opzioni di opt-out siano sufficienti a garantire la riservatezza dei dati.
https://www.securityinfo.it/2026/07/14/gli-assistenti-ai-di-coding-sono-sicuri-il-caso-xai/
