Il problema del “furto silenzioso” di contenuti
Immagina Internet come una grande città piena di negozi (i siti web). Prima, quando cercavi qualcosa su Google, era come se Google ti indicasse la strada verso il negozio giusto, e tu ci andavi a comprare o leggere quello che ti serviva.
Ora è cambiato tutto. I robot delle intelligenze artificiali (come ChatGPT, Claude, ecc.) stanno girando per tutti questi “negozi” come aspirapolveri giganti, raccogliendo tutto quello che trovano per imparare e diventare più intelligenti. Eccoli, i nuovi predatori digitali: si chiamano crawler AI e, da quando l’intelligenza artificiale ha preso il volo, sono diventati l’incubo ricorrente di chiunque gestisca un servizio online. Con la corsa sfrenata allo sviluppo dell’AI generativa, questi bot affamati di dati hanno invaso il web come sciami invisibili, setacciando ogni angolo della rete e generando un traffico tale da mandare in tilt interi sistemi.
Il mondo tech è in fermento: aziende, sviluppatori e smanettoni di ogni sorta stanno cercando di costruire argini contro questa marea algoritmica. Ma finora, le difese si sono rivelate fragili come castelli di sabbia sotto la pioggia.
Il problema: prendono ma non danno nulla in cambio
Ecco il punto critico:
- Prima: Google mandava le persone nei siti → i siti guadagnavano visite e pubblicità
- Ora: I bot AI leggono tutto ma non mandano nessuno nei siti originali
È come se qualcuno entrasse nella tua libreria, fotografasse tutti i libri per impararli a memoria, ma poi non comprasse mai niente e non mandasse nemmeno clienti! 📚
I numeri che fanno paura
Cloudflare (che monitora il traffico internet) ha scoperto che:
- GPTBot di OpenAI è diventato il bot più attivo: dall’4,7% all’11,7% in un anno
- ClaudeBot è cresciuto dal 6% al 9,9%
- Il 79% di questi robot serve solo per “allenare” le AI, non per portare persone sui siti
Perché dovrebbe preoccuparci?
Se i siti web non ricevono più visite, non possono più sopravvivere economicamente. È come se:
- I giornali non vendessero più copie
- I blogger non avessero più lettori
- I creatori di contenuti non guadagnassero più nulla
Risultato: Rischiamo di perdere la varietà e qualità dei contenuti sul web, perché chi li crea non riesce più a mantenersi! 😰
🕷️ La guerra invisibile contro le sanguisughe del web: quali soluzioni ?
In precedenza abbiamo analizzato come nel vasto regno del web, dove i dati scorrono come fiumi d’oro, si aggirino creature affamate: i bot. Non quelli simpatici che ti aiutano a trovare un ristorante, ma quelli che razziano contenuti per nutrire intelligenze artificiali affamate. Fermarli? In teoria, basta un file chiamato robots.txt, una sorta di cartello “vietato l’ingresso” per crawler indiscreti. Peccato che i bot, come ladri esperti, possano ignorarlo senza battere un byte.
🕵️♂️ Filtri, User-Agent e altre illusioni
Si è provato a chiedere ai bot di presentarsi con un badge chiamato User-Agent, per distinguere i “buoni” dai “cattivi”. Ma anche qui, la cortesia è facoltativa. I bot possono mentire, travestirsi, e passare inosservati. I captcha, quei test che ci chiedono di cliccare su semafori e biciclette, sembrano più efficaci. Ma i bot evolvono, imparano, e persino questi ostacoli diventano superabili.
🧠 Quando la difesa diventa arte
Le piattaforme hanno alzato il livello: non più semplici barriere, ma veri e propri sistemi di sorveglianza digitale, degni di un thriller informatico. Cloudflare ha creato AI Labyrinth, un labirinto virtuale dove i bot vengono intrappolati in un loop infinito di pagine fasulle. Un girone dantesco per scraper.
🐍 Anubis: il guardiano del web
Ma la vera rivoluzione arriva da Xe Iaso, una programmatrice che ha pensato fuori dagli schemi. Il suo software Anubis non cerca di distinguere tra umano e macchina, ma tra bot e browser. Come? Con operazioni crittografiche via JavaScript che solo i browser veri possono eseguire. I bot, incapaci di risolvere questi enigmi, restano fuori dalla porta.
🎉 Il successo è stato immediato: Anubis è open source, adottato da enti tecnologici e persino dall’Unesco. Un piccolo software, una grande vittoria nella battaglia silenziosa contro le sanguisughe del web.
P.S.
Ad onore di cronica, la soluzione proposta da Cloudflare? Far pagare questi bot per accedere ai contenuti, così da salvare l’ecosistema digitale che conosciamo.
Da informatico a cercatore di senso
