Come funziona un motore di ricerca: crawling, indicizzazione e ranking

Search box, man working with computer laptop on search box with magnifying glass button.

C’è un equivoco tenace, e tutto sommato perdonabile, sul modo in cui Google trova le cose. Molti immaginano che, nell’istante esatto in cui premiamo “invio”, un piccolo impiegato digitale parta di corsa a perlustrare il web in cerca della pagina giusta. La verità è più prosaica e infinitamente più affascinante: quando digiti una query, Google non sta cercando nel web. Sta cercando in una copia del web che ha già scaricato, letto, catalogato e ordinato molto prima che tu ti svegliassi stamattina. La ricerca vera — quella faticosa, paziente, instancabile — è già avvenuta.

Capire questo meccanismo non è un vezzo da tecnici. È il primo passo per smettere di chiedersi perché il mio sito non compare su Google e iniziare a fare qualcosa al riguardo. Perché un motore di ricerca lavora in tre fasi precise, e in ciascuna di esse il tuo sito può brillare o sparire nel nulla.

Le tre fasi che decidono se esisti su Google

Tutto ciò che Google fa con il tuo sito si riduce a tre operazioni, in sequenza: lo scopre, lo capisce, lo ordina. In gergo: scansione, indicizzazione e posizionamento. Sembrano sinonimi, e invece sono tre stanze separate, ognuna con la sua porta. Se non superi la prima, le altre due non esistono nemmeno per te.

Scansione (crawling): il ragno che non dorme mai

La prima fase si chiama crawling, e l’incaricato è un software di nome Googlebot — un programma che gli addetti ai lavori chiamano affettuosamente “ragno” o “crawler”, perché si muove sul web esattamente come un ragno sulla tela: seguendo i fili. Quei fili sono i link. Googlebot atterra su una pagina, ne scarica il contenuto, individua tutti i collegamenti che vi trova e li segue uno per uno, di pagina in pagina, di sito in sito, senza fermarsi mai.

Ne deriva una verità tanto banale quanto spietata: se a una pagina non punta alcun link, se è bloccata dal file robots.txt o se il server è così lento che il ragno si stanca prima di averla caricata, quella pagina per Google non esiste. Non è penalizzata, non è in fondo alla classifica: è semplicemente fuori dal gioco, come un negozio bellissimo costruito in fondo a una strada senza ingresso.

Indicizzazione: la biblioteca più grande mai costruita

Una volta scaricata la pagina, Google deve capire di cosa parla e decidere se conservarla. È la fase di indicizzazione. Il motore analizza il testo, le immagini, i dati strutturati, la gerarchia degli heading, e prova a dare un senso al tutto: di cosa tratta questa pagina, quali concetti affronta, a quali entità — persone, luoghi, prodotti, marchi — è collegata. Se il giudizio è positivo, la pagina entra nell’indice di Google: una biblioteca da centinaia di miliardi di documenti, accanto alla quale la Biblioteca di Alessandria sembra uno scaffale da corridoio.

Qui c’è un punto che sfugge a molti: essere scansionati non garantisce di essere indicizzati. Google può scaricare una pagina, guardarla, decidere che è un doppione, che è troppo povera o che non aggiunge nulla a ciò che ha già, e lasciarla fuori dall’indice. È un filtro silenzioso e severo, ed è la ragione per cui certe pagine, pur esistendo, non si trovano mai.

Posizionamento (ranking): la gara che si rigioca a ogni ricerca

Solo a questo punto arriva la fase che tutti conoscono: il posizionamento, o ranking. Quando un utente digita una query, l’algoritmo pesca dall’indice tutte le pagine pertinenti e le mette in fila secondo una stima precisa: quale di queste risponderà meglio a ciò che la persona sta davvero cercando? Per deciderlo combina una quantità di segnali — pertinenza, autorevolezza, qualità, esperienza utente, contesto — e produce quell’ordine che chiamiamo pagina dei risultati.

La cosa affascinante è che questa gara non si gioca una volta sola. Si rigioca, da capo, a ogni singola ricerca, per ogni utente, tenendo conto persino del luogo da cui cerca e del dispositivo che usa. La prima posizione di oggi non è un trofeo da mettere in bacheca: è un posto che va difeso a ogni nuova query.

Vale la pena capire come l’algoritmo è cambiato, perché spiega quasi tutto ciò che funziona oggi. All’inizio, il cuore di Google era PageRank: l’intuizione, geniale nella sua semplicità, che un link da un sito a un altro fosse una sorta di voto di fiducia. Più voti autorevoli ricevevi, più salivi. Funzionava benissimo, finché qualcuno non capì che bastava fabbricare i voti.

Da allora Google ha smesso, lentamente, di leggere il web come una sequenza di parole e link, e ha iniziato a comprenderlo. Modelli come RankBrain, BERT e MUM hanno insegnato all’algoritmo a interpretare il significato, il contesto e l’intento dietro le parole — a capire, per dire, che il “tonno” di “pesca al tonno” e il “tonno” di “scatoletta di tonno” sono due cose molto diverse nella mente di chi cerca. Per questo oggi non basta ripetere una parola chiave: bisogna rispondere a un’intenzione. Il motore non conta più le parole, cerca di capire i concetti.

Dove il processo si inceppa (e cosa puoi farci)

La parte utile è questa: ogni fase ha i suoi punti di rottura, e quasi tutti si possono riparare.

Se il problema è in scansione, il colpevole è quasi sempre tecnico: link interni assenti, un robots.txt troppo zelante che sbatte la porta in faccia a Googlebot, un sito così lento da esaurire il crawl budget — il tempo e le risorse che Google decide di dedicare a esplorarti. Una buona architettura dei link interni e una sitemap.xml ordinata risolvono metà dei casi.

Se il problema è in indicizzazione, di solito è una questione di qualità o di duplicazione: pagine troppo simili tra loro, contenuti sottili, gestione confusa dei tag canonical. La cura è scrivere meno pagine ma più piene, e dire a Google con chiarezza quale versione conta.

Se il problema è in posizionamento — la pagina c’è, si trova, ma non sale — allora il discorso si sposta su contenuto, autorevolezza ed esperienza. Ed è qui che entra in gioco una strategia vera e propria, fatta di scelte editoriali, tecniche e di reputazione che vanno ben oltre la singola pagina. È il terreno su cui lavora, giorno dopo giorno, una buona agenzia SEO per tradurre la comprensione di questo meccanismo in posizioni reali e clienti veri.

Perché tutto questo ti riguarda, anche se non scrivi una riga di codice

Si potrebbe pensare che crawling, indicizzazione e ranking siano faccende da addetti ai lavori, da delegare e dimenticare. È un errore. Sapere che esistono tre fasi distinte ti permette di porre le domande giuste: il mio sito è raggiungibile? Le mie pagine sono nell’indice? E se ci sono, perché non si posizionano? Tre domande semplici che, poste nell’ordine corretto, smascherano la stragrande maggioranza dei problemi SEO molto prima che diventino costosi.

Perché alla fine la logica di Google, sotto tutta la sofisticazione tecnica, è disarmante: vuole mostrare alle persone la risposta migliore, nel modo più rapido. Tutto il resto — la scansione, l’indice, l’algoritmo — è soltanto l’enorme macchina costruita per mantenere quella promessa. Capire come gira quella macchina è il modo più onesto per farsene un alleato.

Domande frequenti

Qual è la differenza tra scansione e indicizzazione?

La scansione (crawling) è il momento in cui Googlebot scopre e scarica una pagina seguendo i link. L’indicizzazione è il passo successivo, in cui Google interpreta quel contenuto e decide se archiviarlo nel proprio indice. Una pagina può essere scansionata ma non indicizzata: Google la vede, ma sceglie di non conservarla.

Perché il mio sito non compare su Google?

Le cause si annidano in una delle tre fasi. La pagina potrebbe non essere raggiungibile da Googlebot (problema di scansione), essere stata scartata perché poco rilevante o duplicata (problema di indicizzazione), oppure essere indicizzata ma poco competitiva rispetto alle altre (problema di posizionamento). Individuare in quale fase si rompe il processo è il primo passo per risolverlo.

Cos’è il crawl budget e quando conta davvero?

Il crawl budget è la quantità di risorse che Google decide di dedicare alla scansione di un sito. Per un sito piccolo è raramente un problema; diventa rilevante per portali molto grandi, con decine di migliaia di pagine, dove sprecare quel budget su URL inutili significa lasciare le pagine importanti meno aggiornate nell’indice.

Informazioni su Cristian Locatelli 13 articoli
Sono Cristian Locatelli, un bergamasco doc cresciuto all'ombra delle mura venete, con la passione per la tecnologia stampata nel DNA, tanto da scegliere senza esitazioni gli studi in informatica. Tra una riga di codice e l'altra coltivo il sogno di trasformare la mia curiosità per algoritmi e sistemi in una professione che mi porti lontano, pur restando legatissimo alla mia terra orobica. Ma è la domenica il momento sacro: con il cuore nerazzurro e la sciarpa al collo, vivo ogni partita della mia amata Dea con la fede incrollabile del vero tifoso atalantino.