Come usare i meta-tag ROBOTS

Il meta tag ROBOTS presenta tipicamente un duplice attributo name e description, ed è un tag delle pagine utilizzabile per definire le politiche di indicizzazione delle stesse. Ad esempio:

<META NAME="ROBOTS" CONTENT="...">

dove il NAME deve essere ROBOTS ed il CONTENT può prevedere uno o più attributi separati da virgola. Il meta tag con l’attributo NAME, in altri termini, dovrebbe essere incluso nella sezione HEAD della pagina, e valorizzato a seconda dei casi al fine di specificare cosa dovrà fare il motore di ricerca al momento della scansione. Uno dei motivi per cui si evita che una pagina sia indicizzata, ad esempio, può riguardare contenuti non rilevanti del sito (o, ad esempio, potenzialmente duplicati o relativi a sezioni “dubbie”), oppure siti in fase di test che non si desidera archiviare in Google, ma possono esistere molte altre situazioni intermedie in cui è opportuno farlo. Ovviamente, nel cambiare questo tag, dovremo fare attenzione a garantire che le pagine o i link importanti non siano inavvertitamente escluse/i da Google.

È possibile, in altri termini, utilizzare questo tag per specificare se la pagina dovrà essere indicizzata o meno, ma anche (ad esempio) se i link contenuti in essa dovranno essere indicizzati o meno. A monte di tutto, pero’, perchè questo attributo abbia senso, la pagina non deve essere bloccata dalle direttive del robots.txt.

Nello specifico il “NAME” dell’attributo deve essere uguale a “ROBOTS”, mentre il campo “CONTENT” può assumere uno dei seguenti valori: “INDEX“, “NOINDEX“, “FOLLOW“, “NOFOLLOW“. I valori possono essere sia singoli che multipli, a patto che siano separati da virgola, ovviamente in modo da definire qualcosa di sensato.

Se desideri evitare che una pagina compaia nei risultati della Ricerca Google, quindi, dovrai inserire un meta tag ROBOTS con attributo  NOINDEX nel markup HTML della pagina.
Nota: se la pagina non è ancora presente in Google, così facendo, non lo sarà neanche in futuro; se invece lo è, può essere opportuno attendere il passaggio del crawler oppure “forzare” il passaggio mediante gli appositi strumenti della Search Console (o analoghi tool degli altri motori, se disponibili). L’effetto del meta tag in questione sarà effettivo solo al successivo passaggio del crawler di Google.
Eventuali backlink ad una pagina con attributo NOINDEX, di fatto, saranno irrilevanti per l’indicizzazione della stessa.

A livello pratico, dunque, potremmo avere qualcosa quattro possibili opzioni di base:

<META NAME="ROBOTS" CONTENT="NOINDEX, FOLLOW">
<META NAME="ROBOTS" CONTENT="INDEX, NOFOLLOW">
<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">
<META NAME="ROBOTS" CONTENT="INDEX, FOLLOW">

che nella pagina web, nel caso tre, verranno concretizzati in questi termini:

<html>
<head>
<title>...</title>
<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">
</head>

Il significato è presto detto: usare il primo tag con NOINDEX, FOLLOW indica a Google/Bing di non indicizzare la pagina corrente, ma di seguire i link contenuti in essa; il secondo INDEX, NOFOLLOW indica invece di indicizzare il contenuto e di ignorare i link; il terzo esclude sia pagina che link dal motore mentre il quarto non mette vincoli di alcun tipo nè al contenuto pagina nè ai link. Se non viene inserito alcun tag ROBOTS, per inciso, si assume che il valore dei meta tag sia “INDEX,FOLLOW“.

La modifica di questi valori deve essere effettuata via modifica del theme o template, in modo coerente col funzionamento del vostro CMS: in WordPress (ma anche in altri ambienti, in effetti), ci sono numerosi plugin che permettono di controllare facilmente questi attributi, come SEO Yoast e SEO Ultimate.

(fonti: www.robotstxt.org/meta.html, support.google.com/webmasters/answer/93710?vid=1-635783378613794450-2566149819)

Leggi anche
Lista di siti per pubblicare comunicati stampa, ar... Sarà anche una pratica fin troppo abusata, non sempre efficace e, anzi, molto spesso deprecata, ma le richieste di pubblicazione di articoli via artic...
8 punti critici per ottimizzare un sito multilingu... Realizzare un sito multilingua è difficile già di suo e, come spiegavo anche in un altro articolo (leggi: Come realizzare un sito multilingua), includ...
Come togliere una penalizzazione di Google ad un s... La rimozione delle penalizzazioni di Google è forse uno degli aspetti che preoccupano maggiormente i webmaster, specialmente quelli meno orientati all...
Come capire se hai bisogno di un SEO Non tutti hanno bisogno di fare SEO sul proprio sito, ed in questo nuovo articolo proveremo a spiegare il perchè. In breve, io credo che la SEO debba ...
10 strategie SEO per portare traffico fresco al tu... Gli articoli che trattano l'argomento "aumentare le visite" sul proprio sito, di norma, di solito si concentrano sull'aspetto "contenutistico" puro: s...
I blogger possono aiutare il tuo brand In un articolo pubblicato su white.net, Farah Ali indica brevemente 7 motivi per cui è opportuno che un brand venga citato all'interno di un blog. Ho ...