Come usare i meta-tag ROBOTS

Il meta tag ROBOTS presenta tipicamente un duplice attributo name e description, ed è un tag delle pagine utilizzabile per definire le politiche di indicizzazione delle stesse. Ad esempio:

<META NAME="ROBOTS" CONTENT="...">

dove il NAME deve essere ROBOTS ed il CONTENT può prevedere uno o più attributi separati da virgola. Il meta tag con l’attributo NAME, in altri termini, dovrebbe essere incluso nella sezione HEAD della pagina, e valorizzato a seconda dei casi al fine di specificare cosa dovrà fare il motore di ricerca al momento della scansione. Uno dei motivi per cui si evita che una pagina sia indicizzata, ad esempio, può riguardare contenuti non rilevanti del sito (o, ad esempio, potenzialmente duplicati o relativi a sezioni “dubbie”), oppure siti in fase di test che non si desidera archiviare in Google, ma possono esistere molte altre situazioni intermedie in cui è opportuno farlo. Ovviamente, nel cambiare questo tag, dovremo fare attenzione a garantire che le pagine o i link importanti non siano inavvertitamente escluse/i da Google.

È possibile, in altri termini, utilizzare questo tag per specificare se la pagina dovrà essere indicizzata o meno, ma anche (ad esempio) se i link contenuti in essa dovranno essere indicizzati o meno. A monte di tutto, pero’, perchè questo attributo abbia senso, la pagina non deve essere bloccata dalle direttive del robots.txt.

Nello specifico il “NAME” dell’attributo deve essere uguale a “ROBOTS”, mentre il campo “CONTENT” può assumere uno dei seguenti valori: “INDEX“, “NOINDEX“, “FOLLOW“, “NOFOLLOW“. I valori possono essere sia singoli che multipli, a patto che siano separati da virgola, ovviamente in modo da definire qualcosa di sensato.

Se desideri evitare che una pagina compaia nei risultati della Ricerca Google, quindi, dovrai inserire un meta tag ROBOTS con attributo  NOINDEX nel markup HTML della pagina.
Nota: se la pagina non è ancora presente in Google, così facendo, non lo sarà neanche in futuro; se invece lo è, può essere opportuno attendere il passaggio del crawler oppure “forzare” il passaggio mediante gli appositi strumenti della Search Console (o analoghi tool degli altri motori, se disponibili). L’effetto del meta tag in questione sarà effettivo solo al successivo passaggio del crawler di Google.
Eventuali backlink ad una pagina con attributo NOINDEX, di fatto, saranno irrilevanti per l’indicizzazione della stessa.

A livello pratico, dunque, potremmo avere qualcosa quattro possibili opzioni di base:

<META NAME="ROBOTS" CONTENT="NOINDEX, FOLLOW">
<META NAME="ROBOTS" CONTENT="INDEX, NOFOLLOW">
<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">
<META NAME="ROBOTS" CONTENT="INDEX, FOLLOW">

che nella pagina web, nel caso tre, verranno concretizzati in questi termini:

<html>
<head>
<title>...</title>
<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">
</head>

Il significato è presto detto: usare il primo tag con NOINDEX, FOLLOW indica a Google/Bing di non indicizzare la pagina corrente, ma di seguire i link contenuti in essa; il secondo INDEX, NOFOLLOW indica invece di indicizzare il contenuto e di ignorare i link; il terzo esclude sia pagina che link dal motore mentre il quarto non mette vincoli di alcun tipo nè al contenuto pagina nè ai link. Se non viene inserito alcun tag ROBOTS, per inciso, si assume che il valore dei meta tag sia “INDEX,FOLLOW“.

La modifica di questi valori deve essere effettuata via modifica del theme o template, in modo coerente col funzionamento del vostro CMS: in WordPress (ma anche in altri ambienti, in effetti), ci sono numerosi plugin che permettono di controllare facilmente questi attributi, come SEO Yoast e SEO Ultimate.

(fonti: www.robotstxt.org/meta.html, support.google.com/webmasters/answer/93710?vid=1-635783378613794450-2566149819)

...non andare via!

In questo sito trovi tutorial, articoli sulla SEO e suggerimenti per la tua attività online: scoprili adesso!

Leggi anche

Come indicizzare un sito Premessa Indicizzare un sito, senza scendere in dettagli tecnici, equivale a "farlo conoscere" ad un motore di ricerca (Bing, Google, ecc.) in modo c...
Come fare SEO per siti di e-commerce La SEO sui siti di e-commerce è probabilmente la migliore, se possiamo dire così, sia a scopo didattico (per imparare questo mestiere) che puramente r...
Ottimizzare un sito in ottica SEO: indicazioni di ... Fare SEO per il tuo sito può essere spesso un'esperienza stimolante e ricca di spunti sempre nuovi, a patto di disporre della sufficente flessibilità ...
Guida operativa ai tag di SEO Yoast: %%title%%, %%... Che SEO Yoast sia uno dei plugin più usati di WordPress credo di poterlo affermare senza rischiare quasi nulla; del resto, le alternative di plugin SE...
5 verifiche da fare subito se il traffico del tuo ... Se le visite sono in calo e provengono da una fonte come un motore di ricerca (tipicamente Google), c'è da dire che le cause possono essere varie, e q...
8 punti critici per ottimizzare un sito multilingu... Realizzare un sito multilingua è difficile già di suo e, come spiegavo anche in un altro articolo (leggi: Come realizzare un sito multilingua), includ...