Protocollo di esclusione robot: differenze tra le versioni
Contenuto cancellato Contenuto aggiunto
Nessun oggetto della modifica |
|||
Riga 1:
{{F|software|luglio 2011}}
Il '''protocollo di esclusione robot''' indica, nel gergo di [[internet]] e più in generale del [[web]], le regole utilizzate dai [[crawler]]
Esso sono contenute nel file '''robots.txt''', ideato nel giugno [[1994]] con il consenso dei membri della robots mailing list (robots-request@nexor.co.uk).
Riga 71:
* [[Indicizzazione (motore di ricerca)]]
* [[Motore di ricerca]]
* [[Sito web]]
== Collegamenti esterni ==
|