Rozšírené hľadanie
Pondelok 25. November 2024 |
meniny má Katarína

Root.cz - zprávičky 19.02.2024 17:15 Soubor robots.txt navrhl Martijn Koster v únoru 1994, tedy před 30 lety. Původně měl za úkol bránit robotům, co procházeli a indexovali internet pro vyhledávače jako byla AltaVista, Lycos či WebCrawler. Důvodem tenkrát bylo většinou slabé internetové spojení, které mohlo mnoho robotů, nebo špatně napsaný robot zahltit.