<?xml version="1.0" encoding="utf-8"?>
<feed xmlns="http://www.w3.org/2005/Atom">
	<title type="html"><![CDATA[Форум ReadyScript &mdash; Посмотрите, плз, роботс.тхт. Ничего лишнего не закрыл?]]></title>
	<link rel="self" href="http://forum.readyscript.ru/feed/atom/topic/1453/" />
	<updated>2017-12-19T15:30:26Z</updated>
	<generator>PunBB</generator>
	<id>http://forum.readyscript.ru/topic/1453/posmotrite-plz-robotstkht-nichego-lishnego-ne-zakryl/</id>
		<entry>
			<title type="html"><![CDATA[Re: Посмотрите, плз, роботс.тхт. Ничего лишнего не закрыл?]]></title>
			<link rel="alternate" href="http://forum.readyscript.ru/post/8360/#p8360" />
			<content type="html"><![CDATA[<p>Спасибо за ответы!</p>]]></content>
			<author>
				<name><![CDATA[Максим]]></name>
				<uri>http://forum.readyscript.ru/user/578/</uri>
			</author>
			<updated>2017-12-19T15:30:26Z</updated>
			<id>http://forum.readyscript.ru/post/8360/#p8360</id>
		</entry>
		<entry>
			<title type="html"><![CDATA[Re: Посмотрите, плз, роботс.тхт. Ничего лишнего не закрыл?]]></title>
			<link rel="alternate" href="http://forum.readyscript.ru/post/8355/#p8355" />
			<content type="html"><![CDATA[<p>Вот например как сделано у меня:<br /></p><div class="codebox"><pre><code>User-agent: *
Disallow: /cart*
Disallow: /install*
Disallow: /feedback*
Disallow: /catalog/?query=*
Disallow: /auth*
Disallow: /my*
Disallow: /deliverycost*
Disallow: /register*
Disallow: /bitrix*
Disallow: /linki*
Disallow: /templates/buymysoft/mont.pdf
Disallow: *sort=*
Disallow: *?add*
Disallow: *referer=*
Disallow: *query=*
Disallow: *[cost]*
Disallow: *?pageSize*
Disallow: *?viewAs*
Disallow: *?frommarket=*
Disallow: /feedback-3/
Disallow: *pageSize=*
Disallow: *?;p=*
Disallow: *amp*
Disallow: *amp=*
Disallow: *utm_source*
Disallow: *utm_campaign*
Disallow: *utm_medium*
Disallow: *?%3B*
Disallow: /catalog/chasy/
Disallow: /catalog/gotovye--vyshitye-kartiny/
Disallow: /catalog/lastochki/
Disallow: /catalog/riolis-33268/
Disallow: /catalog/skrytaya-kategoriya/
Disallow: /catalog/supercena/
Disallow: /catalog/talismany-i-oberegi-biserom/
Disallow: /catalog/zhenskie-sorochki/
Disallow: /text-0*</code></pre></div>]]></content>
			<author>
				<name><![CDATA[Закусило Александр]]></name>
				<uri>http://forum.readyscript.ru/user/20/</uri>
			</author>
			<updated>2017-12-19T08:48:38Z</updated>
			<id>http://forum.readyscript.ru/post/8355/#p8355</id>
		</entry>
		<entry>
			<title type="html"><![CDATA[Re: Посмотрите, плз, роботс.тхт. Ничего лишнего не закрыл?]]></title>
			<link rel="alternate" href="http://forum.readyscript.ru/post/8353/#p8353" />
			<content type="html"><![CDATA[<div class="quotebox"><cite>Владимир 1916 пишет:</cite><blockquote><p>А правило в Disallow: разве не должно начинаться со слеша? Во всех примерах, которые видел ранее почему-то в начале стоит /</p><p>Как тут, например, <a href="http://forum.readyscript.ru/post/7481/#p7481">http://forum.readyscript.ru/post/7481/#p7481</a></p></blockquote></div><p>Нет, оно в данном случае вообще не обязательно.</p>]]></content>
			<author>
				<name><![CDATA[Закусило Александр]]></name>
				<uri>http://forum.readyscript.ru/user/20/</uri>
			</author>
			<updated>2017-12-19T08:43:46Z</updated>
			<id>http://forum.readyscript.ru/post/8353/#p8353</id>
		</entry>
		<entry>
			<title type="html"><![CDATA[Re: Посмотрите, плз, роботс.тхт. Ничего лишнего не закрыл?]]></title>
			<link rel="alternate" href="http://forum.readyscript.ru/post/8351/#p8351" />
			<content type="html"><![CDATA[<div class="quotebox"><cite>Максим пишет:</cite><blockquote><p>Александр, спасибо за ответ.</p><p>1) по Allow&nbsp; - понял.<br />2) по указаниям отдельных правил для поисковиков -&nbsp; тоже понял.<br />3) Disallow: *?query=* - ОК<br />4) По фильтрам и навигации: как раз много страниц оттуда индексировалось, в том числе от этого и хочу избавиться. Мне кажется это лишнее. Я ошибаюсь?</p></blockquote></div><p>Ну всё зависит от того, что вы хотите получить. Например Вы продаёте сапоги. И при применении фильтра остаются только сапоги красного цвета. Человек, который ищет сапоги красного цвета, куда охотнее перейдет? На страницу общую с сапогами, или на страницу с сапогами красного цвета?</p>]]></content>
			<author>
				<name><![CDATA[Закусило Александр]]></name>
				<uri>http://forum.readyscript.ru/user/20/</uri>
			</author>
			<updated>2017-12-19T08:42:08Z</updated>
			<id>http://forum.readyscript.ru/post/8351/#p8351</id>
		</entry>
		<entry>
			<title type="html"><![CDATA[Re: Посмотрите, плз, роботс.тхт. Ничего лишнего не закрыл?]]></title>
			<link rel="alternate" href="http://forum.readyscript.ru/post/8349/#p8349" />
			<content type="html"><![CDATA[<p>А правило в Disallow: разве не должно начинаться со слеша? Во всех примерах, которые видел ранее почему-то в начале стоит /</p><p>Как тут, например, <a href="http://forum.readyscript.ru/post/7481/#p7481">http://forum.readyscript.ru/post/7481/#p7481</a></p>]]></content>
			<author>
				<name><![CDATA[Владимир 1916]]></name>
				<uri>http://forum.readyscript.ru/user/417/</uri>
			</author>
			<updated>2017-12-19T07:36:44Z</updated>
			<id>http://forum.readyscript.ru/post/8349/#p8349</id>
		</entry>
		<entry>
			<title type="html"><![CDATA[Re: Посмотрите, плз, роботс.тхт. Ничего лишнего не закрыл?]]></title>
			<link rel="alternate" href="http://forum.readyscript.ru/post/8348/#p8348" />
			<content type="html"><![CDATA[<p>Александр, спасибо за ответ.</p><p>1) по Allow&nbsp; - понял.<br />2) по указаниям отдельных правил для поисковиков -&nbsp; тоже понял.<br />3) Disallow: *?query=* - ОК<br />4) По фильтрам и навигации: как раз много страниц оттуда индексировалось, в том числе от этого и хочу избавиться. Мне кажется это лишнее. Я ошибаюсь?</p>]]></content>
			<author>
				<name><![CDATA[Максим]]></name>
				<uri>http://forum.readyscript.ru/user/578/</uri>
			</author>
			<updated>2017-12-19T07:08:36Z</updated>
			<id>http://forum.readyscript.ru/post/8348/#p8348</id>
		</entry>
		<entry>
			<title type="html"><![CDATA[Re: Посмотрите, плз, роботс.тхт. Ничего лишнего не закрыл?]]></title>
			<link rel="alternate" href="http://forum.readyscript.ru/post/8343/#p8343" />
			<content type="html"><![CDATA[<p>Выставляйте Allow только тогда когда вы закрываете раздел, но в хотите один подраздел в Вашем разделе открыть. Например. У вас есть раздел Автомобили, вы его закрыли от индексации через Disallow. Внутри него лежат Разделы Ваз, Holda и Lexus. Вы хотите, чтобы раздел Lexus попадал в выдачу, тогда используйте Allow. Но суда по Вашим правилам, Allow тут вообще бессмысленный, тем более на JS и CSS и картинки. Они и так попадают в поиск.<br />Лишнее, здесь во первых указание правил Всем, потом Яндексу и Гугл и при этом одинаковое. Оставьте уже всем.<br />Второе.<br /></p><div class="codebox"><pre><code>Disallow: *?s=*
Disallow: /plugins/
Disallow: /search/</code></pre></div><p>Такого у нас не существует.<br />Лучше добавить результаты поиска из введённой поисковой строки.<br /></p><div class="codebox"><pre><code>Disallow: *?query=*</code></pre></div><p>utm метки надо закрывать, но это:<br /></p><div class="codebox"><pre><code>Disallow: *utm=*</code></pre></div><p>не UTM метки.</p><p>Вот <a href="https://www.owox.ru/blog/articles/how-to-use-utm-tags/">UTM метки</a>.</p><p>Теперь:<br /></p><div class="codebox"><pre><code>Disallow: *?bfilter*
Disallow: *?p=*
Disallow: *?pf*
Disallow: *&amp;p=*</code></pre></div><p>Зачем Вам закрыть от индексации фильтры и постраничную навигацию?</p>]]></content>
			<author>
				<name><![CDATA[Закусило Александр]]></name>
				<uri>http://forum.readyscript.ru/user/20/</uri>
			</author>
			<updated>2017-12-18T08:20:09Z</updated>
			<id>http://forum.readyscript.ru/post/8343/#p8343</id>
		</entry>
		<entry>
			<title type="html"><![CDATA[Посмотрите, плз, роботс.тхт. Ничего лишнего не закрыл?]]></title>
			<link rel="alternate" href="http://forum.readyscript.ru/post/8341/#p8341" />
			<content type="html"><![CDATA[<p>В общем в индекс попадает куча мусора.<br />Написал впервые, может что-то лишнее закрыл?</p><p>User-agent: *<br />Disallow: /admin/<br />Disallow: /plugins/<br />Disallow: /search/<br />Disallow: /cart/<br />Disallow: /register/<br />Disallow: /auth*<br />Disallow: *?s=*<br />Disallow: *sort=*<br />Disallow: *view=*<br />Disallow: *viewAs=*<br />Disallow: *utm=*<br />Disallow: *?pageSize=*<br />Disallow: *?bfilter*<br />Disallow: *?p=*<br />Disallow: *?pf*<br />Disallow: *&amp;p=*<br />Allow: /*/*.js <br />Allow: /*/*.css <br />Allow: */uploads</p><p>User-agent: GoogleBot<br />Disallow: /admin/<br />Disallow: /plugins/<br />Disallow: /search/<br />Disallow: /cart/<br />Disallow: /register/<br />Disallow: /auth*<br />Disallow: *?s=*<br />Disallow: *sort=*<br />Disallow: *view=*<br />Disallow: *viewAs=*<br />Disallow: *utm=*<br />Disallow: *?pageSize=*<br />Disallow: *?bfilter*<br />Disallow: *?p=*<br />Disallow: *?pf*<br />Disallow: *&amp;p=*<br />Allow: /plugins/*.css<br />Allow: /plugins/*.js<br />Allow: /plugins/*.png<br />Allow: /plugins/*.jpg<br />Allow: /plugins/*.gif</p><p>User-agent: Yandex<br />Disallow: /admin/<br />Disallow: /plugins/<br />Disallow: /search/<br />Disallow: /cart/<br />Disallow: /register/<br />Disallow: /auth*<br />Disallow: *?s=*<br />Disallow: *sort=*<br />Disallow: *view=*<br />Disallow: *viewAs=*<br />Disallow: *utm=*<br />Disallow: *?pageSize=*<br />Disallow: *?bfilter*<br />Disallow: *?p=*<br />Disallow: *?pf*<br />Disallow: *&amp;p=*<br />Allow: /plugins/*.css<br />Allow: /plugins/*.js<br />Allow: /plugins/*.png<br />Allow: /plugins/*.jpg<br />Allow: /plugins/*.gif</p>]]></content>
			<author>
				<name><![CDATA[Максим]]></name>
				<uri>http://forum.readyscript.ru/user/578/</uri>
			</author>
			<updated>2017-12-17T12:01:28Z</updated>
			<id>http://forum.readyscript.ru/post/8341/#p8341</id>
		</entry>
</feed>
