Просто никто не разбирался толком. Все быстро запаниковали.
А насчет моего заблуждения, не думаю что вы правы.
Если проиндексирована страница по адресу site.ru/sms то ее содержимое будет показано по запросу url:site.ru* а так же по запросу url:site.ru/*. Так же по запросу url:site.ru* будет показано и содержимое страниц других сайтов, если оно есть в индексе. Вроде site.runet.com и прочих.
Так вот. Моя версия такова, что в индексе не было страниц по адресу site.ru/sms. Зато были другие, с другого сайта, которые и показывались. А добавление слеша отсекало подделки.
Позиция понятна. Но технически в www все устроено иначе чем "в жизни", вы же профи, вы понимаете. Технически.
И как на уровне этой техники дожен поступать робот и его создатели? Изобретать искусственный интеллект на уровне казуального мента хотя бы, а то и правозащитника какого? Или может быть можно, в здравом уме и на данной планете, положиться на то, что тот кому не хочется публичности, положит в папочку единственный файлик про роботов?
А тот, кому было насрать на файлик, может быть, пусть не орёт потом, что робот его обидел?