- PVSM.RU - https://www.pvsm.ru -

Googlebot выполняет Javascript с трёхдневной задержкой

Как известно, с прошлого лета Googlebot научился исполнять Javascript [1], чтобы парсить менюшки и заходить в разные относительно закрытые области сайта. Год назад Googlebot также научился делать POST-запросы [2] через Ajax, проходить капчу и подбирать пароль к админке.

Googlebot исполняет скрипты не мгновенно, а с задержкой в несколько часов или даже несколько дней. Веб-мастер сайта iFixit.com обнаружил это случайно [3]. Он убрал с фронтенда ненужную функцию по сообщению временной зоны пользователя через Ajax, удалил лишний код с бэкенда, но спустя трое суток всё ещё получал ошибки от кого-то, кто исполнял этот скрипт.

Oct 18 23:40:40 php: ◼|>>> [66.249.76.39] makeprojects.com {UserError} /Project/See-Thru+Potato+Cannon/5/1 Exception - All:
Oct 18 23:40:40 php: Unknown ajax response function: setTimezone in ... <<<|◼>

Блок IP-адресов принадлежит Google [4]. Очевидно, что к бэкенду ломится Googlebot — и это спустя трое суток после изменений на сайте.

Вероятно, в Сети стало так много Javascript’ов, что даже Google с трудом с ними справляется. Так что веб-мастерам нужно быть аккуратнее с внесением изменений. Нужно учитывать, что Googlebot может запросить с сервера страницы трёхдневной давности.

Автор: alizar


Сайт-источник PVSM.RU: https://www.pvsm.ru

Путь до страницы источника: https://www.pvsm.ru/javascript/17717

Ссылки в тексте:

[1] научился исполнять Javascript: http://habrahabr.ru/post/97607/

[2] научился делать POST-запросы: http://habrahabr.ru/post/130258/

[3] обнаружил это случайно: http://itbrokeand.ifixit.com/2012/10/21/google-bot-delays-javascript.html

[4] принадлежит Google: http://www.tcpiputils.com/browse/ip-address/66.249.76.39