Crawler Inspector

1. Shard Calculation

Query:

Response:

Calculated Shard: 97 (from laksa176)

2. Crawled Status Check

Query:

curl -X POST \
  'http://laksa097.int.ahrefs:8124/' \
  -H 'Content-Type: text/plain' \
  -H 'X-ClickHouse-Database: crawler3' \
  -H 'Authorization: Basic YXBpOg==' \
  -d 'SELECT getAhrefsURLFromUnparsed(src_unparsed) AS found_url, ifNull(toUnixTimestamp(download_stamp), 0) AS crawl_time, ifNull(toUnixTimestamp(props_url_first_seen), 0) AS first_indexed_time, download_http_code AS http_code, src_unparsed AS src_unparsed, src_root_hash AS src_root_hash, history_drop_reason AS history_drop_reason, meta_title AS meta_title, meta_descriptions AS meta_descriptions, attrs_boilerpipe_text AS attrs_boilerpipe_text, attrs_markdown AS attrs_markdown, attrs_readable_markdown AS attrs_readable_markdown, meta_canonical AS meta_canonical FROM crawler3.page_info_local FINAL PREWHERE (src_root_hash, src_unparsed) IN ((getAhrefsRootHashFromUnparsed(getAhrefsUnparsedNoserviceFromURL(\'https://dzen.ru/video/watch/676ef15afc9ad222843a7086\')), getAhrefsUnparsedNoserviceFromURL(\'https://dzen.ru/video/watch/676ef15afc9ad222843a7086\'))) FORMAT JSONEachRow'

Response:

{"found_url":"https:\/\/dzen.ru\/video\/watch\/676ef15afc9ad222843a7086","crawl_time":1767870994,"first_indexed_time":0,"http_code":200,"src_unparsed":"ru,dzen!\/video\/watch\/676ef15afc9ad222843a7086 s443","src_root_hash":"5090322002867566497","history_drop_reason":null,"meta_title":"ЛУЧШИЕ МЕМЫ 2024 (НОВОГОДНИЙ ЗАСМЕЯЛСЯ - ПРОИГРАЛ) | ОЛЕЖЭ | Дзен","meta_descriptions":["Видео автора «ОЛЕЖЭ» в Дзене 🎦: Подписывайся на сообщество ВКонтакте и смотри мои ролики в VK Видео: https:\/\/vk."],"attrs_boilerpipe_text":"1,0×\n41,3 тыс просмотров · 1 год назад\n00:00\n\/\n09:02\nОЛЕЖЭ\n67,1 тыс подписчиков","attrs_markdown":"Войти\n\n[Всё о Дзене](https:\/\/dzen.ru\/about)[Вакансии](https:\/\/dzen.ru\/about\/careers)Дзен на iOS и Android\n\nЕщё\n\n![](https:\/\/iv.okcdn.ru\/videoPreview?id=7409774561856&type=32&idx=2&tkn=NA1Ry8klTApyjFTUFOYqv9QUQuM)\n\n![](https:\/\/iv.okcdn.ru\/videoPreview?id=7409774561856&type=32&idx=2&tkn=NA1Ry8klTApyjFTUFOYqv9QUQuM)\n\n1,0×\n\nЛУЧШИЕ МЕМЫ 2024 (НОВОГОДНИЙ ЗАСМЕЯЛСЯ - ПРОИГРАЛ)\n\n41,3 тыс просмотров · 1 год назад\n\n00:00\/09:02\n\nОЛЕЖЭ\n\n67,1 тыс подписчиков\n\nПодписаться\n\n![](https:\/\/top-fwz1.mail.ru\/counter?id=3260250;js=na)\n\n![](https:\/\/top-fwz1.mail.ru\/counter?id=3471766;js=na)\n\n![](https:\/\/mc.yandex.ru\/watch\/88704539)\n\n![](https:\/\/mc.yandex.ru\/watch\/51446871)\n\n3403818743.1851.1767870994682.41367","attrs_readable_markdown":null,"meta_canonical":null}

Filter	Status	Condition	Details
HTTP status	PASS	`download_http_code = 200`	HTTP 200
Age cutoff	PASS	`download_stamp > now() - 6 MONTH`	3.2 months ago
History drop	PASS	`isNull(history_drop_reason)`	No drop reason
Spam/ban	PASS	`fh_dont_index != 1 AND ml_spam_score = 0`	ml_spam_score=0
Canonical	PASS	`meta_canonical IS NULL OR = '' OR = src_unparsed`	Not set

Property	Value
URL	https://dzen.ru/video/watch/676ef15afc9ad222843a7086
Last Crawled	2026-01-08 11:16:34 (3 months ago)
First Indexed	not set
HTTP Status Code	200
Meta Title	ЛУЧШИЕ МЕМЫ 2024 (НОВОГОДНИЙ ЗАСМЕЯЛСЯ - ПРОИГРАЛ) \| ОЛЕЖЭ \| Дзен
Meta Description	Видео автора «ОЛЕЖЭ» в Дзене 🎦: Подписывайся на сообщество ВКонтакте и смотри мои ролики в VK Видео: https://vk.
Meta Canonical	null
Boilerpipe Text	1,0× 41,3 тыс просмотров · 1 год назад 00:00 / 09:02 ОЛЕЖЭ 67,1 тыс подписчиков
Markdown	Войти [Всё о Дзене](https://dzen.ru/about)[Вакансии](https://dzen.ru/about/careers)Дзен на iOS и Android Ещё ![](https://iv.okcdn.ru/videoPreview?id=7409774561856&type=32&idx=2&tkn=NA1Ry8klTApyjFTUFOYqv9QUQuM) ![](https://iv.okcdn.ru/videoPreview?id=7409774561856&type=32&idx=2&tkn=NA1Ry8klTApyjFTUFOYqv9QUQuM) 1,0× ЛУЧШИЕ МЕМЫ 2024 (НОВОГОДНИЙ ЗАСМЕЯЛСЯ - ПРОИГРАЛ) 41,3 тыс просмотров · 1 год назад 00:00/09:02 ОЛЕЖЭ 67,1 тыс подписчиков Подписаться ![](https://top-fwz1.mail.ru/counter?id=3260250;js=na) ![](https://top-fwz1.mail.ru/counter?id=3471766;js=na) ![](https://mc.yandex.ru/watch/88704539) ![](https://mc.yandex.ru/watch/51446871) 3403818743.1851.1767870994682.41367
Readable Markdown	null
Shard	97 (laksa)
Root Hash	5090322002867566497
Unparsed URL	ru,dzen!/video/watch/676ef15afc9ad222843a7086 s443

🕷️ Crawler Inspector

URL Lookup

Direct Parameter Lookup

1. Shard Calculation

Query:

Response:

2. Crawled Status Check

Query:

Response:

3. Robots.txt Check

Query:

Response:

4. Spam/Ban Check

Query:

Response:

5. Seen Status Check

Page Info Filters

Page Details