रोबोट.txt नियम
Review क्या महत्वपूर्ण उत्पाद URLs या क्रॉलर समूह robots.txt द्वारा अवरुद्ध हैं, जिसमें खोज और AI क्रॉलर उपयोगकर्ता एजेंटों के उद्देश्य से नियम शामिल हैं।
जांचें कि क्या खोज और AI क्रॉलर robots.txt, मेटा रोबोट, X-Robots-Tag, साइटमैप, canonical और रेंडर-पेज सिग्नल की समीक्षा करके आपके उत्पाद पृष्ठों को खोज सकते हैं, ला सकते हैं, अनुक्रमित कर सकते हैं और उन पर भरोसा कर सकते हैं।
कोई लॉगिन आवश्यक नहीं · निःशुल्क स्कैन · तुरंत ऑनलाइन रिपोर्ट
ऑडिट कवरेज
Review क्या महत्वपूर्ण उत्पाद URLs या क्रॉलर समूह robots.txt द्वारा अवरुद्ध हैं, जिसमें खोज और AI क्रॉलर उपयोगकर्ता एजेंटों के उद्देश्य से नियम शामिल हैं।
मेटा रोबोट और X-Robots-Tag निर्देशों की जांच करें जो robots.txt फ़ेच की अनुमति देने पर भी अनुक्रमण या लिंक का अनुसरण करने से रोक सकते हैं।
साइटमैप, canonical, hreflang, और आंतरिक-लिंक सिग्नल देखें ताकि क्रॉलर पसंदीदा उत्पाद URL ढूंढ सकें।
उन पृष्ठों की पहचान करें जहां JavaScript, रीडायरेक्ट, पासवर्ड गेट्स, जियोफेंसिंग, या ऐप विफलताएं क्रॉलर्स से उत्पाद तथ्य छिपाती हैं।
क्रॉलर एक्सेस मानचित्र
क्रॉलर एक्सेस एक स्विच नहीं है. robots.txt में एक पृष्ठ की अनुमति दी जा सकती है, जो noindex द्वारा अवरुद्ध है, साइटमैप से गायब है, canonical दूर है, या ब्राउज़र के लिए पढ़ने योग्य है लेकिन क्रॉलर के लिए अधूरा है। यह चेकर प्रत्येक परत को अलग करता है ताकि आप देख सकें कि कौन सा गेट जोखिम पैदा कर रहा है।
robots.txt नियंत्रित करता है कि विशिष्ट उपयोगकर्ता एजेंटों को URL लाने की अनुमति है या नहीं। यह क्रॉल नियंत्रण के लिए उपयोगी है, लेकिन यह अनुक्रमण, रैंकिंग, या AI दृश्यता के समान नहीं है।
उदाहरण संकेत
User-agent: OAI-SearchBot / GPTBot / ClaudeBot / Claude-SearchBot / PerplexityBot / Google-Extended; Disallow: /products/क्या सत्यापित करें?
एक क्रॉलर एक पृष्ठ ला सकता है और फिर भी उसे इसे अनुक्रमित न करने के लिए कहा जा सकता है। मेटा रोबोट और HTTP X-Robots-Tag हेडर अक्सर बताते हैं कि क्यों कोई उत्पाद URL खोजने योग्य है लेकिन खोज से अनुपस्थित है।
उदाहरण संकेत
meta robots: noindex, nofollow; X-Robots-Tag: noindexक्या सत्यापित करें?
साइटमैप और canonicals क्रॉलर्स को बताते हैं कि किस उत्पाद URL को आइटम का प्रतिनिधित्व करना चाहिए। यहां बहाव AI बना सकता है और खोज सिस्टम गलत संस्करण, बाजार या संग्रह संदर्भ एकत्र कर सकता है।
उदाहरण संकेत
sitemap.xml URL + canonical उत्पाद URL + hreflang बाज़ार समकक्षक्या सत्यापित करें?
AI और खोज क्रॉलर्स को अंतिम उत्पाद तथ्यों की आवश्यकता होती है, न कि केवल एक खाली शेल की। रेंडरिंग विफलताएं स्कीमा, मूल्य, उपलब्धता या उत्पाद विशेषताओं को अदृश्य बना सकती हैं।
उदाहरण संकेत
प्रस्तुत HTML: Product स्कीमा, मूल्य, उपलब्धता, विशेषताएँ, समीक्षाएँ, वापसी और शिपिंग संदर्भक्या सत्यापित करें?
सामान्य अवरोधक
नियम GPTBot, OAI-SearchBot, ClaudeBot, Claude-SearchBot, और PerplexityBot को अस्वीकार कर सकते हैं, या Google-Extended के माध्यम से ऑप्ट आउट कर सकते हैं। व्यापक बॉट पैटर्न दुर्घटनावश उत्पाद पृष्ठों को ब्लॉक भी कर सकते हैं।
एक उत्पाद पृष्ठ लाया जा सकता है लेकिन फिर भी मेटा रोबोट या X-Robots-Tag noindex निर्देशों द्वारा बाहर रखा जा सकता है।
क्रॉलर एक URL की खोज कर सकते हैं जबकि canonical, hreflang, या साइटमैप प्रविष्टियाँ एक अलग बाज़ार, संस्करण या संग्रह URL की ओर इशारा करती हैं।
विलंबित JavaScript, ऐप विजेट, रीडायरेक्ट, या बॉट सुरक्षा मूल्य, उपलब्धता, स्कीमा, या विशेषताओं को क्रॉलर-दृश्यमान पृष्ठ से बाहर रख सकती है।
कार्यप्रवाह
01
सार्वजनिक उत्पाद पृष्ठ का उपयोग करें जिसे आप खोज इंजन और AI सिस्टम से खोजना चाहते हैं, पूर्वावलोकन या व्यवस्थापक URL का नहीं।
02
ShopGox robots.txt, पृष्ठ निर्देश, साइटमैप और canonical सिग्नल और प्रस्तुत उत्पाद आउटपुट को एक साथ जांचता है।
03
यह तय करने के लिए रिपोर्ट का उपयोग करें कि क्या फिक्स robots.txt, थीम टेम्प्लेट, हेडर, साइटमैप सेटिंग्स, ऐप नियम या प्लेटफ़ॉर्म कॉन्फ़िगरेशन में है।
अक्सर पूछे जाने वाले प्रश्न
अधिक उपकरण
एआई शॉपिंग रेडीनेस स्कैनर
एआई खोज तत्परता, उत्पाद स्कीमा, क्रॉलर एक्सेस सिग्नल, उत्पाद विशेषताएँ, अर्थ संबंधी स्पष्टता और संरचित डेटा स्थिरता के लिए ईकॉमर्स उत्पाद पृष्ठों को स्कैन करें।
उत्पाद स्कीमा परीक्षक
उत्पाद स्कीमा, ऑफ़र डेटा, JSON-LD स्थिरता, मूल्य, उपलब्धता, विशेषताएँ और AI खोज तैयारी के लिए ईकॉमर्स उत्पाद पृष्ठ देखें।
शॉपिफाई स्कीमा चेकर
उत्पाद पृष्ठों के लिए निःशुल्क Shopify स्कीमा चेकर। स्कैन उत्पाद स्कीमा, वैरिएंट ऑफ़र, ऐप-इंजेक्टेड मेटाडेटा, शॉपिफाई मार्केट सिग्नल और एआई खोज तैयारी।