ToolHub
فتح الأداة

منشئ Robots.txt

إنشاء ملف robots.txt للمواقع للتحكم في وصول زواحف محركات البحث

أدوات المطورين

حول هذه الأداة

أنشئ ملف robots.txt لموقعك للتحكم في كيفية وصول زواحف محركات البحث إلى صفحاتك. قم بتكوين قواعد وكيل المستخدم والمسارات المسموحة والممنوعة وإضافة عناوين Sitemap URL من خلال واجهة نموذج بسيطة. تتم جميع المعالجات محليًا في المتصفح.

الميزات الرئيسية

معاينة سريعة

حالات الاستخدام

generator seo

الأسئلة الشائعة

ما هو منشئ Robots.txt؟

منشئ Robots.txt هو أداة مطورين عبر الإنترنت تنشئ ملف robots.txt للمواقع. يعمل بالكامل في متصفحك دون إرسال أي بيانات إلى أي خادم.

ما فائدة ملف robots.txt؟

يخبر ملف robots.txt زواحف محركات البحث بالصفحات أو الأجزاء التي يجب وما لا يجب زحفها على الموقع. يساعد في إدارة ميزانية الزحف ومنع فهرسة المحتوى الحساس أو المكرر وتوجيه الروبوتات إلى Sitemap.

ما وكلاء المستخدم الذين يجب تضمينهم؟

وكلاء المستخدم الشائعون يشملون Googlebot (Google) و Bingbot (Bing) والرمز العام (*) للتطبيق على جميع الزواحف. يمكنك إضافة قواعد محددة لروبوتات مختلفة أو استخدام الرمز العام لتطبيق نفس القواعد بشكل موحد.

ما الفرق بين Allow و Disallow؟

يخبر Disallow الزواحف بعدم زيارة المسار المحدد. ينشئ Allow استثناءات لقواعد Disallow، مما يسمح للزواحف بزيارة مسارات محددة داخل دليل محظور. مثلًا، يمكنك Disallow /private/ لكن Allow /private/public/.

هل يجب تضمين Sitemap URL في robots.txt؟

نعم. تضمين Sitemap URL في robots.txt يساعد محركات البحث في اكتشاف Sitemap الخاص بك بسهولة أكبر. أضفه في نهاية الملف بالصيغة Sitemap: https://yoursite.com/sitemap.xml. يوفر المنشئ حقل إدخال لهذا الغرض.