الكثير من أصحاب المواقع و المدونات ليس لهم علم بأهمية ملف robots.txt, رغم أن لديه أهمية بالغة و يلعب دور مهم في أرشفة المواقع, و هذا يجعله يكون واحد من الملفات التي لا غنى عنها و من الواجب أن يتوفر عليه كل موقع.
ما هو ملف robots.txt؟
robots.txt هو ملف يقوم بإعطاء توصيات و توجيهات للعناكب (robots) بصفة عامة بما يمكنهم الدخول إليه و ما لا يمكنهم الدخول إليه, و أقول توصيات لأن بعض العناكب قد لا تحترم هذه الإعدادات, خاصة العناكب المزعجة “spammers ” و عناكب القرصنة التي تدخل لفحص التغرات الأمنية في المواقع.
يستعمل ملف robots.txt غالباً من أجل منع محركات البحث من أرشفة أشياء غير نافعة للمستخدم كصفحة تسجيل الدخول, صفحة التسجيل, صفحات أو اقسام لا نريد أرشفتها و كذلك لتفادي المحتوى المتكرر في محركات البحث (خطأ قاتل بالنسبة لمحرك البحث قوقل) و حذف روابط معينة أو الموقع بأكمله منها.
كيف يمكنني إنشاء ملف robots.txt؟
لإنشاء ملف robots.txt يدويا فقط عليك تتبع المراحل التالية:
- أولا نقوم بإنشاء ملف نصّي بإمتداد
.txtنسميه robots. - ثانيا نقوم بملئ الملف “بالأوامر” التي نريد إعطاها للعناكب حسب رغبتنا.
- ثالثا نقوم برفع الملف إلى جدر الموقع (الملف الرئيسي).
هذا نمودج مثالي لملف robots.txt يمكن إستعماله في أي موقع تم إنشائه بواسطة ووردبريس, فقط يجب عليك إستبدال رابط خريطة الموقع XML Sitemap بالرابط الخص بك و طبعاً يمكنك إضافة و إزالة أي أمر حسب رغبتك.
# BEGIN XML-SITEMAP
https://saidelbakkali.com/sitemap_index.xml
# END XML-SITEMAP
User-agent: *
Crawl-delay: 10
Allow: /wp-admin/admin-ajax.php
Disallow: /wp-admin/
Disallow: /xmlrpc.php
Disallow: /*.php$
Disallow: *?replytocomكذالك يمكنك إنشاء و تحرير ملف robots.txt في ووردبريس بواسطة أحد الإضافات المخصصة لذلك كإضافة Virtual Robots.txt أو عن طريق أي إضافة أخرى توفر إمكانية التعديل عليه, كإضافة WordPress seo by Yoast مثلا.
أتمنا أن يكون قد أعجبك الموضوع, إلى اللقاء في المقالة القادمة بإذن الله.
كيفية إجبار المحررين على تعيين صورة بارزة للمقالات
كيفية إخفاء بعض الإضافات من لوحة تحكم ووردبريس
طريقة إنشاء أزرار أنيقة و جذابة داخل محتوى موقعك
تغيير لون خلفية النص عند تحديده في ووردبريس
ما هو ملف .htaccess؟
كيفية إستعمال إضافة Jetpack دون الإتصال بـ wordpress.com
تابعت درسين عن ووردبريس لك أخى سعيد وأعتقد أنهما رائعين
ولكن هذه المرة اسمح لى أن أشكرك بشدة
جزاك الله خير الجزاء
أخوك م. نايف الشهري
الشكر لك على المرور أخي, يسعدني أنه قد أعجبك الموضوع و اتمنى أن أكون دائما عند حسن الظن 🙂
لك كل الشكر على هذا الموضوع الاكثر من مفيد.
استاذي ان سمحت، ملفات ووردبريس عندي على مجلد فرعي. فهل اضع هذا الملف في المجلد الفرعي؟
ولك الشكر الجزيل
ملف robots.txt يجب وضعه في جذر الموقع, أي في المكان الذي تم تنصيب فيه ووردبريس, إذا كان ووردبريس عندك في المجلد الفرعي, نعم يجب عليك وضعه في المجلد الفرعي.
اسرتني بسرعة ردك هذا وايضاح ما اشكل عليَّ.
ثق لم تترك لي من الكلمات ما اعبر فيها عن شكري وامتناني لشخصك الحبيب.
اذاً سيصار الى ما ارشدتني اله.
الله يحفظك وييسر امرك.
اولا احب ان اشكرك جزيل الشكر على هذه الشروحات العظيمة
ثانيا لدي سؤال بسيط
هل هناك اي تعديلات يجب ان اقوم بها اذا اردت ان اضع الملف في جذر الموقع مع اني قد قمت بتنصيب المدونة على مجلد فرعي
ما دامت المدونة مرفوعة على الملف الفرعي فملف
robots.txtيجب أن يكون في نفس الملف أي الملف الفرعي, كذلك يجب عليك تغيير رابط خريطة الموقع بالرابط الخاص بموقعك, و حذف و إضافة ما تريد حسب رغبتك.لو سمحت يا اخى عندى مشكله فى الوورد بريس
بعد عدة ايام من الارشفه تفاجئت بان موقعى به
robots.txtيمنع جوجل من فهرسة موقعى ويعطينى ملفات مرفوضه منrobots.txtاريد حزف هذا الملف من موقعى مع العلم انى غير محترف واتعلم من النت
السلام عليكم أخي,
لقد قمت بعمل فحص لموقعك و لم أرى أي صفحة ممنوعة بواسطة
robots.txtلتتأكد بنفسك قم بوضعsite:alfransia.comفي محرك البحث قوقل لترى النتيجة بنفسك.بالتوفيق إنشاء الله.
شكرا يا اخ سعيد لك على الاهتمام
ولكن لماذا كل يوم يختفى موقعى من صفحات البحث
يعنى مثلا انا ابحث فى جوجل على شركة تنظيف بالرياض وامس كان يظهر فى الصفحه 13 واليوم غير موجود
ارجو المساعده لانى بدءت العمل على اظهار هذا الموقع وكل ما يحدث ذلك يصيبنى بالاحباط
فوق الرائع يا اخى
كم انا سعيد بمعرفة هذا الموقع وايضا سرعة رضك على الاجابات
شكرن لك على المرور أخي و يسعدني معرفة ان الموقع قد اعجبك 🙂
جزاك الله خيرا في كل ما شرحته لنا
أخي العزيز
ملف الريبوت الموجود هنا يمنع الوصول الى ملفات css و js
و في نصائح تكوين ملف الريبوت من موقع
وضعو ملاحظة مهمة بعدم حجب الوصول الى هذه الملفات
لو أمكنك التوضيح هل نمنعها او نسمح لها بالارشفة بارك الله بكم
السلام عليكم أخي،
هذا الموضوع كتبته منذ حوالي سنة و نصف تقريبا أي قبل التحديثات الأخيرة التي قامت بها قوقل و لم أستطع تحديثه لضيق الوقت …
بالنسبة لملفات
cssوjsأصبح من الواجب تركها متاحة لكي تستطيع عناكب محركات البحث الدخول و فهرسة موقعك بشكل جيد لهذا يجب حذفDisallow: /*.js$وDisallow: /*.css$من ملفrobots.txt(سأقوم بتحديثه الآن) كذلك أصبح من الواجب السماح للعناكب بالدخول لwp-includesلأن هناك إضافات تعتمد في عملها على ملفاتjsوcssمن هناك. أيضا يجب السماح لها بالدخول لكل محتوىwp-content(يمكنك منع ما تراه مناسب بشكل منفرد).و نصيحتي لأي شخص هي أن لا يلمس هذا الملف إذا لم يكن يعرف جيدا مذا يفعل.
شكرا على التعليق و بالتوفيق إن شاء الله.
للاسف اخي سعيد شرحك ليس واضح ا في اغلب مواضيعك تشرح لنا كيفيه الاعداد من الصفر. ولاكن انت هنا طرحت شرح مختصر + ملف جاهز حسب تجربتك .؟ السوال هنا هل الملف الجاهز الذي طرحته انت يناسب اغلب القوالب والمواقع الورد برس.؟؟ اعتقد لا
مثلا انا حاليا اريد منع بعض الاشياء من الارشفة في موقعي ولاكن المشكلة تكمن في عدم شرحك من البداية في كفية تحديد الاشياء التي نريد منع ارشفتها
ولاكن انت طرحت ملف جاهز قد يناسب بعض الاشخاص وقد لا يناسب البعض ولاكن من وجه نظري كنت افضل ان تقوم بشرح لنا كيف نقوم با اظافة قسم ومنع كقسم وهكذا بدون الاعتماد على ملفات جاهزه لن الملف الجاهز لا يفيدنا كثيرا لننا لم نتعلم ونتفسيد منه فقط نسخ ولصق وانتهاء الامر
هذا الملف هو ملف الهدف منه هو منع أرشفة بعض اﻷشياء الغير لازمة مثل ال feed و ملفات css و ملفات ال js … الخ
إذا كنت تريد التحكم في أرشفة المواضيع و اﻷقسام و الصفحات و ما إلى ذلك الحل هو استعمال وسم الميتا و هذا موضوع آخر يمكن شرحه في تدوينة أخرى و ليس في هذه.
أيضا يمكنك الحصول على ما تريد بإستعمال إضافة Seo Yoast أو All In One Seo Pack
شرح مميز ورائع وشخصيا استفدت منه كثيراً
مشكور اخ سعيد
موفق دائماً
العغو أخي، يفرحني معرفة أنك استفدت من الشرح
بالتوفيق للجميع 🙂
شكرا عا المعلومات
العفو، شكرا لك على المرور 🙂
السلام عليكم
في البداية اقدم لك جزيل الشكر علي ما تقدمه لنا من علم نافع
بعد ان اضفت ملف الربوت الي موقعي فحصته عن طريق جوجل لأتأكد اذا كان هناك اخطاء به . وكانت النتيجة 3 تحذيرات . اتمنا مساعدتي علي حلها وفهمها
التحذيرات الثلاثة هنا:
وهذا رابط صورة للمعاينة //
http://up.traidnt.net/img/KOypnr.jpgو عليكم السلام أخي
التحذير موجود ﻷن قوقل يتجاهل تلك القواعد و هذا ﻷنها ليست موجهة لعناكبه بل لعناكب أخرى تقوم باستنزاف موارد الخادم
تحياتي
الي الاخ
خالد الحويطي قال
User-agent: *
Disallow: /
فمعنى ذالك أن جميع العناكب دون استثناء لا يمكنها الدخول لأي مجلد ولأي ملف بالموقع وغير مسموح لها بأرشفة أي شئ من الموقع
بالتالي العلامة / عبارة عند أداة منع أو حجب
الى هنا كل شي واضح
نأتي الأن اذا أردت حجب أو منع ملف معين فقط عن محركات البحث جميعها دون استثناء تضع الأمر التالي :
فهذه الحالة أنت حددت لجميع عناكب البحث مسار لملف معين ممنوع عليهم الدخول اليه أو أرشفته في دليلهم وماعدى هذا الملف باقي محتويات الموقع مسموحة لجميع العناكب ..
طبعا الملف في مثالنا هذا هو vb/register.php ويدل على منع العناكب من الوصول الى ملف التسجيل بالمنتدى.
مثال ثاني :
تفسيره أنك تخاطب جميع العناكب بالتالي : مسموح لهم بالدخول لأي مجلد وأرشفة محتواه في الموقع ماعدى المجلدات التالية :