ما هو ملف robots.txt و كيف يمكنك إنشاءه؟

محتوى المقالة إخفاء

1 ما هو ملف robots.txt؟
2 كيف يمكنني إنشاء ملف robots.txt؟

الكثير من أصحاب المواقع و المدونات ليس لهم علم بأهمية ملف robots.txt, رغم أن لديه أهمية بالغة و يلعب دور مهم في أرشفة المواقع, و هذا يجعله يكون واحد من الملفات التي لا غنى عنها و من الواجب أن يتوفر عليه كل موقع.

ما هو ملف robots.txt؟

robots.txt هو ملف يقوم بإعطاء توصيات و توجيهات للعناكب (robots) بصفة عامة بما يمكنهم الدخول إليه و ما لا يمكنهم الدخول إليه, و أقول توصيات لأن بعض العناكب قد لا تحترم هذه الإعدادات, خاصة العناكب المزعجة “spammers ” و عناكب القرصنة التي تدخل لفحص التغرات الأمنية في المواقع.

يستعمل ملف robots.txt غالباً من أجل منع محركات البحث من أرشفة أشياء غير نافعة للمستخدم كصفحة تسجيل الدخول, صفحة التسجيل, صفحات أو اقسام لا نريد أرشفتها و كذلك لتفادي المحتوى المتكرر في محركات البحث (خطأ قاتل بالنسبة لمحرك البحث قوقل) و حذف روابط معينة أو الموقع بأكمله منها.

كيف يمكنني إنشاء ملف robots.txt؟

لإنشاء ملف robots.txt يدويا فقط عليك تتبع المراحل التالية:

أولا نقوم بإنشاء ملف نصّي بإمتداد .txt نسميه robots.
ثانيا نقوم بملئ الملف “بالأوامر” التي نريد إعطاها للعناكب حسب رغبتنا.
ثالثا نقوم برفع الملف إلى جدر الموقع (الملف الرئيسي).

هذا نمودج مثالي لملف robots.txt يمكن إستعماله في أي موقع تم إنشائه بواسطة ووردبريس, فقط يجب عليك إستبدال رابط خريطة الموقع XML Sitemap بالرابط الخص بك و طبعاً يمكنك إضافة و إزالة أي أمر حسب رغبتك.

تقنيات تحسين الأرشفة (SEO) حسب تجربتي الخاصة

# BEGIN XML-SITEMAP
https://saidelbakkali.com/sitemap_index.xml
# END XML-SITEMAP

User-agent: *
Crawl-delay: 10
Allow: /wp-admin/admin-ajax.php
Disallow: /wp-admin/
Disallow: /xmlrpc.php
Disallow: /*.php$
Disallow: *?replytocom

كذالك يمكنك إنشاء و تحرير ملف robots.txt في ووردبريس بواسطة أحد الإضافات المخصصة لذلك كإضافة Virtual Robots.txt أو عن طريق أي إضافة أخرى توفر إمكانية التعديل عليه, كإضافة WordPress seo by Yoast مثلا.

أتمنا أن يكون قد أعجبك الموضوع, إلى اللقاء في المقالة القادمة بإذن الله.

27 تعليق

يقول الشهري:

20 مارس، 2014 الساعة 7:51 مساءً

تابعت درسين عن ووردبريس لك أخى سعيد وأعتقد أنهما رائعين
ولكن هذه المرة اسمح لى أن أشكرك بشدة
جزاك الله خير الجزاء
أخوك م. نايف الشهري

رد
1. يقول سعيد البقالي:
  
  20 مارس، 2014 الساعة 10:03 مساءً
  
  الشكر لك على المرور أخي, يسعدني أنه قد أعجبك الموضوع و اتمنى أن أكون دائما عند حسن الظن 🙂
  
  رد
  1. يقول انس:
    
    4 سبتمبر، 2019 الساعة 9:44 مساءً
    
    هل من الممكن وضع ملف robots.txt الذي نشرته على موقعي أم يجب عمل ملف آخر؟
    
    رد
    1. يقول سعيد البقالي:
      
      6 أبريل، 2020 الساعة 3:20 مساءً
      
      كل موقه له خصوصياته، من الأفضل الإستشارة مع شخص محترف لكي يوضح لك الأشياء التي يجب عليك وضعها في ملف robots.txt
      
      رد
يقول عدنان:

24 مارس، 2014 الساعة 9:18 مساءً

لك كل الشكر على هذا الموضوع الاكثر من مفيد.

استاذي ان سمحت، ملفات ووردبريس عندي على مجلد فرعي. فهل اضع هذا الملف في المجلد الفرعي؟

ولك الشكر الجزيل

رد
1. يقول سعيد البقالي:
  
  24 مارس، 2014 الساعة 9:25 مساءً
  
  ملف robots.txt يجب وضعه في جذر الموقع, أي في المكان الذي تم تنصيب فيه ووردبريس, إذا كان ووردبريس عندك في المجلد الفرعي, نعم يجب عليك وضعه في المجلد الفرعي.
  
  رد
يقول عدنان:

24 مارس، 2014 الساعة 9:29 مساءً

اسرتني بسرعة ردك هذا وايضاح ما اشكل عليَّ.

ثق لم تترك لي من الكلمات ما اعبر فيها عن شكري وامتناني لشخصك الحبيب.

اذاً سيصار الى ما ارشدتني اله.

الله يحفظك وييسر امرك.

رد
يقول zaher al hussain:

2 يونيو، 2014 الساعة 11:19 مساءً

اولا احب ان اشكرك جزيل الشكر على هذه الشروحات العظيمة

ثانيا لدي سؤال بسيط

هل هناك اي تعديلات يجب ان اقوم بها اذا اردت ان اضع الملف في جذر الموقع مع اني قد قمت بتنصيب المدونة على مجلد فرعي

رد
1. يقول سعيد البقالي:
  
  4 يونيو، 2014 الساعة 9:25 مساءً
  
  ما دامت المدونة مرفوعة على الملف الفرعي فملف [code lang=”none” inline=true]robots.txt[/code] يجب أن يكون في نفس الملف أي الملف الفرعي, كذلك يجب عليك تغيير رابط خريطة الموقع بالرابط الخاص بموقعك, و حذف و إضافة ما تريد حسب رغبتك.
  
  رد
يقول ابو فارس:

29 أغسطس، 2014 الساعة 6:05 مساءً

لو سمحت يا اخى عندى مشكله فى الوورد بريس
بعد عدة ايام من الارشفه تفاجئت بان موقعى به [code lang=”none” inline=true]robots.txt[/code] يمنع جوجل من فهرسة موقعى ويعطينى ملفات مرفوضه من [code lang=”none” inline=true]robots.txt[/code]
اريد حزف هذا الملف من موقعى مع العلم انى غير محترف واتعلم من النت

رد
1. يقول سعيد البقالي:
  
  29 أغسطس، 2014 الساعة 8:53 مساءً
  
  السلام عليكم أخي,
  لقد قمت بعمل فحص لموقعك و لم أرى أي صفحة ممنوعة بواسطة [code lang=”none” inline=true]robots.txt[/code] لتتأكد بنفسك قم بوضع [code lang=”none” inline=true]site:alfransia.com[/code] في محرك البحث قوقل لترى النتيجة بنفسك.
  
  بالتوفيق إنشاء الله.
  
  رد
يقول ابو فارس:

31 أغسطس، 2014 الساعة 9:14 مساءً

شكرا يا اخ سعيد لك على الاهتمام
ولكن لماذا كل يوم يختفى موقعى من صفحات البحث
يعنى مثلا انا ابحث فى جوجل على شركة تنظيف بالرياض وامس كان يظهر فى الصفحه 13 واليوم غير موجود
ارجو المساعده لانى بدءت العمل على اظهار هذا الموقع وكل ما يحدث ذلك يصيبنى بالاحباط

رد
يقول adawi:

24 أكتوبر، 2014 الساعة 10:06 مساءً

فوق الرائع يا اخى

رد
يقول adawi:

24 أكتوبر، 2014 الساعة 10:27 مساءً

كم انا سعيد بمعرفة هذا الموقع وايضا سرعة رضك على الاجابات

رد
1. يقول سعيد البقالي:
  
  24 أكتوبر، 2014 الساعة 10:35 مساءً
  
  شكرن لك على المرور أخي و يسعدني معرفة ان الموقع قد اعجبك 🙂
  
  رد
يقول السلمي:

26 مارس، 2015 الساعة 8:37 مساءً

جزاك الله خيرا في كل ما شرحته لنا

رد
يقول yahya:

18 نوفمبر، 2015 الساعة 4:27 مساءً

أخي العزيز

ملف الريبوت الموجود هنا يمنع الوصول الى ملفات css و js

[code lang=”none”]Disallow: /*.js$[/code]
[code lang=”none”]Disallow: /*.css$[/code]

و في نصائح تكوين ملف الريبوت من موقع

[code lang=”none”e]https://yoast.com/wordpress-robots-txt-example/[/code]

وضعو ملاحظة مهمة بعدم حجب الوصول الى هذه الملفات

[code lang=”none”]https://yoast.com/google-panda-robots-css-js/[/code]

لو أمكنك التوضيح هل نمنعها او نسمح لها بالارشفة بارك الله بكم

رد
1. يقول سعيــــد البقـــــــــــــــالي:
  
  19 نوفمبر، 2015 الساعة 1:06 صباحًا
  
  السلام عليكم أخي،
  
  هذا الموضوع كتبته منذ حوالي سنة و نصف تقريبا أي قبل التحديثات الأخيرة التي قامت بها قوقل و لم أستطع تحديثه لضيق الوقت …
  
  بالنسبة لملفات [code lang=”css” inline=true]css[/code] و [code lang=”javascript” inline=true]js[/code] أصبح من الواجب تركها متاحة لكي تستطيع عناكب محركات البحث الدخول و فهرسة موقعك بشكل جيد لهذا يجب حذف [code lang=”none” inline=true]Disallow: /*.js$[/code] و [code lang=”none” inline=true]Disallow: /*.css$[/code] من ملف [code lang=”none” inline=true]robots.txt[/code] (سأقوم بتحديثه الآن) كذلك أصبح من الواجب السماح للعناكب بالدخول ل [code lang=”none” inline=true]wp-includes[/code] لأن هناك إضافات تعتمد في عملها على ملفات [code lang=”none” inline=true]js[/code] و [code lang=”none” inline=true]css[/code] من هناك. أيضا يجب السماح لها بالدخول لكل محتوى [code lang=”none” inline=true]wp-content[/code] (يمكنك منع ما تراه مناسب بشكل منفرد).
  
  و نصيحتي لأي شخص هي أن لا يلمس هذا الملف إذا لم يكن يعرف جيدا مذا يفعل.
  
  شكرا على التعليق و بالتوفيق إن شاء الله.
  
  رد
يقول خالد الحويطي:

25 نوفمبر، 2015 الساعة 6:40 صباحًا

للاسف اخي سعيد شرحك ليس واضح ا في اغلب مواضيعك تشرح لنا كيفيه الاعداد من الصفر. ولاكن انت هنا طرحت شرح مختصر + ملف جاهز حسب تجربتك .؟ السوال هنا هل الملف الجاهز الذي طرحته انت يناسب اغلب القوالب والمواقع الورد برس.؟؟ اعتقد لا
مثلا انا حاليا اريد منع بعض الاشياء من الارشفة في موقعي ولاكن المشكلة تكمن في عدم شرحك من البداية في كفية تحديد الاشياء التي نريد منع ارشفتها
ولاكن انت طرحت ملف جاهز قد يناسب بعض الاشخاص وقد لا يناسب البعض ولاكن من وجه نظري كنت افضل ان تقوم بشرح لنا كيف نقوم با اظافة قسم ومنع كقسم وهكذا بدون الاعتماد على ملفات جاهزه لن الملف الجاهز لا يفيدنا كثيرا لننا لم نتعلم ونتفسيد منه فقط نسخ ولصق وانتهاء الامر

رد
1. يقول سعيــــد البقـــــــــــــــالي:
  
  24 يناير، 2016 الساعة 12:34 مساءً
  
  هذا الملف هو ملف الهدف منه هو منع أرشفة بعض اﻷشياء الغير لازمة مثل ال feed و ملفات css و ملفات ال js … الخ
  
  إذا كنت تريد التحكم في أرشفة المواضيع و اﻷقسام و الصفحات و ما إلى ذلك الحل هو استعمال وسم الميتا و هذا موضوع آخر يمكن شرحه في تدوينة أخرى و ليس في هذه.
  
  أيضا يمكنك الحصول على ما تريد بإستعمال إضافة Seo Yoast أو All In One Seo Pack
  
  رد
يقول احمد:

24 يناير، 2016 الساعة 12:02 مساءً

شرح مميز ورائع وشخصيا استفدت منه كثيراً
مشكور اخ سعيد
موفق دائماً

رد
1. يقول سعيــــد البقـــــــــــــــالي:
  
  24 يناير، 2016 الساعة 12:26 مساءً
  
  العغو أخي، يفرحني معرفة أنك استفدت من الشرح
  
  بالتوفيق للجميع 🙂
  
  رد
يقول adaiw:

15 فبراير، 2016 الساعة 10:32 صباحًا

شكرا عا المعلومات

رد
1. يقول سعيــــد البقـــــــــــــــالي:
  
  15 فبراير، 2016 الساعة 1:32 مساءً
  
  العفو، شكرا لك على المرور 🙂
  
  رد
يقول ahmed:

19 مارس، 2016 الساعة 5:11 مساءً

السلام عليكم
في البداية اقدم لك جزيل الشكر علي ما تقدمه لنا من علم نافع

بعد ان اضفت ملف الربوت الي موقعي فحصته عن طريق جوجل لأتأكد اذا كان هناك اخطاء به . وكانت النتيجة 3 تحذيرات . اتمنا مساعدتي علي حلها وفهمها

التحذيرات الثلاثة هنا:
[code lang=”none”]User-agent: noxtrumbot
Crawl-delay: 50 // هنا تحذير
User-agent: msnbot
Crawl-delay: 30 // هنا تحذير
User-agent: Slurp
Crawl-delay: 10 // هنا تحذير
[/code]

وهذا رابط صورة للمعاينة // [code lang=”php” inline=true]http://up.traidnt.net/img/KOypnr.jpg[/code]

رد
1. يقول سعيــــد البقـــــــــــــــالي:
  
  12 مايو، 2016 الساعة 1:57 مساءً
  
  و عليكم السلام أخي
  
  التحذير موجود ﻷن قوقل يتجاهل تلك القواعد و هذا ﻷنها ليست موجهة لعناكبه بل لعناكب أخرى تقوم باستنزاف موارد الخادم
  
  تحياتي
  
  رد
يقول senior linux:

23 أكتوبر، 2016 الساعة 10:01 مساءً

الي الاخ
خالد الحويطي قال

User-agent: *
Disallow: /

فمعنى ذالك أن جميع العناكب دون استثناء لا يمكنها الدخول لأي مجلد ولأي ملف بالموقع وغير مسموح لها بأرشفة أي شئ من الموقع
بالتالي العلامة / عبارة عند أداة منع أو حجب
الى هنا كل شي واضح
نأتي الأن اذا أردت حجب أو منع ملف معين فقط عن محركات البحث جميعها دون استثناء تضع الأمر التالي :

[code lang=”none”]
User-agent: *
Disallow: /vb/register.php/
[/code]

فهذه الحالة أنت حددت لجميع عناكب البحث مسار لملف معين ممنوع عليهم الدخول اليه أو أرشفته في دليلهم وماعدى هذا الملف باقي محتويات الموقع مسموحة لجميع العناكب ..
طبعا الملف في مثالنا هذا هو vb/register.php ويدل على منع العناكب من الوصول الى ملف التسجيل بالمنتدى.

مثال ثاني :

[code lang=”none”]
User-agent: *
Disallow: /cgi-bin/
Disallow: /tmp/
Disallow: /sql/
[/code]

تفسيره أنك تخاطب جميع العناكب بالتالي : مسموح لهم بالدخول لأي مجلد وأرشفة محتواه في الموقع ماعدى المجلدات التالية :
[code lang=”none”]
cgi-bin
tmp
sql
[/code]

رد

ما هو ملف robots.txt؟

كيف يمكنني إنشاء ملف robots.txt؟

27 تعليق

اترك تعليقًا إلغاء الرد