ما هو ملف robots.txt وكيف يمكنك إنشاءه؟

27 تعليق

1. تابعت درسين عن ووردبريس لك أخى سعيد وأعتقد أنهما رائعين
   ولكن هذه المرة اسمح لى أن أشكرك بشدة
   جزاك الله خير الجزاء
   أخوك م. نايف الشهري

   رد

   1. الشكر لك على المرور أخي, يسعدني أنه قد أعجبك الموضوع و اتمنى أن أكون دائما عند حسن الظن 🙂

      رد

      1. هل من الممكن وضع ملف robots.txt الذي نشرته على موقعي أم يجب عمل ملف آخر؟

         رد

         1. كل موقه له خصوصياته، من الأفضل الإستشارة مع شخص محترف لكي يوضح لك الأشياء التي يجب عليك وضعها في ملف robots.txt

            رد

2. لك كل الشكر على هذا الموضوع الاكثر من مفيد.

   استاذي ان سمحت، ملفات ووردبريس عندي على مجلد فرعي. فهل اضع هذا الملف في المجلد الفرعي؟

   ولك الشكر الجزيل

   رد

   1. ملف robots.txt يجب وضعه في جذر الموقع, أي في المكان الذي تم تنصيب فيه ووردبريس, إذا كان ووردبريس عندك في المجلد الفرعي, نعم يجب عليك وضعه في المجلد الفرعي.

      رد

3. اسرتني بسرعة ردك هذا وايضاح ما اشكل عليَّ.

   ثق لم تترك لي من الكلمات ما اعبر فيها عن شكري وامتناني لشخصك الحبيب.

   اذاً سيصار الى ما ارشدتني اله.

   الله يحفظك وييسر امرك.

   رد

4. اولا احب ان اشكرك جزيل الشكر على هذه الشروحات العظيمة

   ثانيا لدي سؤال بسيط

   هل هناك اي تعديلات يجب ان اقوم بها اذا اردت ان اضع الملف في جذر الموقع مع اني قد قمت بتنصيب المدونة على مجلد فرعي

   رد

   1. ما دامت المدونة مرفوعة على الملف الفرعي فملف [code lang=”none” inline=true]robots.txt[/code] يجب أن يكون في نفس الملف أي الملف الفرعي, كذلك يجب عليك تغيير رابط خريطة الموقع بالرابط الخاص بموقعك, و حذف و إضافة ما تريد حسب رغبتك.

      رد

5. لو سمحت يا اخى عندى مشكله فى الوورد بريس
   بعد عدة ايام من الارشفه تفاجئت بان موقعى به [code lang=”none” inline=true]robots.txt[/code] يمنع جوجل من فهرسة موقعى ويعطينى ملفات مرفوضه من [code lang=”none” inline=true]robots.txt[/code]
   اريد حزف هذا الملف من موقعى مع العلم انى غير محترف واتعلم من النت

   رد

   1. السلام عليكم أخي,
      لقد قمت بعمل فحص لموقعك و لم أرى أي صفحة ممنوعة بواسطة [code lang=”none” inline=true]robots.txt[/code] لتتأكد بنفسك قم بوضع [code lang=”none” inline=true]site:alfransia.com[/code] في محرك البحث قوقل لترى النتيجة بنفسك.

      بالتوفيق إنشاء الله.

      رد

6. شكرا يا اخ سعيد لك على الاهتمام
   ولكن لماذا كل يوم يختفى موقعى من صفحات البحث
   يعنى مثلا انا ابحث فى جوجل على شركة تنظيف بالرياض وامس كان يظهر فى الصفحه 13 واليوم غير موجود
   ارجو المساعده لانى بدءت العمل على اظهار هذا الموقع وكل ما يحدث ذلك يصيبنى بالاحباط

   رد

7. فوق الرائع يا اخى

   رد

8. كم انا سعيد بمعرفة هذا الموقع وايضا سرعة رضك على الاجابات

   رد

   1. شكرن لك على المرور أخي و يسعدني معرفة ان الموقع قد اعجبك 🙂

      رد

9. جزاك الله خيرا في كل ما شرحته لنا

   رد

10. أخي العزيز

    ملف الريبوت الموجود هنا يمنع الوصول الى ملفات css و js

    [code lang=”none”]Disallow: /*.js$[/code]
    [code lang=”none”]Disallow: /*.css$[/code]

    و في نصائح تكوين ملف الريبوت من موقع

    [code lang=”none”e]https://yoast.com/wordpress-robots-txt-example/[/code]

    وضعو ملاحظة مهمة بعدم حجب الوصول الى هذه الملفات

    [code lang=”none”]https://yoast.com/google-panda-robots-css-js/[/code]

    لو أمكنك التوضيح هل نمنعها او نسمح لها بالارشفة بارك الله بكم

    رد

    1. السلام عليكم أخي،

       هذا الموضوع كتبته منذ حوالي سنة و نصف تقريبا أي قبل التحديثات الأخيرة التي قامت بها قوقل و لم أستطع تحديثه لضيق الوقت …

       بالنسبة لملفات [code lang=”css” inline=true]css[/code] و [code lang=”javascript” inline=true]js[/code] أصبح من الواجب تركها متاحة لكي تستطيع عناكب محركات البحث الدخول و فهرسة موقعك بشكل جيد لهذا يجب حذف [code lang=”none” inline=true]Disallow: /*.js$[/code] و [code lang=”none” inline=true]Disallow: /*.css$[/code] من ملف [code lang=”none” inline=true]robots.txt[/code] (سأقوم بتحديثه الآن) كذلك أصبح من الواجب السماح للعناكب بالدخول ل [code lang=”none” inline=true]wp-includes[/code] لأن هناك إضافات تعتمد في عملها على ملفات [code lang=”none” inline=true]js[/code] و [code lang=”none” inline=true]css[/code] من هناك. أيضا يجب السماح لها بالدخول لكل محتوى [code lang=”none” inline=true]wp-content[/code] (يمكنك منع ما تراه مناسب بشكل منفرد).

       و نصيحتي لأي شخص هي أن لا يلمس هذا الملف إذا لم يكن يعرف جيدا مذا يفعل.

       شكرا على التعليق و بالتوفيق إن شاء الله.

       رد

11. للاسف اخي سعيد شرحك ليس واضح ا في اغلب مواضيعك تشرح لنا كيفيه الاعداد من الصفر. ولاكن انت هنا طرحت شرح مختصر + ملف جاهز حسب تجربتك .؟ السوال هنا هل الملف الجاهز الذي طرحته انت يناسب اغلب القوالب والمواقع الورد برس.؟؟ اعتقد لا
    مثلا انا حاليا اريد منع بعض الاشياء من الارشفة في موقعي ولاكن المشكلة تكمن في عدم شرحك من البداية في كفية تحديد الاشياء التي نريد منع ارشفتها
    ولاكن انت طرحت ملف جاهز قد يناسب بعض الاشخاص وقد لا يناسب البعض ولاكن من وجه نظري كنت افضل ان تقوم بشرح لنا كيف نقوم با اظافة قسم ومنع كقسم وهكذا بدون الاعتماد على ملفات جاهزه لن الملف الجاهز لا يفيدنا كثيرا لننا لم نتعلم ونتفسيد منه فقط نسخ ولصق وانتهاء الامر

    رد

    1. هذا الملف هو ملف الهدف منه هو منع أرشفة بعض اﻷشياء الغير لازمة مثل ال feed و ملفات css و ملفات ال js … الخ

       إذا كنت تريد التحكم في أرشفة المواضيع و اﻷقسام و الصفحات و ما إلى ذلك الحل هو استعمال وسم الميتا و هذا موضوع آخر يمكن شرحه في تدوينة أخرى و ليس في هذه.

       أيضا يمكنك الحصول على ما تريد بإستعمال إضافة Seo Yoast أو All In One Seo Pack

       رد

12. شرح مميز ورائع وشخصيا استفدت منه كثيراً
    مشكور اخ سعيد
    موفق دائماً

    رد

    1. العغو أخي، يفرحني معرفة أنك استفدت من الشرح

       بالتوفيق للجميع 🙂

       رد

13. شكرا عا المعلومات

    رد

    1. العفو، شكرا لك على المرور 🙂

       رد

14. السلام عليكم
    في البداية اقدم لك جزيل الشكر علي ما تقدمه لنا من علم نافع

    بعد ان اضفت ملف الربوت الي موقعي فحصته عن طريق جوجل لأتأكد اذا كان هناك اخطاء به . وكانت النتيجة 3 تحذيرات . اتمنا مساعدتي علي حلها وفهمها

    التحذيرات الثلاثة هنا:
    [code lang=”none”]User-agent: noxtrumbot
    Crawl-delay: 50 // هنا تحذير
    User-agent: msnbot
    Crawl-delay: 30 // هنا تحذير
    User-agent: Slurp
    Crawl-delay: 10 // هنا تحذير
    [/code]

    وهذا رابط صورة للمعاينة // [code lang=”php” inline=true]http://up.traidnt.net/img/KOypnr.jpg[/code]

    رد

    1. و عليكم السلام أخي

       التحذير موجود ﻷن قوقل يتجاهل تلك القواعد و هذا ﻷنها ليست موجهة لعناكبه بل لعناكب أخرى تقوم باستنزاف موارد الخادم

       تحياتي

       رد

15. الي الاخ
    خالد الحويطي قال

    User-agent: *
    Disallow: /

    فمعنى ذالك أن جميع العناكب دون استثناء لا يمكنها الدخول لأي مجلد ولأي ملف بالموقع وغير مسموح لها بأرشفة أي شئ من الموقع
    بالتالي العلامة / عبارة عند أداة منع أو حجب
    الى هنا كل شي واضح
    نأتي الأن اذا أردت حجب أو منع ملف معين فقط عن محركات البحث جميعها دون استثناء تضع الأمر التالي :

    [code lang=”none”]
    User-agent: *
    Disallow: /vb/register.php/
    [/code]

    فهذه الحالة أنت حددت لجميع عناكب البحث مسار لملف معين ممنوع عليهم الدخول اليه أو أرشفته في دليلهم وماعدى هذا الملف باقي محتويات الموقع مسموحة لجميع العناكب ..
    طبعا الملف في مثالنا هذا هو vb/register.php ويدل على منع العناكب من الوصول الى ملف التسجيل بالمنتدى.

    مثال ثاني :

    [code lang=”none”]
    User-agent: *
    Disallow: /cgi-bin/
    Disallow: /tmp/
    Disallow: /sql/
    [/code]

    تفسيره أنك تخاطب جميع العناكب بالتالي : مسموح لهم بالدخول لأي مجلد وأرشفة محتواه في الموقع ماعدى المجلدات التالية :
    [code lang=”none”]
    cgi-bin
    tmp
    sql
    [/code]

    رد