4.6( 8864)

Cara Setting Robots.txt di Blogger dan Webmaster 2012

Notifikasi Penting
Maaf, UnlimitSoft mengalami sedikit masalah internal, dan tidak terupdate. Dipindahkan sementara ke www.Newsinfopedia.org





Sudah cukup lama saya tidak mengupdate artikel atau tutorial. Jadi kali ini saya gunakan untuk update itu saja, saya cukupkan dulu software untuk saat ini.
Kalian mungkin para blogger sudah tahu yang namanya Robots.txt, dan mungkin sudah menggunakannya. Tetapi alangkah baiknya kalian perhatikan lagi dan cek kembali apakah settingan Robots.txt-nya sudah benar apa belum.
Apabila kita salah Setting dengan yang satu ini maka FATAL akibatnya, karena apabila kalian salah setting maka Blog/Situs kalian akan MENGHILANG dari INDEKS Search Engine, baik Google, Altavista, Yandex, Bing, dll.
Namun apabila tidak disetting Robots.txt juga ada pengaruhnya, seperti Indeks yang lamban, dan Search Engine tidak terlalu mempertajan Referernya.

Ingat! Cara yang saya tampilakan harus diperhatikan benar-benar, karena APABILA SALAH, FATAL AKIBATNYA pada Blog/Situs kalian. Ini sudah diperingatkan saat kalian akan melakukan setting nanti :


Baca pesan diatas benar-benar, karena apabila terjadi kesalahan saya tidak dapat berlaku apa-apa.

Baiklah langsung kita masuk ke Tutorial. Ini hanya ada pada Blogger New Interface. Dan saya harap semuanya sudah menggunakan New Interface tersebut.

1. Setting pada Blogger

Masuk ke Setting > Search Preferences :

Click image For complete view

Pada "Custom robots.txt" klik Edit. Kemudian masukan teks berikut : Tulislah agar tidak salah point.

User-agent: Mediapartners-Google
Disallow:

User-agent: *
Disallow: /search?updated-min=
Disallow: /search?updated-max=
Allow: /

Sitemap: www.alamatsitus/blogkamu.com/feeds/posts/default?orderby=updated

teks yang berwarna kuning diatas gantilah dengan alamat Situs/Blog kamu. Apabila Situs/Blog kamu menggunakan domain berbayar seperti com, net, org, dll, maka masukan dengan menggunakan "www" tanpa "http://" tapi apabila menggunakan domain gratis seperti blogspot, maka tulis tanpa "www" tetapi menggunalan "http://".

Lalu pastekan pada kotak yang tersedia disana, sehingga akan tampak seperti ini:

Click image for complete view

Lalu klik "Save"
Maka langkah setting di blogger selesai.

2. Setting pada Webmaster

Silakan pergi menuju Webmaster Google kamu (versi bahasa Indonesia), Langsung klik pada tab "Kesehatan" > "URL yang Dicekal". Maka akan ada dua kotak seperti gambar dibawah, lalu pastekan lagi teks Robots.txt tadi pada kotak yang atas :

Click image for complete view

Kotak yang kedua (dibawah) kamu isi dengan URL yang dicoba, disini saya memasukan URL saya sendiri yaitu : http://unlimitsoft.blogspot.com karena apabila mencoba dengan URL yang lain hasilnya nihil dan sudah saya coba.
Pada Agen-Pengguna : Silakan pilih yang mana saja, disini saya menggunakan Googlebot Mobile.
Kalau sudah kamu masukan keduanya, Klik tombol "Tes". Maka hasil yang saya peroleh adalah :

Click image for complete view

URL saya telah diindeks oleh Googlebot dan Googlebot Mobile. Apakah ini berarti robots.txt telah berhasil?           
Untuk memperjelas apakah robots.txt ini mengindeks dan mengizikan blog/situs dalam pencarian maka saya mencoba cek dengan salah satu tools SEO, dan hasilnya seperti ini :

Ini adalah teks robots.txt yang kita gunakan tadi :

Click image for complete view

Dan ini hasil untuk teks setting robots.txt diatas :

Click image for complete view

Maka selesailah sudah dengan ini setting Robots.txt pada Blogger dan Webmaster. Semoga ini bisa dipelajari oleh para pengguna Blogger baru, dan lebih teliti lagi juga lebih memperhatikan efek-efeknya.

Sekali lagi, pasanglah Robots.txt apabila kalian sudah mahir dengan bahasa-bahasa rahasia ataupun teks, md5, script, hash, dll. Misalkan pada teks robots.txt disana tertulis :

"User-agent: *"  dan ada juga  "Allow: /

Tanda yang saya beri warna merah seperti bintang (*) adalah supaya semua diperbolehkan akses/indeks secara global. Sedang slash (/) supaya melakukan blok tertentu atau indeks. Itupun sepengetahuan saya, apabila ada kesalahan silakan dibenarkan diform komentar, karena saya juga bukan manusia yang tahu. (red)

61 comments dapat Anda baca di bawah ini atau tambahkan satu.

  1. ow di google webmasternya juga disetting begitu ya... makasih lho infonya bos

    ReplyDelete
  2. Pengetahuan baru nih. Nanti saya coba.

    ReplyDelete
  3. saking fatalnya saya ragu untuk memasangnya di blog saya ini sobat...

    ReplyDelete
  4. <- lah baru nyadar...

    settingnya di blogger apa di webmaster atau 2-2nya ???

    ReplyDelete
  5. Saya Belum berani coba trik ini gan ntar takut salah..tambah berabe.

    ReplyDelete
  6. sangat berguna buat ane yang masih belajar seo sobat, tengkyu sharingnya

    ReplyDelete
  7. Detective Conan Chapter 831 Bahasa Indonesia

    ReplyDelete
  8. ya ampun, jago banget ya soal sistem begini. asli deh kemampuan seperti ini nggak bakalan sia-sia dimiliki. hebat banget. sedangkan saya, banyak manggut2 aja baca postingan ini.

    ReplyDelete
  9. untuk lebih bagusnya di blogger, tapi supaya sinkron bisa dua2 nya..

    ReplyDelete
  10. @Yuyud : silakan bro dicoba nanti :D

    ReplyDelete
  11. @Asis Sugianto : hehe kalo ragu jangan dipasang dulu sob.. :D

    ReplyDelete
  12. @Cirebon Cyber : oke deh sob silakan.. :D asal jgan asal-asalan.. :)

    ReplyDelete
  13. @cik awi : hehe gapapa sob, kalo masih blum brani.. :D

    ReplyDelete
  14. @Mau tahu : oke brow, ntar saya kesana.. :D kalo d.conan aku udah serng liat animenya di tv, khususnya di indosiar.. :D hehe aku suka kaya onepiece.

    ReplyDelete
  15. @zachflazz : hehe jgn gitu brow.. :D nyantai aja kita sama2 blogger kok.. :D aku juga masih pemula.

    ReplyDelete
  16. tapi bos yang di webmaster itu gak ada error sama sekali apa harus diganti atau dibiarkan saja o_O

    ?????

    ReplyDelete
  17. nyimak aja sob.., takut tuk pasang soalx sy gk jago2 amat.., thx ilmux ya... *smile

    ReplyDelete
  18. @Limit Post: kalau tidak ada error atau crawlnya tidak ada sama sekali, silakan dibiarkan saja, tidak usah disett juga gk papa bro.

    ReplyDelete
  19. @Rohis : hohoho gk papa sob.. :D santai aja,, kalo masih takut gk usah di sett dulu,, ntar malah ilang lagi blognya dari SE. :D

    ReplyDelete
  20. wah ane ga pernah ngotak atik ini gan, terlalu riskan. jadi ane biarin aja pa adanya, tapi boleh di coba lain kali. tenkyu ya.

    ReplyDelete
  21. asyik...akhirnya saya menemukan cara setting robotstxt di blog super ini :)

    ReplyDelete
  22. waduh. Jadi inget waktu Diklat bikin Web dulu! Saya sampe merengut saking bingungnya dengan rumus2 dan kode html

    ReplyDelete
  23. mantab sob penjelasannya sangat komplit, sebelumnya saya sudah set juga robots.txt cuma kotak kedua pada webmaster yang belum. terima kasih sharenya.. nanti tak coba :)

    ReplyDelete
  24. mnTap sob, langsung ane coba,, makasih sebelunya

    ReplyDelete
  25. @Yuyud : hehe tengkyu sob.. :D mampir terus nih.. :D

    ReplyDelete
  26. @cerita anak kost : hehe gpp bro.. :D asalkan itu bagus2 saja buat blog bro sendiri..

    ReplyDelete
  27. @Blogs of Hariyanto : hoho kita sama2 berbagi kok bang.. :D

    ReplyDelete
  28. @Popi : hehe awas mba jangan sering mangut2 kalo diberi penjelasan.. :D namanya juga blajar kok sob.. :)

    ReplyDelete
  29. @VPie : hhehe silakan dibenerin bro..:D sndiri aja ya.. atau sama om masternya kalo ada.. :D

    ReplyDelete
  30. @vmediakom : hehe gk papa sob.. :D kalo kamu gk bisa sett di WBM-nya juga gk papa, karena yang vital pada bloggernya.

    ReplyDelete
  31. VPie : hehe gk salahnya sob.. :D kan masih blajar. ;)

    ReplyDelete
  32. @Yuyud : hehe trima kasih bgt sob mau kunjungan terus nih.. :D

    ReplyDelete
  33. ikut tanya ya gan, kalau di webmaster bagian URL yang dicekal 923 itu tandanya apa ya?
    masih kurang paham nih
    salam kenal dan terimakasih sudah berbagi

    ReplyDelete
    Replies
    1. artinya pada blog kamu, ada 923 url yang di disallow / tidak dijinkan untuk robot merayapinya.. :D

      kalo diindeks sih bisa saja masuk, cuman tidak ada robot yang membaca.. :D

      Delete
  34. sob nany nih...
    berarti sitemap kita yg ini ya :
    xxxx.com/feeds/posts/default?orderby=updated
    nah kalo sitemapnya udah di terima
    baru bisa robotnya di giniin ya .com/feeds/posts/default?orderby=updated

    trims balasannya

    ReplyDelete
    Replies
    1. iya sob.. :D itu untuk robots servernya. :D
      kalo udah diterima bisa dicek dengan cara :

      tulis adress blog kamu yg udah disitemap tadi seperti ini :

      http://alamatkamu.blogspot.com/robots.txt

      atau

      www.alamatkamu.com/robots.txt (bagi yg punya domain)

      contoh punya saya :

      http://unlimitsoft.blogspot.com/robots.txt (bisa diliat)

      Delete
  35. ini untuk blogspot ya sob???

    saya baru tahu kalau blogspot kini bisa dengan mudah setting robots.txt,,

    keren artikelnya sob, jika berkenan ditunggu kunjungan baliknya, saya pun pernah menulis artikel seperti ini namun khusus untuk website dan wordpress, bukan untuk blogspot.

    salam kenal sob!

    ReplyDelete
    Replies
    1. hihi iya sob.. :D aku udah baca, itu lebih lengkap lagi sob daripada artikel punyaku diatas.. :D punya kamu jmepolan 5 deh.. :D

      Delete
  36. Artikelnya bermanfaat sekali untuk newbie seperti saya mas, terima kasih sudah berkenan sharing info yang bermanfaat

    ReplyDelete
  37. Gan mau tanya,
    kalau tidak ada eror / crawlnya tapi ane set robot.txt gak apa apa kan ?

    thank

    ReplyDelete
    Replies
    1. gpp gan itu bagus, karna agan gk punya crawl.. :D

      Delete
  38. Tool seo nya namanya apa gan

    ReplyDelete
    Replies
    1. hhee ane minta email agan deh.. nanti biar ane beri namanya di email aja ya.. :D

      Delete

Harap berkomentar sesuai dengan isi posting & komentar spam akan dihapus. Anda dapat menggunakan tag HTML: <a href=""></a>, <strong></strong>, <b></b>, <em></em>, <i></i>.