如何讓網站頁面內容不被抓取

可能有的朋友會奇怪，網站的頁面不是讓搜索引擎抓的越多越好嗎，怎么還會有怎么讓網站頁面內容不被抓取的想法。首先，一個網站可以分出去的權重是有限，哪怕是Pr10的站，也不可能無限的分權重出去。這權重包括鏈到別人網站的處鏈以及自己網站內的內鏈。

1.在FLASH展示不想被收錄的內容

眾所周知，搜索引擎對FLASH的內容抓取能力有限，不能完全抓取所有FLASH內的所有內容。但遺憾的是，也不能完全保證FLASH的所有內容都不會被抓取。因為谷歌和Adobe正努力的實現FLASH抓取技術。

2.使用robos文件

這是暫時最有效的方法，但有個很大的缺點。就是不傳出任何的內容及鏈接。大家知道，在seo來說比較健康的頁面應該是有進有出的。有外鏈的鏈入，同時也頁面內也需要有鏈到外部網站的鏈接，所以robots文件控制，讓此頁面只進不出，搜索引擎也不知道內容是什么。會把此頁定為低質量頁面。權重有可能受一定的懲罰。這個多用于網站管理頁面，測試頁面等。

3.使用nofollow標簽包裹不想被收錄的內容

這個方法也不能完全保證不被收錄，因為這并不是嚴格要求遵守的標簽。另外，如果有外部網站鏈向了有nofollow標簽的頁面。這樣就很有可能會被搜索引擎抓取。

4.用Meta Noindex標簽加上follow標簽

這個方法可以做到防止收錄而且還能傳遞出權重。要不要傳遞，看網站建設站長自己的需要。這個方法的缺點是，也是會較大的浪費蜘蛛的抓取頁面時間。

5.用robots文件的同時在頁面上使用iframe標簽展示需要搜索引擎收錄的內容

robots文件可以阻止iframe標簽以外的內容被收錄。所以，可以把不想收錄的內容放到正常頁面標簽下。而想被收錄的內容放在iframe標簽內。緊接著，再說一下已經失效的方法，大家以后不要用這些方法了。