看了一些教程robots.txt标签提到文件必须命名为 robots.txt,且必须位于网站的根目录下,意思是robots.txt标签用于文档链接吗? nofollow决定权重分配针对一个链接设置吗?(技术小白提问)
1. 什么是robots.txt文件?
搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息。spider在访问一个网站时,会首先会检查该网站的根域下是否有一个叫做 robots.txt的纯文本文件,这个文件用于指定spider在您网站上的抓取范围。您可以在您的网站中创建一个robots.txt,在文件中声明 该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。
请注意,仅当您的网站包含不希望被搜索引擎收录的内容时,才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容,请勿建立robots.txt文件。
2. robots.txt文件放在哪里?
robots.txt文件应该放置在网站根目录下。举例来说,当spider访问一个网站(比如 http://www.abc.com)时,首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件,如果 Spider找到这个文件,它就会根据这个文件的内容,来确定它访问权限的范围。
3. nofollow标签:
如果您不想搜索引擎追踪此网页上的链接,且不传递链接的权重,请将此元标记置入网页的 部分:
<meta name="robots" content="nofollow">
如果您不想搜索引擎追踪某一条特定链接,还支持更精确的控制,请将此标记直接写在某条链接上:
< a href="signin.php" rel="nofollow" > sign in < / a>
我是老板让我做SEO 边学边做 (哭)