Yahoo! estrena su nuevo crawler

El motor de búsqueda de Yahoo! que recorre la web para actualizar sus bases de datos y permitir que los internautas encontremos lo que buscamos acaba de renovarse. Yahoo! Slurp 3.0 ya está funcionando a plena potencia.

La puesta en marcha del nuevo crawler o spider de Yahoo! para recorrer la web llevará aún unas semanas, pero el nuevo Slurp 3.0 ha sido presentado oficialmente y en Yahoo! comentan que seguirá usando las mismas directivas del user-agent y el fichero robots.txt, pero que también habrá dos novedades destacables.

La primera es que los crawlers residirán en un nuevo conjunto de direcciones IP, pero también harán uso del proceso ‘reverse DNS lookup’ que hace que los administradores tengan que tener en cuenta esas nuevas IPs utilizadas para que se registren bien sus webs.

Además de eso, el nuevo crawler devolverán un nuevo user agent, de modo que es necesario utilizar las etiquetas “Slurp” o “Yahoo! Slurp”, pero no “Slurp/2.0″ que algunos administradores usaban para el anteriore crawler. En esos casos conviene utilizar las que siguen siendo válidas. Yahoo! recomienda usar la cadena “User-agent:Slurp” en nuestros ficheros robots.txt.

Anuncios

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s

A %d blogueros les gusta esto: