nous avons un grand site communautaire construit dans Drupal, où le site a une agecheck obligatoire avant de pouvoir accéder au contenu du siterobot est bloqué sur la page agecheck obligatoire dans Drupal
il vérifie un cookie pour être présent, sinon, vous êtes redirigé vers la page agecheck. Maintenant, nous pensons que les crawlers sont bloqués sur cette partie, ils sont redirigés vers l'agecheck et ne peuvent jamais explorer le site web complet.
Est-ce que quelqu'un a déjà eu ça? quelle serait la meilleure façon de faire face à quelque chose comme ça?
Sander
EDIT
je suis désolé que parler maintenant, l'un des problèmes avec robots d'exploration est aussi que lorsque quelqu'un dans les postes de la communauté quelque chose à son mur facebook, facebook explore la page pour récupérer les images et la description (qui sont spécifiées dans les balises meta) mais Facebook est également redirigé vers la page agecheck. un useragentcheck fonctionnerait-il si j'ajoute le crawler de facebook? si oui: quelqu'un connaîtrait-il alors le nom exact des robots d'exploration?
La solution ci-dessous est celle que nous avons également eu une croix sur le net. Si l'ajout du robot d'exploration de Facebook à cette liste fonctionne alors cela résoudrait tous les problèmes que nous avons avec cette page d'agecheck.
"le site a un contrôle obligatoire" - probablement pour une raison. Quel type d'information voulez-vous afficher sur les moteurs de recherche? Une version "filtrée" de toutes les pages? Seulement un sous-ensemble de pages, peut-être même seulement un fichier d'index? – VolkerK