2010-02-19 4 views
0

J'ai un programme d'exploration qui récupère les URLs pour analyser le code HTML et a rencontré une erreur inhabituelle depuis que j'ai commencé cela. Pour un ensemble spécifique de urls d'un site lors de la récupération en utilisant HttpWebRequest et HttpWebResponse je reçois l'erreurHTTPWebREquest - returns Erreur WebException - erreur (404) non trouvé

**> Le serveur distant a renvoyé une erreur:

(404) Not Found**

Ceci est inhabituel car il fonctionne quand le coller dans mon navigateur Toutes les idées ont apprécié. Je ne sais pas si le code est nécessaire pour poster, mais laissez-moi savoir si c'est le cas.

Répondre

1

Le site peut bloquer votre user-agent ou nécessiter des cookies.

+0

J'ai essayé de changer de useragents et ceci n'a pas fonctionné. Comment puis-je activer les cookies à l'intérieur du programme? – vbNewbie

+0

ok va essayer le thingy classe Cookiecontainer – vbNewbie

1

Est-il possible que le serveur distant serve différentes pages en fonction de l'agent utilisateur et qu'il ne possède pas de page correspondant à la valeur User-Agent fournie par l'instance HttpWebRequest (vide par défaut)? Juste une pensée, puisque vous dites que la page peut être trouvée lors de la navigation à son adresse avec le navigateur, mais pas par le code.

+0

Merci pour la réponse ... n'était pas sûr de ce que vous vouliez dire exactement, mais j'ai essayé de changer les utilisateurs et n'a pas fonctionné. Il obtient toujours la première url et ensuite je reçois l'erreur par la suite. Est-ce que le site me bloque? ce qui est marrant depuis que j'ai vérifié le robot.txt – vbNewbie