REDUIRE SES HITS (requêtes)
ou sa bande passante.

Outils pour webmaster. Trucs et astuces en code HTML, JavaScript, PHP : améliorer son site internet

    Réduire le nombre de hits (requêtes), ou la bande passante consommée, peut être primordial pour le webmaster. En effet, les premiers packs professionnels qu'offrent les hébergeurs, comportent souvent des restrictions. Il peut s'agir d'un nombre X de giga-octects de trafic à ne pas dépasser mensuellement ou du nombre de hits généré sur le site. Si celui-ci commence à avoir du succès, il aura de plus en plus de visites et génèrera sur le serveur de plus en plus de trafic. Si vous dépassez ces barrières, et ce n'est pas la moindre chose, votre hébergeur, après 1 ou 2 rappels à l'ordre, fermera votre site jusqu'à ce que vous ayez trouvé une solution.
    Dans le cas de la limitation du trafic par un volume exprimé en giga-octets, vous ne pourrez rien faire d'autre que de souscrire au pack supérieur et plus cher de votre hébergeur. Cette solution ne va pas toujours dans un souci d'économies. Quelques solutions peuvent être cependant envisagées. Vous pouvez réduire une partie de votre site à des abonnés et la fermer aux curieux, vous veillerez au poids de vos pages et limiterez les téléchargements, surtout si ce sont de gros fichiers.
    Par contre, si votre hébergeur vous offre un trafic illimité, il imposera certainement une barrière en nombre de requêtes effectuées sur votre site. Là, une action technique est toujours possible, et même souhaitable, car elle aura pour effet, la plupart du temps, d'alléger vos pages et permettra ainsi un temps de chargement à l'écran plus rapide. De plus, si le nombre de visiteurs augmente, vous pourrez rester au-dessous de la barre maximum du nombre de hits grâce à l'optimisation de vos pages.

MAIS QU'EST UN HIT ou, en français dans le texte, une requête ?
    Les ressources système du serveur distant correspondent à l'occupation de son CPU lorsque votre site est actif et visité. Plus il y a de visiteurs, plus les ressources du CPU sont mobilisées pour votre site. Si vous êtes sur un serveur mutualisé, c'est-à-dire que vous partagez avec d'autres sites que le vôtre les ressources du CPU, celles-ci seront partagées entre chaque site. Si vous monopolisez ces ressources, vous diminuez l'accessibilité des autres sites ; ce qui se traduira par un temps d'accès et d'affichage trop long pour les visiteurs.
    On fait appel aux ressources du système lorsque l'on demande, entre autres, l'affichage d'une page et de son contenu. Le serveur traitera cette demande en allant chercher sur le disque dur la page demandée, la transmettra, retournera sur le disque dur pour y chercher chaque image, les transmettra et ainsi de suite pour tous les composants de cette page. Par exemple, l'appel d'une page HTML et de tout son code, quelqu'en soit le poids, génère 1 hit ; qu'elle fasse 20 Ko ou 200 Ko. L'appel d'une image de cette page établi au moyen d'un lien génèrera 1 hit supplémentaire.
    Il s'avère donc que tout appel de fichier génèrera un hit.

    Imaginons une page HTML comportant 1 fond d'écran, 1 feuille de style, 3 images gif, 1 image jpg, 1 appel de fichier .js, 1 fichier audio (wav, midi etc.) et 1 lien vers l'extérieur de votre site chez un partenaire pour afficher l'image de son logo :

Hits générés  
1 page :   1
1 fond d'écran :   1
1 feuille de style :   1
3 images gif :   3
1 image jpg :    1
Appel .js :   1
1 fichier audio   1
Lien vers logo :   0

Total :     

  9

    En théorie, l'appel de cette page va générer 9 hits. En théorie seulement, car suivant la configuration du navigateur du surfeur, l'appel d'un ou de plusieurs fichiers peut se faire par l'intermédiaire du cache local de votre visiteur. Ainsi, ce ne seront plus les ressources du serveur qui seront utilisées mais celles du visiteur.

    On remarquera aussi qu'un lien vers l'extérieur affichant, par exemple, l'image du logo d'un partenaire, ne génèrera pas une requête car il ne fait pas appel à un fichier se trouvant sur votre serveur.

- QUELS SONT LES FICHIERS GENERANT DES REQUETES au CPU : tous.
- La page elle-même, HTML ou PHP, une image (quel que soit son format), une feuille de style CCS, un fond d'écran, un fichier inclus en PHP, l'appel d'un fichier .js, un fichier audio (quel que soit son format), un script CGI etc.

- Mais il y a aussi les requêtes vers une table MySQL et certaines lignes de commande d'un fichier .htaccess. Par exemple, la connexion avec MySQL doit s'établir avec mysql_connect en début de script (et non mysql_pconnect) et refermer par mysql_close en fin de script. Il ne faut donc pas ouvrir une connexion sans avoir refermé la première, car, à ce moment là, vous occupez les ressources du CPU.

- Le fichier .htaccess contenant une ligne renvoyant vers un de vos fichiers génère une requête. Avec la commande RedirectMatch permanent qui redirige inlassablement vers un fichier X, les visiteurs génèrent un hit à chaque fois qu'il est fait appel à .htaccess.

    Pour vous aider dans le choix des fichiers à traiter, votre hébergeur doit vous fournir des statistiques très détaillées et notamment une analyse des fichiers les plus demandés ; ceux qui génèrent le plus de hits.
    Pour une analyse pointue de vos statistiques, vous pouvez installer sur votre site l'application gratuite Webaliser ainsi que LogAnalizer qui classera, en local, les statistiques réelles de votre site.

- QUELS SONT LES SCRIPTS GENERANT DES REQUETES au CPU : les pages dynamiques, certaines fonctions PHP (Ereg_replace()) et les requêtes MySQL.

- QUI GENERE DES HITS ?
- Les internautes, bien sûr, qui, chaque fois qu'ils visitent une de vos pages, vont générer un nombre X de hits.

- Vous, si vous testez souvent votre site ou si vous avez des pages en local ou sur d'autres sites qui font appel à des fichiers du site où le nombre de hit est limité.

- Les vérificateurs de liens qui en testent la validité. Vous générez donc des hits si vous utilisez un outil semblable. Il se peut aussi que ce soit un de vos partenaires qui vérifie automatiquement que ses liens sont toujours présents dans vos pages.

- Les " Webmasters " délictueux qui font appel à vos pages pour les inclure dans un frame de leur site afin de faire croire qu'ils en sont les auteurs ou ceux qui copient carrément vos pages, y compris les liens.

- Les " Webmasters " peu scrupuleux qui établissent des liens directs entre leur site et vos images ou d'autres fichiers. Ils économisent ainsi de l'espace sur celui que leur a alloué leur hébergeur.

- Les aspirateurs de sites. Ce sont les plus dangereux car si un internaute ne visite pas, en général, la totalité d'un site, surtout s'il est important, l'aspirateur de site, quant à lui, passera en revue toutes les pages et tous les fichiers sans exception.

- COMMENT LIMITER LE NOMBRE DE HITS ? Les méthodes préconisées ci-dessous sont aussi bien pour les webmasters débutants que confirmés.
    Les mise en oeuvres peuvent être plus ou moins simples. Les choix peuvent être douloureux car le webmaster préfèrera toujours obtenir des pages agréables et colorées avec de beaux fonds d'écran ; ce qui peut aller à l'encontre d'une bonne gestion des requêtes. Ce sera donc l'alternative esthétique/technique à la souscription d'un pack plus onéreux. Si l'hébergeur menace de fermer votre site, il ne vous reste rien d'autre qu'à :

- Limiter le nombre d'images pour vos logos et boutons : ce qui compte avant tout, ce sont les images principales que vous voulez afficher, pas celles accessoires.
Si vous avez sur toutes vos pages ce type de logo cliquable pour figurer le retour vers la page d'accueil, pensez qu'il génère un hit par l'appel de l'image pour chaque visiteur, plus un hit, évidemment si l'internaute clique dessus.
Dans le cas des boutons, employez le HTML, le JavaScript ou le DHTML.

Exemples

HTML : RETOUR   -   1 hit

<a HREF="index.htm">RETOUR</a>

 

HTML :     -   1 hit

<FORM>
<INPUT TYPE="button" VALUE=" RETOUR " onClick="document.location.href='index.htm'">
</FORM>


IMAGE :    -  2 hits

<a href="index.htm"><img src="/images/home.gif" width="23" height="23"
alt="Retour"></a>

Ayez bien à l'esprit que ce n'est pas la grosseur d'une image qui est en cause mais le nombre de fois où elle est appelée. Aussi un fond d'écran JPG de 50.000 octets à la même valeur en terme de requête qu'une image GIF de 400 octets.
Par contre, en terme de bande passante, c'est la grosseur du fichier qui sera à prendre en considération. Le cumul se fera sur le nombre d'octets transférés et non pas sur le nombre de fois où le fichier sera appelé.
N'oubliez pas, cependant, qu'une image employée sur tout le site sera dans le cache du visiteur, s'il est activé, et génèrera moins de requête du côté serveur.

- Empêcher les autres webmasters d'établir des liens directs avec vos images. Si vous êtes hébergé sous serveur APACHE,  vous disposez certainement de la possibilité d'écrire un fichier .htaccess. Voilà ci-dessous les lignes que vous y introduirez pour empêcher cette action.(En détail ici)

# interdit les liens extérieurs
RewriteEngine on
RewriteCond %{HTTP_REFERER} !^$
RewriteCond %{HTTP_REFERER} !^http://(www\.)?VOTRE_DOMAINE.COM/.*$ [NC]
RewriteRule \.(gif|jpg|jpeg|GIF|JPG|JPEG)$ - [F]

    De cette façon les images volées ne s'afficheront pas sur le site du squatter.
    Si vous avez accés à la fonction mod_Rewrite, vous pouvez aussi rediriger le lien vers une image unique qui pourrait afficher votre logo et l'adresse de votre site. Ce serait une bonne façon de jouer un tour au squatter et de vous faire de la publicité à peu de frais. Mais n'oubliez pas que cela génèrera un nombre de hits supplémentaire avant que le squatter n'abandonne ou ne s'en aperçoive. L'autre inconvénient provient des moteurs de recherche qui proposent la traduction des résultats. Ainsi, si l'une de vos pages est trouvée par google.com et que l'internaute en choisisse la traduction, il faut savoir que ce moteur, une fois effectuée sa traduction, reconstruira votre page en établissant des liens directs avec ce qu'il croit être vos images. Prenons l'exemple de votre fond d'écran constitué de 30 images vertes. Google reconstruira ce fond avec ce qu'il pense être l'image d'origine alors que votre fichier .htaccess l'aura redirigé, sans qu'il le sache, vers l'image de votre choix. La page ainsi présentée à l'internaute étranger aura peu de chance d'être lisible.

Lignes à introduire dans .htaccess pour la redirection vers une image déterminée :

RewriteEngine on
RewriteCond %{HTTP_REFERER} !^$
RewriteCond %{HTTP_REFERER} !^http://(www\.)?VOTRE_DOMAINE.COM/.*$ [NC]
RewriteRule \.(gif|jpg|GIF|JPG|rmi|mid|MID|rm|wav|WAV)$ http://www. VOTRE_DOMAINE.COM /banniere.gif [R,L]

Lignes à introduire dans .htaccess pour la redirection vers une image déterminée sur un autre site :

RewriteEngine on
RewriteCond %{HTTP_REFERER} !^$
RewriteCond %{HTTP_REFERER} !^http://(www\.)?VOTRE_DOMAINE.COM/.*$ [NC]
RewriteRule \.(gif|jpg|GIF|JPG|rmi|mid|MID|rm|wav|WAV)$ http://hebergeurgratuit.fr/votre_site_gratuit /banniere.gif [R,L]

Lignes à introduire dans .htaccess pour interdire les liens directs sur un autre site mais laisser Altavista et Google établir des liens directs avec vos images :

# interdit les liens extérieurs sauf Google et Altavista
Options +FollowSymlinks
RewriteEngine on
RewriteCond %{HTTP_REFERER} !^$
RewriteCond %{HTTP_REFERER} !^http://(www\.)?votre_domaine.com/.*$ [NC]
RewriteCond %{HTTP_REFERER} !^http://216\.239\.(3[2-9]|[4-5][0-9]|6[0-3])\..*(www\.)?votre_domaine.com [NC]
RewriteCond %{HTTP_REFERER} !^http://babel.altavista.com/.*(www\.)?votre_domaine.com [NC]
RewriteRule \.(gif|jpg|jpeg|GIF|JPG|JPEG)$ - [F]

- Autre solution :
Ouvrez un compte chez un hébergeur gratuit. Faites un site succinct présentant vos images en galeries et établissez des liens directs de vos pages-hébergeur-pro sur vos pages-hébergeur-gratuit.

Ainsi, si vous écriviez auparavant :
    <img scr = "images/fonds/fond_01.gif ">
Vous écrirez :
    <img scr = "http://www.hebergeur_gratuit.fr/mon_compte/images/fonds/fond_01.gif ">

    Si vous pouvez travailler sur le fichier .htaccess, introduisez cette ligne qui redirigera l'appel de vos images chez un hébergeur gratuit où vous les aurez stockées.

redirect /repertoire_images/ "http://www.hebergeur_gratuit.fr/repertoire_images/"
suivant votre configuration APACHE, il faudra écrire de cette façon :
redirect /repertoire_images/ http://www.hebergeur_gratuit.fr/repertoire_images/

Vous pouvez aussi ne rediriger qu'une seule page :
redirect /repertoire1/repertoire2/page.htm http://www.hebergeur_gratuit.fr/repertoire_images/index.html

* Modifiez le champ repertoire_images par le nom du dossier images de votre site principal..
* Modifiez le champ http://www.hebergeur_gratuit.fr/repertoire_images/ par l'adresse complète du répertoire de vos images sur un autre serveur.
* Le htaccess devra être placé dans repertoire_images de votre site principal.
* Ne pas modifier le lien de vos images dans les tags <img> de vos pages, les images seront automatiquement appelées de l'autre serveur si elles sont cherchées dans le répertoire où vous avez mis le .htaccess.

    L'inconvénient étant que les hébergeurs gratuits sont souvent très lents ou inaccessibles aux heures de pointe ce qui ralentira ainsi l'affichage du vôtre. Vous pouvez limiter ces astuces à certaines images seulement en les séparant en deux dossiers. L'un contenant les images appelées à partir de votre site principal, l'autre qui sera le "miroir" de votre site en hébergement gratuit. On peut envisager d'utiliser cette méthode pour les fonds d'écran car alors, une fois l'image incluse dans le dossier temporaire de Windows du visiteur, l'affichage en sera plus rapide et ne dépendra que peu du site distant. Dans tous les cas, des tests sont à effectuer avec les hébergeurs gratuits et à différentes heures de la journée.
    Attention à ne pas ouvrir un compte chez un hébergeur gratuit pour uniquement y stocker vos images. Ces derniers ayant horreur des sites " garage ".
    Gardez la même structure de répertoire sur votre site gratuit que sur votre site pro. Une réécriture ultérieure étant toujours possible elle n'en sera que moins douloureuse.
    Par contre, vous n'êtes pas obligé de garder la même présentation que votre site principal (manque d'espace, manque de temps etc.). S'il ne s'agit que d'images à rediriger, vous pouvez présenter une simple galerie de gif ou jpg à la disposition des visiteurs.

    Les hébergeurs gratuits n'imposent pas de limitation de hits ou de volume de trafic pour les sites de leurs abonnés. Les ressources des CPU se trouvent donc saturées. Ce qui compte avant tout pour un hébergeur gratuit c'est le nombre de clients potentiels pouvant acheter par l'une des innombrables bannières publicitaires et offres promotionnelles. Ceci n'étant pas un reproche.

- Ne pouvant plus voler vos images, les " webmasters " essaieront d'inclure votre page complète dans leurs frames. Ainsi leurs visiteurs croiront explorer leur site sauf si vous rappelez explicitement le nom du vôtre sur toutes vos pages et qu'un nombre suffisant de liens sur celles-ci permettent au visiteur de s'apercevoir qu'il y a supercherie.

- Un autre moyen, un mixage des 2 solutions étant meilleur encore, est d'empêcher les autres " webmasters " d'inclure vos pages dans leurs frames. C'est ce que fait le code suivant à placer dans toutes vos pages entre les balises <head> et </head>.

<script LANGUAGE="JavaScript">
window.moveTo(0,0);
if (document.all)
{
window.resizeTo(screen.availWidth,screen.availHeight);
}
else if (document.layers)
{
if (window.outerHeight<screen.availHeight||window.outerWidth<screen.availWidth)
{
window.outerHeight = screen.availHeight;
window.outerWidth = screen.availWidth;
}
}
</script>
<script language="javascript">
<!--
if (top.frames.length!=0) top.location=self.document.location;
//-->
</script>

Ainsi, l'appel de votre page apparaîtra dans tout le cadre du navigateur du visiteur en provoquant l'effacement des frames concurrents.

- Si vous constatez que le nombre injustifié et trop élevé de hits provient d'une adresse fixe, vous pouvez lui en interdire l'accès par ce simple script à inclure juste après la balise <body>.

<!-- DEBUT DU SCRIPT BLOCAGE IP-->
<script language="javascript">
var ip = '<!--#echo var="REMOTE_ADDR"-->'
if (ip == '255.255.255.255') {
alert("STOP ! Vous n'êtes pas autorisé à entrer dans cette page !");
if (confirm("Veuillez contacter le webmaster."))
{location.href="/" } else { {location.href="" }} }
</script>
<!-- FIN DU SCRIPT BLOCAGE IP-->

Il vous faut évidemment changer l'adresse IP incriminée (255.255.255.255) ainsi que l'adresse de redirection qui peut être extérieure pour éviter de générer un hit supplémentaire. Vous pouvez simplifier ce script en supprimant la fonction alert et faire une redirection transparente. L'extension de votre page devra être .shtml

Si vous pouvez travailler avec le fichier .htaccess, entrez les lignes :

order allow,deny
allow from all
deny from domaine
deny from ip

Remplacez domaine par le nom de domaine uniquement (sans http://www.....) et ip par l'adresse IP. Ainsi, indépendamment, vous pouvez interdire un ou plusieurs domaines et une ou plusieurs IP.
Exemple :

order allow,deny
allow from all
deny from badsite.com
deny from aspir.fr
deny from 22.222.22.2
deny from 1.111.1.11
deny from 000.000.000.000

Si vous voulez interdire une suite d'IP dans la même série, ce qui peut être le cas si elles se trouvent sur le même serveur, vous pouvez n'écrire qu'une partie de l'adresse. Dans l'exemple ci-dessous, vous voulez interdire les IP 255.255.255.000 à 255.255.255.255

order allow,deny
allow from all
deny from 255.255.255.

- Limitez les fonds d'écran avec l'appel d'images : la question d'esthétisme est ici importante et on préfèrera y sacrifier ou pas. Suivant les goûts, une belle couleur unie en fond d'écran avec des cadres aux bordures soulignées peut très bien faire l'affaire si le côté artistique n'est pas primordial plutôt que de faire appel 20 fois à une image GIF pour construire un fond d'écran.
Pour rappel un fond d'écran image est à déclarer dans la balise <body>
    <body backcolor = " img.gif ">
Le fond d'écran en couleur unie :
    <body bgcolour = " blue ">
ou    <body bgcolour = " FF00CC ">
L'avantage de cette dernière écriture en hexadécimal est de permettre beaucoup plus de nuances que l'écriture directe du nom.
Voir : Testez vos textes en couleur avec différents fonds

- Si vous avez un vérificateur de liens, autre que local, qui teste votre site chez votre hébergeur, vous allez générer un très grand nombre de hits. Consultez vos statistiques afin de choisir l'heure la mieux appropriée (passé minuit en général) afin que les requêtes générées par votre vérificateur de liens ne s'ajoutent pas à celles des visiteurs.

- Limitez l'appel de vos fichiers à inclure.

- La feuille de style a cet avantage que l'on peut déterminer en une fois, pour la totalité de votre site, tous les styles de polices, taille, couleur, marges, liens, fonds d'écran, etc. qui seront écrits dans un seul fichier. Celui-ci, appliquera ce style à toutes les pages qui feront appel à lui. Ainsi, si vous décidez de changer le style de votre site, il suffit de réécrire le seul fichier de style. Vous n'aurez donc pas à modifier toutes les pages une par une. L'inconvénient est que cet appel provoquera un hit. Là encore le choix du webmaster sera certainement douloureux : appel d'une feuille de style ou réécriture certaine mais future de toutes les pages.

- Le fichier .js permet de bénéficier, sur toutes les pages où il est appelé, d'un code JavaScript commun à tout le site. Là encore, chaque appel provoque une requête. A réduire ou à éviter.

- La fonction PHP include provoque 1 hit lorsqu'elle est appelée. A réduire ou à éviter.

- Evitez le rafraîchissement automatique de vos pages. Cela peut provoquer des hits malgré leur présence dans le fichier temporaire Windows du visiteur.

- N'interdisez pas au navigateur de votre visiteur la mise en cache de vos pages si cela n'est vraiment pas nécessaire.

- Si vous êtes limités en nombre de hits par votre hébergeur, sachez qu'avec le temps et le nombre de visiteurs qui vont mettre votre site en favoris, le fichier favicon.ico a des chances de devenir un des fichiers le plus appelé donc, générateur d'un grand nombre de hits.

- Si vous pouvez regrouper des rubriques sur une seule page, et à condition de ne pas trop l'alourdir, rassemblez plusieurs pages PHP ou HTML en une seule. Vous limiterez encore le nombre de hits.

- Vous pouvez laisser les liens HTML visibles pour aller de pages en pages mais en coder d'autres en JavaScript. Si vous proposez de nombreux (consommateurs de hits) ou gros fichiers (consommateurs de bande passante) ZIP au téléchargement, écrivez leurs liens en JavaScript. Les aspirateurs de sites sont incapables de lire de tels liens. Un inconvénient toutefois, les navigateurs qui n'ont pas activés J.S ne pourront pas télécharger vos fichiers.

Utilisez ce script sur vos liens afin que les aspirateurs de sites ne puissent les trouver.
Si auparavant vous écriviez :
<a href="mon_lien.zip">Téléchargez</a>

vous écrirez maintenant :

<script language="javascript">
<!--
document.write('<a h' + 're' + 'f="');
document.write('mon_lien' + '.' + 'zip">');
// -->
</script> Téléchargez </a>

Les spiders des moteurs de recherche ont plusieurs méthodes pour explorer tous vos liens et pages. Ils le font en douceur, sans marteler votre site. Un aspirateur explorera vos liens de la même manière mais en un temps très court. Si vous êtes limité en nombres de hits par heure, un seul aspirateur à une heure normale de visite a de grandes chances de faire exploser la barrière de votre limitation.
Un visiteur explore rarement la totalité d'un site. Mais si le vôtre lui semble intéressant, il utilisera un aspirateur de site pour pouvoir le consulter tranquillement hors ligne. Cette méthode, bien que louable pour le visiteur, n'en consomme pas moins de la bande passante inutile qui viendra s'ajouter aux visites normales et vous fera peut-être atteindre la limite imposée par l'hébergeur.
- Pour empêcher les aspirateurs de sites d'accéder au vôtre et générer ainsi un nombre de hits très important, introduisez les lignes ci-dessous dans le fichier .htaccess déposé à la racine de votre site. Ce fichier répertorie les noms des aspirateurs et les redirige vers un site indésirable. Les copieurs de sites, ne pouvant tout copier, génèrent une erreur 404. Si vous avez installé une page 404 vous prévenant par mail de ce type d'erreur, vous pourrez mettre à jour la liste des copieurs existant dans le fichier .htaccess lorsqu'un aspirateur non référencé viendra sur votre site.

Code à mettre dans le fichier .htaccess (En-tête à adapter suivant votre serveur)

RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} eCatch [OR]
RewriteCond %{HTTP_USER_AGENT} EmailCollector [OR]
RewriteCond %{HTTP_USER_AGENT} frontpage [NC]
RewriteRule ^.*$ http://www.autre_site.com [R,L]

Dans le cas ci-dessus, si un utilisateur essaye d'aspirer votre site avec eCatch, ou qu'un spammeur parcourt toutes vos pages à la recherche de mails valides avec EmailCollector, ils seront redirigés sur www.autre_site.com. Le choix de remplacer www.autre_site.com par un site particulièrement agressif vous est laissé.
Si un visiteur essaye d'éditer une de vos pages à l'aide de FrontPage, c'est aussi www.autre_site.com qui sera édité dans FrontPage Editor.
Si vous avez des lignes telles que ErrorDocument 404 /404.php et/ou ErrorDocument 401 /401.php etc, placez les après ou avant RewriteRule ^.*$ http://www.autre_site.com [L,R], des essais devant être faits suivant la configuration de votre hébergeur.

Pour ceux qui n'ont pas accés aux couple RewriteCond/RewriteRule dans .htaccess, utilisez :

SetEnvIf User-Agent "eCatch" ban=1 
SetEnvIf User-Agent "EmailCollector" ban=1
SetEnvIfNoCase User-Agent "frontpage" ban=1
<Files ~ "^.*$">
order allow,deny
allow from all
deny from env=ban
</Files>

SetEnvIfNoCase indique que le USER_AGENT possède des minuscules et des majuscules.
Si vous avez des lignes telles que ErrorDocument 404 /404.php et/ou ErrorDocument 401 /401.php etc, placez les après ou avant RewriteRule ^.*$ http://www.autre_site.com [L,R], des essais devant être faits suivant la configuration de votre hébergeur.

- Voir un chapitre plus complet consacré à ce sujet.
- Pour voir la liste et le code complet de plusieurs dizaines de sites ou d'applications indésirables, cliquez ICI
- Pour voir la liste détaillant leur activité, cliquez ICI
- Voir ICI comment créer, transformer et transférer un fichier .htaccess

Interdire les aspirateurs - Listes des aspirateurs - Code pour .htaccess
Pour bloquer un indésirable par l'IP, plutôt que par le USER_AGENT, c'est ICI.

Les aspirateurs de sites utilisent la même méthode que les spiders des moteurs de recherche. Dès la première page aspirée, ils utilisent les liens HTML présents dans cette page pour naviguer dans tout le site. S'ils ne trouvent pas de liens, ils s'arrêtent. Vous pouvez mettre à profit cette technique pour empêcher les aspirateurs de naviguer. Utilisez des frames et liens en JavaScript, c'est-à-dire sans <a href="mon_lien.htm"> mais plutôt onClick="window.open('http://www.mon_lien.htm'), et des HTTP_REFERER en PHP.
Mais attention : les spiders des moteurs de recherche ne pourront visiter et éventuellement référencer qu'une seule page de votre site car ils ne comprennent que le HTML.

Autre méthode d'interdiction des aspirateurs de sites : Un aspirateur de site ou un mauvais spider visitera tous vos liens sans tenir compte des interdictions contenues dans le fichier robots.txt et de la balise <meta NAME="Robots">.
Si dans votre page d'accueil index.html vous introduisez un lien vers une page qui aura été interdite de visite dans robots.txt et par la balise <meta NAME="Robots" CONTENT="index, follow"> , l'aspirateur visitera tout de même cette page. Il est facile, à partir de là, de bloquer l'IP par un script contenu dans cette page et de l'inscrire durablement dans le fichier .htaccess.
Voir ici le détail de l'opération.


Ainsi prend fin cet article que l'on peut appeler un hit parade.

Liens connexes qui vous serviront dans l'environnement du fichier .htaccess

Limiter le nombre de hits  -  Interdire les aspirateurs(1)  -  Interdire les aspirateurs (2)  -  Liste générale des applications et aspirateurs indésirable, écriture .htaccess  -   Ecriture du fichier .htaccess (et htpasswd)  -  Liste vérifiée des applications et aspirateurs indésirables  -  Autres applications vérifiées  -  .htaccess et liste vérifiée des applications indésirables   -  Info par mail d'une erreur 401,403,404,405  -  Page personnalisée d'erreur  -  Le fichier robots.txt  -  Ecriture et redirection avec htaccess  -  Mot de passe avec .htaccess et .htpasswd  -  Codez vos mots de passe  -  Interdire l'affichage de ses images  -  CHMOD  -  Les codes d'erreurs 

Retour

Copyright www.toulouse-renaissance.net ©