Que puis-je faire pour gérer les problèmes de comportement des utilisateurs sur un site Web?

Question

Je travaille sur un projet avec un groupe, et nous faisons un site expérimental qui implique une forte interaction de l'utilisateur. En un mot, la nature du site implique l'affichage et le commentaire de l'utilisateur lourd. Basé sur le thème de notre site, nous nous attendons à recevoir des messages controversés et du matériel offensant.

Ma question est de savoir quels algorithmes, méthodes, etc. nous pouvons utiliser pour surveiller et gérer ces interactions «mauvais utilisateurs» avec notre site Web.

À l'heure actuelle, nous n'avons vraiment vérifié que les publications dans une base de données de personnes, de collèges et d'entreprises. Cela rendrait les messages anonymes quelque peu et prendrait un sens d'offense hors de la poste. Quoi d'autre devrions-nous/pouvons-nous mettre en œuvre dans notre conception pour y parvenir?

Solution:

Tout le monde avait vraiment de bonnes suggestions que je vais à la recherche un peu plus. En référence à la création d'une liste, j'ai expérimenté avec un petit script que j'ai écrit qui prend une collection de sites Web qui contiennent des répertoires de noms avec une quantité importante de données (3000-4000 noms), et je suis en train d'analyser le HTML, et stocker chaque valeur dans une base de données à exécuter par rapport aux publications de l'utilisateur. C'est un peu "improvisé" mais il servira de bon testeur pour le moment.

Answer 1

Pour un bon fond du problème, avec quelques suggestions générales, consultez cette transcription d'un discours prononcé par Clay Shirky: A group is its own worst enemy

Pour voler directement à partir du podcast StackOverflow, la limitation du débit est l'une des méthodes les plus efficaces . Fixez des limites raisonnables au temps qui peut s'écouler entre les commentaires et, si la limite est dépassée, placez cet utilisateur dans une période de «refroidissement» temporaire pendant laquelle il ne peut pas interagir pendant quelques minutes. Si elles continuent à rebondir contre cette limite, vous pouvez avoir un abuseur pathologique, et peut les refroidir plus longtemps, leur demander gentiment de s'abstenir, etc

La limitation de la vitesse réduira les flammes, car l'un des principaux contributeurs à la guerre des flammes est les gens se mettent en colère et commencent à publier des attaques personnelles plutôt que des arguments rationnels. La limitation du débit réduira quelque peu ce comportement. Permettre à des personnes de signaler un contenu offensant est également utile (et permet uniquement à chaque utilisateur de signaler un élément une fois), mais je ne montrerais les articles marqués qu'aux modérateurs où le taux de signalement est assez élevé. Vous devez filtrer le "bruit de fond" parce que presque tout ce que vous publiez va offenser quelqu'un.

Answer 2

Cela dépend du nombre d'utilisateurs, combien la tolérance pour niaiserie (est-ce OK pour un message offensant d'être là-bas pour un peu de temps), etc.

Une possibilité serait d'obliger les utilisateurs à créer des comptes utilisateurs (CAPTCHAed convenablement pour empêcher la création automatisée de compte) avant qu'ils puissent poster. Ensuite, supprimez les posts offensifs (et les comptes correspondants) si nécessaire.

Il existe différentes façons d'identifier les posts offensifs. Une technique 2.0 standard consiste à laisser les utilisateurs signaler les posts des autres comme offensants. Cela peut faciliter la capture des administrateurs.

Answer 3

Pour arrêter les gens en colère, je suis un grand fan du lien "Signaler ce post". Votre communauté fera la majeure partie de la modération pour vous. Pour arrêter les gens raisonnables qui ont écrit quelque chose d'inflammatoire, vous pouvez essayer d'être intelligent.

Faire une longue liste de mots vraiment forts (les mots de malédiction étant les plus forts, évidemment) et marquer chacun de façon appropriée.Si le score de force d'un message (ajusté pour le compte de mots post) franchit un seuil, affiche un grand avertissement rouge et suggère que l'affiche envisage de reformuler. Et si elles parviennent à soumettre de toute façon, allez-y et mettez cela dans la file d'attente de modération au lieu de poster immédiatement.

Pour arrêter les spammeurs, je suis un grand fan de la fonction de hachage cryptographique nonce + hash réalisée en javascript + cookie replay technique. Aucun espace visuel pour un captcha laid, et une performance équivalente dans la pratique. Je n'ai pas encore vu un spammeur franchir les obstacles nécessaires pour le vaincre de manière automatisée. J'ai vu des spammeurs confus entrer le spam manuellement à la main après que leurs systèmes automatisés aient été rejetés avec une précision de 100%.

Et lire complètement que le lien Clay Shirky de l'autre réponse. Comprendre la dynamique de la communauté est la clé.

Addenda: Implémentation d'un CAPTCHA non interactif. Effectuez une requête AJAX pour un nonce sur le serveur.

Le serveur renvoie une réponse JSON contenant le nonce, et définit également un cookie contenant la valeur nonce. Calculer le hachage SHA1 du nonce en javascript, copier la valeur dans un champ caché. Lorsque l'utilisateur POST le formulaire, ils envoient maintenant le cookie avec la valeur nonce. Calculez le hachage SHA1 du nonce à partir du cookie, comparez-le à la valeur dans le champ caché, et vérifiez que vous avez généré ce nonce dans les 15 dernières minutes (memcached est bon pour cela). Si toutes ces vérifications réussissent, postez le commentaire.

Cette technique nécessite que le spammeur s'assoit et comprenne ce qui se passe, et une fois qu'ils le font, ils doivent encore déclencher plusieurs demandes et maintenir l'état pour obtenir un commentaire. C'est beaucoup, beaucoup plus de travail que la plupart des spammeurs sont prêts à passer, d'autant plus que le travail ne s'applique qu'à un seul site. Le plus grand inconvénient est que toute personne avec JavaScript désactivé ou les cookies désactivés est marqué comme spam potentiel. Ce qui signifie que les files d'attente de modération sont toujours une bonne idée.

En théorie, cela pourrait être qualifié de sécurité par l'obscurité, mais en pratique, c'est excellent.