Archive de avril 2010

Loupe-graphique2Il m’arrive souvent de critiquer les résultats de sondage qui paraissent dans les médias (ici et ici par exemple). Trop souvent, la méthodologie est incomplète, trompeuse ou carrément erronée.

De plus, on commet souvent la faute de diffuser une marge d’erreur avec les résultats d’un sondage non probabiliste (ex. : sondage mené auprès d’un panel de volontaires par opposition à un recrutement de panélistes aléatoire – voir à ce sujet la recommandation de l’Association américaine de la recherche sur l’opinion publique).

Mais je lève mon chapeau à l’Agence QMI et à Canoe qui publiaient ce matin les résultats d’un sondage CROP :

Les résultats du sondage reposent sur 1173 questionnaires complétés via Internet du 19 au 24 mars 2010 dans le cadre du sondage omnibus CROP-express. Compte tenu du caractère non probabiliste de l’échantillon web, le calcul de la marge d’erreur est impossible.

C’est la première fois que je vois autant de transparence à l’égard d’un sondage en ligne non probabiliste. J’ai été très agréablement surprise, pour ne pas dire émue!

Publié par Julie Fortin le 28 avril 2010

Le prétest d’un sondage en ligne

GO3-pretest-sondageJe vous ai déjà parlé en détail du prétest d’un sondage téléphonique. Mais qu’en est-il du prétest d’un sondage en ligne? Il est tout aussi important, mais se présente différemment.

Le prétest est «l’épreuve que subit la première mise en forme d’un questionnaire d’enquête ou d’un test auprès d’un échantillon réduit afin d’en déceler les défauts et d’y faire les corrections qui s’imposent.»
Source : Grand dictionnaire terminologique

Une des particularités du sondage web par rapport au sondage téléphonique, c’est qu’en plus du contenu, il faut aussi tester le contenant. En effet, le répondant doit avoir autant de facilité à lire et à comprendre les questions qu’à naviguer sur les pages web du sondage. On doit donc considérer l’ergonomie du sondage (nombre de questions par page, format et emplacement des questions, boutons, etc.) et le fonctionnement technique (chargement des pages, sauts de question, questions facultatives ou obligatoires, etc.).

Lire la suite »

Detective-enqueteLa firme Grey Matter Research (Phoenix, Arizona) vient de rendre public un rapport* plutôt accablant pour certains panels d’internautes. Intitulé Dirty Little Secrets of Online Panels, le rapport présente les résultats d’une enquête «répondants-mystères» auprès de 12 panels de volontaires de grandes compagnies (internationales ou américaines), incluant des panels bien connus ici comme Harris Interactive, Ipsos (I-Say) ou Global Test Market.

Le principe du «répondant-mystère»

Grey Matter Research a inscrit plusieurs répondants-mystères à des panels de volontaires pour une période de 30 jours. [Évidemment, les panels à recrutement aléatoire sont exclus de l'étude puisqu'il est impossible de s'y joindre sans avoir préalablement reçu une invitation.] Les répondants-mystères avaient pour instructions de répondre de façon honnête aux questions posées et de noter leurs observations sur chacun des sondages.

Lire la suite »

sondageweb-bleu2Dans un rapport* publié en mars 2010 (c’est tout frais!), l’American Association for Public Opinion Research (AAPOR) publie les conclusions d’un groupe de travail sur les panels d’internautes (online panels).

Je vous parle aujourd’hui de la première recommandation des experts :

Les chercheurs devraient éviter d’utiliser des panels non probabilistes lorsque leur objectif est de généraliser des résultats à l’ensemble d’une population.

Lire la suite »

Publié par Julie Fortin le 8 avril 2010

Le «Verdict» : est-ce vraiment votre opinion?

Pt-exclamation2Lundi soir, c’était la première émission du «Verdict» de Véronique Cloutier. J’avais entendu parler du concept de l’émission, que je trouve plutôt original et non dépourvu d’intérêt soit dit en passant, mais bien honnêtement, j’ai complètement oublié de regarder la première lundi. Mais après que mon collègue Francis Dufour ait piqué ma curiosité ce matin sur la méthodologie utilisée, je me suis reprise en visionnant quelques extraits sur internet.

D’entrée de jeu, l’animatrice explique brièvement la méthodologie des sondages sur lesquels s’appuie l’émission :

Les sondages [...] sont faits avec un échantillon qui représente 5,9 millions de Québécois francophones avec une marge d’erreur de 4 %, 19 fois sur 20.

Cette toute petite phrase comporte pas moins de trois erreurs (sans compter les omissions). Pourriez-vous les trouver?

Lire la suite »

Publié par Julie Fortin le 6 avril 2010

Sondages en ligne : quels indicateurs suivre? (4)

Sablier-durée-sondages-webJe continue ma série de billets sur les indicateurs les plus pertinents à suivre au cours d’un sondage en ligne. Aujourd’hui, il sera question de la durée du sondage et du temps de réponse par question.

Durée du sondage

La notion de durée est bien différente dans un sondage web par rapport au sondage téléphonique. Comme le sondage web est «auto-administré», le répondant peut prendre tout le temps nécessaire pour participer au sondage, incluant des pauses plus ou moins longues. En calculant la durée moyenne pour l’ensemble des participants, on a toutefois une bonne idée de l’investissement requis par le répondant. Lorsqu’on conçoit un questionnaire, il faut toujours garder à l’esprit que la longueur d’un sondage fait partie des facteurs qui influencent le taux de réponse, particulièrement dans les sondages en ligne : un sondage trop long pourra générer davantage d’abandons.

Mais en matière de durée, la situation est encore plus problématique lorsque le répondant est… trop rapide!
Lire la suite »

Publié par Julie Fortin le 1 avril 2010

Un léger manque d’éthique

1-Poisson-ethiqueÀ la fin de ce billet, vous comprendrez que «léger» est un euphémisme. En fait, je suis carrément soufflée par ce qui est, ni plus ni moins, que de la concurrence déloyale. «Welcome to the real world, m’a dit l’un des patrons de SOM, ça arrive tout le temps». C’en était fait du peu de naïveté et d’idéalisme qu’il me restait.

L’appel d’offres
Récemment, nous avons perdu un appel d’offres au profit d’une firme concurrente. Jusque-là, rien d’anormal : on ne peut pas tous les gagner! L’appel d’offres, en provenance d’un organisme gouvernemental, requérait les services d’une firme pour effectuer un sondage auprès d’une tranche plutôt rare de la population. Pour réduire les coûts, l’appel d’offres spécifiait qu’une partie de la collecte des données devait s’effectuer par internet, auprès d’internautes recrutés de façon aléatoire. En principe donc, exit les panels d’internautes volontaires. Mais pour nous en assurer, nous avons communiqué avec le mandant. Voici sa réponse, fournie à tous les soumissionnaires :

Lire la suite »