Best Practices for Measuring the Impact of Community STEM Programs
Table of Contents
Présentation
Les programmes communautaires STEM — clubs postscolaires, camps d'été, initiatives de mentorat et ateliers pratiques — servent de passerelles essentielles pour les jeunes afin d'explorer les sciences, la technologie, l'ingénierie et les mathématiques. Ces programmes peuvent susciter la curiosité, renforcer les compétences fondamentales et élargir la participation aux domaines STEM. Pourtant, sans mesure rigoureuse et bien planifiée, même le programme le plus bien intentionné demeure une boîte noire : vous savez que quelque chose se passe, mais vous ne pouvez pas le prouver, l'améliorer ou le soutenir. Le défi consiste à saisir l'excitation immédiate et les changements durables dans les connaissances, les attitudes et les comportements.
Établir des objectifs clairs et spécifiques
Les objectifs de la série Vague, tels que -Améliorer l'intérêt des STEM, rendent presque impossible la détermination du succès. Au lieu de cela, utiliser le cadre SMART – spécifique, mesurable, réalisable, pertinent, assorti de délais. Par exemple, -A la fin du programme de robotique de 12 semaines, 80 % des participants noteront au moins 70 % sur un post-test des principes de conception technique.- Autre exemple : -Augmenter le pourcentage de participantes qui expriment un intérêt pour une carrière des STEM de 40 % à 60 % en un an.- Des objectifs clairs guident chaque aspect de l'évaluation : quels sont les paramètres à suivre, quels instruments à utiliser et comment interpréter les résultats.- Ils harmonisent également les intervenants – instructeurs, bailleurs de fonds, partenaires communautaires – pour répondre aux attentes partagées.
Mettre en oeuvre une approche d'évaluation des méthodes mixtes
Une approche mixte combine des données quantitatives et qualitatives pour saisir l'ampleur et la profondeur de l'impact du programme.Les données quantitatives (cotisations des tests, taux de fréquentation, échelles de Likert) fournissent des chiffres généralisables et comparables.Les données qualitatives (réponses ouvertes au sondage, groupes de discussion, notes de terrain) révèlent pourquoi les participants ont ressenti une certaine façon, comment les compétences se sont développées et quels résultats inattendus sont apparus.
Mesures quantitatives
Les exemples comprennent les évaluations pré- et post-programme des connaissances en matière de STEM, le pourcentage de participants qui terminent le programme, le nombre de projets produits et les ventilations démographiques des inscriptions. PEAR Institute , Suite d'instruments communs de fournir des échelles validées pour mesurer les résultats des jeunes, comme la persévérance, la résolution de problèmes et l'identité des STEM.
Perspectives qualitatives
Par exemple, un étudiant pourrait expliquer que le programme lui a enseigné qu'il était acceptable d'échouer et d'essayer à nouveau. Le sentiment qu'aucun quiz à choix multiples ne peut capturer. Envisager d'utiliser des enregistrements audio numériques ou des applications de prise de notes pour capturer efficacement ces histoires. Les données qualitatives aident également à expliquer des résultats quantitatifs surprenants (p. ex. pourquoi les scores des tests sont restés stables malgré un engagement élevé).
Le fait de combiner des données quantitatives et qualitatives renforce la crédibilité de divers publics : les bailleurs de fonds veulent souvent des chiffres, tandis que les praticiens et les familles se connectent à des histoires personnelles.
Collecte de données de base et de comparaisons
Si l'on ne dispose pas de données de base, il est impossible de mesurer la croissance. Administrer des évaluations, des enquêtes ou des inventaires de compétences avant le début du programme. Ce instantané de base sert de point de référence pour les comparaisons post-programme. Idéalement, inclure un groupe de comparaison – participants qui n'ont pas reçu l'intervention (p. ex., un contrôle de liste d'attente ou un programme post-scolaire comparable). Lorsqu'un véritable projet expérimental n'est pas réalisable, utiliser des approches quasi-expérimentales : comparer les participants à un groupe correspondant d'écoles ou de centres communautaires locaux.
Par exemple, un club de robotique pourrait administrer un questionnaire d'ingénierie de 10 questions le premier jour et encore le dernier jour. Si les participants s'améliorent en moyenne de 30 points de pourcentage et que les non-participants ne présentent aucun changement sur un questionnaire semblable, le programme peut revendiquer un effet.
Faire participer tous les intervenants à la conception de l'évaluation
Trop souvent, l'évaluation est imposée par des tiers – bailleurs de fonds ou évaluateurs externes – sans la participation des personnes qui vivent quotidiennement le programme. L'engagement des étudiants, des familles, des instructeurs et des partenaires communautaires dès le départ permet de faire le point sur les résultats les plus importants pour chaque groupe.Un comité d'adultes peut co-concevoir des questions d'enquête, choisir des sujets d'entrevue et même aider à interpréter les résultats.
Des boucles de rétroaction régulières, des check-in après chaque module, des exercices de fin de session ou des boîtes à suggestions anonymes, maintiennent l'évaluation à l'écoute plutôt qu'à l'écoute d'un événement annuel. Lorsque les intervenants voient que leur apport entraîne de réels changements (p. ex., ajuster la durée de la session ou ajouter des conférenciers invités), ils deviennent les champions du processus d'évaluation.
Adopter le suivi longitudinal
De nombreux programmes communautaires STEM documentent les gains à court terme — scores améliorés, intérêt supérieur — mais négligent de suivre les participants au fil des mois ou des années. Le suivi longitudinal révèle si les impacts persistent : les étudiants s'inscrivent-ils à des cours avancés STEM? choisissent-ils des spécialisations STEM au collège? entrent-ils dans une carrière STEM? Bien qu'ils soient difficiles en raison de la mobilité des participants et des préoccupations liées à la protection de la vie privée, même des efforts longitudinales modestes (p. ex., des sondages annuels par courriel pour deux à trois ans après le programme) ajoutent une valeur considérable.
Établir des systèmes tôt : recueillir plusieurs méthodes de contact (email, téléphone, médias sociaux) avec le consentement des tuteurs et utiliser des outils de gestion de données comme Salesforce for Nonprofits ou un simple tableur pour suivre les anciens. Offrir de petites incitations (cartes-cadeaux, produits de programme) pour augmenter les taux de réponse. Alliance pour l'éducation postscolaire publie des rapports montrant comment la participation soutenue à l'enrichissement des STEM est en corrélation avec les taux d'inscription supérieurs dans les collèges chez les jeunes sous-représentés.
Tirer parti de la technologie et de la visualisation des données
Les outils numériques simplifient la collecte, l'analyse et la production de rapports, libérant ainsi le temps de travail du personnel pour le service direct. Des plateformes gratuites ou peu coûteuses comme Google Forms, SurveyMonkey et Qualtrics simplifient la création d'enquêtes et l'agrégation automatique des données. IQAP (intervention de qualité du Programme pour les jeunes) pour les évaluations d'observation ou Tableau public pour les tableaux de bord interactifs.
Un simple diagramme à barres montrant -80 % des participants ont déclaré une confiance accrue en STEM - , est plus convaincant qu'un tableau de bord de statistiques. Utilisez des tableaux de bord en couleur pour surveiller les indicateurs de rendement clés (ICP) en temps réel : tendances de fréquentation, répartition des points d'évaluation et équité démographique.
Communiquer les résultats de façon transparente et concrète
Les résultats de l'évaluation ne sont utiles que s'ils atteignent les publics appropriés dans les bons formats. Créez des rapports adaptés pour différents intervenants : une infographie d'une page pour les familles, une annexe technique détaillée pour les bailleurs de fonds, un diaporama pour les présentations communautaires et une note interne pour améliorer le programme. Soulignez les succès et les domaines de croissance; la transparence renforce la confiance et la crédibilité.
Par exemple, - Les participants qui ont participé à moins de 60 % des séances n'ont pas montré de gains significatifs, envisager de mettre en oeuvre un contrat d'engagement de session avec les familles lors de l'inscription.
Favoriser une culture d'amélioration continue
Après chaque semestre, convoquer le personnel, les bénévoles et les leaders de jeunesse pour examiner les données, célébrer les victoires et les ajustements de remue-méninges. Utilisez un cycle -action-recherche : Plan → Mettre en œuvre → Collecter des données → Reflect → Réviser. Par exemple, si les données de sondage révèlent que les activités pratiques sont les plus élevées, augmenter leur fréquence et réduire le temps de lecture. Si la fréquentation plonge après un jour férié, envoyer des textes de rappel ou offrir une petite incitation pour la prochaine session.
L'amélioration continue signifie également qu'elle s'applique aux méthodes d'évaluation elles-mêmes. Vos questions d'enquête sont-elles confuses? Collectez-vous trop rarement des données? Sollicitez les commentaires du personnel et des participants sur le processus d'évaluation. L'objectif est de créer un système durable et peu chargé qui donne des renseignements utiles année après année. Au fil du temps, cette culture transforme l'évaluation d'un exercice de conformité en un atout stratégique, qui aide à obtenir un financement renouvelé, à attirer de nouveaux partenaires et, surtout, à améliorer les résultats pour chaque jeune qui passe par la porte.
Conclusion
En établissant des objectifs clairs, en combinant des données quantitatives et qualitatives, en recueillant des données de base, en engageant les intervenants, en suivant la trajectoire longitudinale, en utilisant la technologie, en communiquant de façon transparente et en s'engageant à améliorer continuellement les programmes, les chefs de programme peuvent passer des exemples de réussite anecdotiques à des résultats fondés sur des données probantes et durables.