Using Probability to Analyze and Improve Online Recommendation Engines
Table of Contents
Introduction à la probabilité dans les moteurs recommandés
Des plateformes en ligne modernes, des géants du commerce électronique comme Amazon aux services de streaming comme Netflix, se tournent vers les moteurs de recommandation pour offrir des expériences personnalisées. Ces systèmes trient à travers de grandes quantités de données sur le comportement des utilisateurs pour prédire quels éléments un utilisateur trouvera pertinents ou agréables. Au cœur de beaucoup de ces prédictions se trouve la théorie des probabilités, qui fournit un cadre rigoureux pour quantifier l'incertitude et faire des suppositions éclairées sous des informations incomplètes.
En modélisant les préférences des utilisateurs et les caractéristiques des éléments en tant que variables aléatoires, les développeurs peuvent estimer la probabilité qu'un utilisateur intervienne avec une suggestion particulière. Cette approche probabiliste non seulement améliore la précision des recommandations, mais permet également une évaluation systématique et une amélioration itérative.
Comprendre les moteurs de recommandation et leurs données
Types de systèmes de recommandation
Les moteurs de recommandation se répartissent généralement en trois grandes catégories, chacune ayant sa propre saveur probabiliste:
- Filtrage basé sur le contenu – recommande des éléments similaires à ceux qu'un utilisateur a aimés dans le passé. Les modèles de probabilité évaluent la similitude entre les caractéristiques des éléments et les préférences de l'utilisateur, utilisant souvent des techniques bayésiennes pour mettre à jour les estimations de préférences à mesure que de nouvelles interactions se produisent. Par exemple, un vecteur de préférences user== peut être traité comme une variable aléatoire avec une distribution antérieure; après chaque interaction, l'a posteriori est mis à jour via le théorème Bayes=.
- Filtrage collaboratif – exploite le comportement collectif de nombreux utilisateurs. Il suppose que si l'utilisateur A et l'utilisateur B ont des cotes antérieures similaires, la probabilité que A aimera un élément B aimé est élevée. Cela peut être exprimé par la factorisation de matrice probabiliste ou des modèles basés sur le voisinage où les similitudes sont des probabilités conditionnelles.
- Approches hybrides – combiner le contenu et les signaux collaboratifs. Les hybrides probabilistes (par exemple, utilisant un ensemble bayésien) peuvent peser les deux sources d'information de façon dynamique, s'adaptant aux scénarios de sparté ou de démarrage à froid des données.
Les données derrière les probabilités
Les moteurs de recommandation traitent des données telles que les cotes explicites (par exemple, 1 à 5 étoiles), les rétroactions implicites (clics, vues, achats) et les signaux contextuels (temps de la journée, type de périphérique). Chaque point de données peut être traité comme une observation d'une variable aléatoire. Par exemple, une notation d'étoile peut être modélisée comme une variable aléatoire discrète avec une distribution de probabilité conditionnée par l'utilisateur et l'élément.
L'information contextuelle ajoute un autre calque : la probabilité qu'un utilisateur aime un élément peut changer selon qu'il navigue sur un appareil mobile tard le soir par rapport à un bureau pendant les heures de travail. factorisation de matrice de contexte- Oui.
Le défi fondamental est d'estimer la probabilité P(comme Utilisateur, élément, contexte) Il faut pour cela une inférence probabiliste, qui est l'endroit où se trouve la section suivante.
Concepts probabilistes clés pour la recommandation
Probabilité conditionnelle et théorème Bayes
Au cœur de la plupart des algorithmes de recommandation est la probabilité conditionnelle. La probabilité qu'un utilisateur aimera un élément étant donné leur comportement passé peut être écrite comme P(historique similaire). Le théorème de Bayes , nous permet de mettre à jour cette probabilité à mesure que de nouvelles preuves arrivent:
P(modèle) = P(modèle) × P(modèle) / P(données)
Dans la pratique, P(modèle) représente les croyances antérieures au sujet des préférences de l'utilisateur (p. ex., un utilisateur aime généralement les films d'action). Comme l'utilisateur note plus de films, la distribution postérieure devient plus nette, ce qui conduit à des prédictions plus confiantes. Wikipedia article sur l'inférence bayésienne. Les méthodes bayésiennes offrent également une façon naturelle de traiter le problème du démarrage à froid : lorsque les données sont rares, les données antérieures dominent; à mesure que les données s'accumulent, la probabilité prend le dessus.
Distributions de probabilités pour les évaluations et les commentaires
Différents types de rétroaction des utilisateurs appellent des distributions de probabilité différentes:
- Evaluations continues (p. ex., 1–5) sont souvent modélisés avec une distribution gaussienne, où la moyenne est la cote prévue et la variance saisit l'incertitude. Cependant, les valeurs de cotation sont limitées, des modèles gaussiens ou ordinaux tronqués (p. ex., des modèles de liens cumulatifs) peuvent être plus appropriés.
- Retours binaires (cliquez/non-cliquez) utilise une distribution Bernoulli, le paramètre étant la probabilité d'une action positive. La régression logistique est une façon courante de paramétrer cette probabilité en fonction des fonctionnalités utilisateur et élément.
- Données de comptage (p. ex., nombre de flux ou d'achats) peut être modélisée avec une distribution de Poisson ou une distribution binôme négative lorsque la dispersion est excessive.
Le choix de la distribution correcte est crucial; une mauvaise concordance peut conduire à un mauvais étalonnage des probabilités prévues. Par exemple, l'utilisation d'un Gaussien pour les données binaires peut produire des probabilités extérieures à [0,1] et des estimations d'incertitude irréalistes.
Probabilité maximale et estimation du MAP
Pour apprendre les paramètres de ces distributions à partir de données, les ingénieurs utilisent souvent l'estimation de la probabilité maximale (EMI) ou l'estimation a posteriori maximale (EMI). MLE trouve des valeurs de paramètre qui maximisent la probabilité d'observer les données de formation. MAP intègre un précédent, qui aide à se régulariser lorsque les données sont rares, un problème commun dans les systèmes de recommandation. Par exemple, un modèle de factorisation de matrice bayésienne peut produire des prédictions plus solides qu'une simple décomposition de valeur singulière (DSV) lorsque les utilisateurs ont peu de cotes.
Les formes avancées de MAP incluent Bayes variables, qui rapproche la distribution postérieure d'une distribution plus simple (p. ex. famille moyenne de champs) et optimise une limite inférieure à la probabilité marginale. Cette approche s'adapte aux grands ensembles de données tout en conservant de nombreux avantages de l'inférence bayésienne complète.
Modèles probabilistes de recommandation
Filtre collaboratif bayésien
Les approches bayésiennes traitent les facteurs latents, tant pour l'utilisateur que pour l'élément, comme des variables aléatoires tirées de distributions antérieures. Facturation probabiliste bayésienne (FBP), qui place les antécédents gaussiens sur les vecteurs utilisateurs et objets, puis en déduit l'arrière en utilisant l'inférence variationnelle ou la chaîne Markov Monte Carlo (MCC). BPMF fournit naturellement une incertitude de prédiction, permettant au système de signaler des recommandations avec une faible confiance pour l'exploration ultérieure.
Chaînes Markov et recommandations basées sur les séances
Pour prédire les actions des éléments suivants (p. ex., ce que l'utilisateur cliquera ensuite dans une session), les chaînes Markov sont efficaces. Un chemin de navigation utilisateur est modélisé comme une séquence d'états (éléments), et les probabilités de transition entre les états sont estimées à partir de données de session historiques. Analyse sémantique probabiliste latente (pLSA) ou Allocation de dirichlet latent (LDA) Pour les scénarios basés sur la session, un modèle Markov factorisé qui utilise la factorisation matricielle sur la tenseur de transition peut gracieusement s'appliquer.
Modèles graphiques et graphiques de facteurs
Les modèles graphiques offrent un langage visuel et mathématique pour saisir les dépendances entre les utilisateurs, les éléments et les fonctionnalités contextuelles. champ aléatoire conditionnel (CRF) Les graphiques factoriaux permettent une inférence efficace en utilisant le passage de messages (p. ex., propagation de croyances), ce qui est particulièrement utile lorsque le problème de recommandation implique de nombreuses variables interagissantes, comme le choix d'un ensemble d'éléments à recommander à un utilisateur au fil du temps.
Une excellente ressource externe sur les modèles graphiques probabilistes est Probabiliste Monde expliqué. Une autre référence clé est la Livre Probabilistic Machine Learning de Kevin Murphy, qui couvre beaucoup de ces modèles en profondeur.
Incertitude-Connaissance des réseaux neuraux
Les modèles modernes d'apprentissage profond pour la recommandation (p. ex., filtre collaboratif neuronal) sont souvent déterministes. Toutefois, en intégrant des couches bayésiennes, comme Monte Carlo Dropout ou en traitant les poids comme des distributions, ces réseaux peuvent produire une distribution prédictive plutôt qu'une estimation ponctuelle. ensembles profonds, où plusieurs réseaux neuraux sont formés avec différentes initialisations aléatoires; la variance entre les membres de l'ensemble est approximative de l'incertitude prédictive.
Évaluation des recommandations avec des mesures probabilistes
La probabilité n'est pas seulement pour construire des modèles – elle sous-tend également les mesures d'évaluation. Au lieu de traiter une recommandation comme simplement --droit ou --wrong, , , nous pouvons marquer le système , les prévisions probabilistes:
- Perte de log (entropie croisée) – mesure la correspondance entre les probabilités prédites et les vrais résultats binaires. La perte de log inférieure indique un prédicteur mieux étalonné. C'est la perte standard pour la classification binaire et est largement utilisée dans les tests A/B en ligne.
- Classement réciproque prévu (ERR) – une mesure qui suppose que les utilisateurs scannent une liste classée de haut en bas, avec une probabilité d'arrêt après chaque élément pertinent. Elle combine probabilités de pertinence et position. ERR est particulièrement utile lorsque la probabilité de pertinence est prédite explicitement.
- NDCG probabiliste – une extension du gain cumulatif actualisé normalisé qui pondère chaque élément par sa probabilité de pertinence prévue, permettant une évaluation cotée. Ceci évite la nécessité de seuilr les prédictions continues en pertinence binaire.
- Erreur d ' étalonnage Par exemple, un modèle qui prédit la probabilité de 70 % pour un ensemble d'éléments devrait voir ces éléments cliqué sur 70 % du temps. Les courbes d'étalonnage (diagrammes de fiabilité) aident à diagnostiquer le biais systématique.
Ces mesures récompensent les modèles qui non seulement classent les éléments pertinents fortement mais aussi capturent avec précision la certitude de leurs prédictions. Un modèle qui dit -Je suis sûr à 80% que vous allez comme ça , devrait être juste à 80% du temps. Les courbes d'étalonnage peuvent révéler si les probabilités sont mal calibrées, entraînant un recalibrage à l'aide de régression isotonique ou d'échelle Platt.
Défis et considérations pratiques
Sparté des données et démarrage à froid
Dans les grands catalogues, la matrice d'interaction utilisateur-item est extrêmement clairsemée. Les modèles de probabilité peuvent aider en tirant parti des précédents; par exemple, un modèle bayésien peut d'abord supposer que les préférences d'un utilisateur ressemblent à la moyenne mondiale, puis mettre à jour progressivement à mesure que de nouvelles données deviennent disponibles. exploration et exploitation, en utilisant l'échantillonnage Thompson — méthode qui échantillonne aléatoirement les éléments de la distribution postérieure pour choisir des éléments à haute récompense attendue mais aussi suffisamment d'incertitude.Cette méthode permet d'essayer de nouveaux éléments (exploration) avec des recommandations éprouvées (exploitation), et gère naturellement le compromis exploration-exploitation sans paramètres personnalisés.
Complexité informatique
Dans les systèmes de production, des méthodes approximatives comme l'inférence variationnelle, la descente stochastique en gradient avec régularisation bayésienne ou l'inférence amortie (encodeurs dans les auto-encodeurs variationnels) sont utilisées pour l'échelle. L'échange entre fidélité et latence doit être géré avec soin. Pour les recommandations en temps réel, on peut précalculer des moyennes approximatives a posteriori hors ligne et les mettre à jour périodiquement, tout en utilisant une approximation rapide pour la prédiction en ligne.
Confidentialité et utilisation éthique
Les modèles probabilistes exigent souvent le stockage de distributions postérieures spécifiques à l'utilisateur, qui peuvent révéler des informations sensibles. Des techniques comme la confidentialité différentielle peuvent être intégrées au processus de formation pour s'assurer que les sorties du modèle ne fuient pas les données individuelles de l'utilisateur. Par exemple, on peut ajouter du bruit calibré aux gradients pendant l'entraînement ou aux moyens finals postérieurs. modèles probabilistes de sensibilisation à l'équité qui ajustent explicitement les recommandations pour éviter des biais systématiques à l'encontre de certains groupes d'utilisateurs.
Assurer l'explication et la confiance
Les modèles de probabilités de boîtes noires peuvent être difficiles à expliquer. Cependant, les approches probabilistes peuvent naturellement produire des explications : -Nous recommandons cet article parce que votre préférence antérieure pour la science-fiction est forte, et la probabilité prévue d'apprécier cette nouvelle version est de 85%. raisonnement bayésien fondé sur des cas Dans les domaines réglementés, la capacité de produire des intervalles d'incertitude aide également à vérifier la validité de l'information, ce qui montre non seulement ce qui a été recommandé, mais aussi à quel point le système était confiant.
Stratégies de mise en œuvre pratique
Évaluation hors ligne et évaluation en ligne
Un pipeline probabiliste robuste de recommandations devrait être évalué à la fois hors ligne (en utilisant des données historiques avec des interactions tenues) et en ligne (par le biais d'essais A/B). Les mesures hors ligne comme la perte de log et l'ERR peuvent être calculées rapidement, mais elles souffrent de biais de position et de contre-ffaits manquants. Les expériences en ligne avec la pondération entre les libations ou la propension inverse fournissent une estimation plus fiable de l'impact réel.
Ensembles de modèles hybrides
De nombreux systèmes de production combinent plusieurs modèles probabilistes en un ensemble. Par exemple, un modèle de factorisation matricielle bayésienne pourrait être mélangé à un modèle d'apprentissage profond en utilisant une moyenne pondérée où les poids sont appris par régression logistique bayésienne. La distribution prédictive de l'ensemble peut être calculée en calculant les distributions individuelles ou en utilisant un modèle hiérarchique qui apprend à faire confiance à chaque modèle expert de façon dynamique.
Apprentissage continu et adaptation
Les préférences de l'utilisateur dérivent au fil du temps. Les modèles probabilistes sont naturellement adaptés à l'apprentissage en ligne: à mesure que de nouvelles interactions arrivent, les distributions postérieures sont mises à jour progressivement. Variation de la vitesse de circulation dans les baies ou Filtres à particules Dans la pratique, un compromis commun est de recycler les modèles de nuit en utilisant les données les plus récentes, mais pour la personnalisation en temps réel, la mise à jour en ligne de facteurs postérieurs spécifiques à l'utilisateur est essentielle. Cela peut être fait en traitant les facteurs utilisateurs comme des variables aléatoires dont les postérieurs sont mis à jour avec chaque nouvelle notation en utilisant quelques étapes d'estimation MAP basée sur gradient.
Conclusion: L'avenir des recommandations probabilistes
La théorie de la probabilité fournit le fondement mathématique pour gérer l'incertitude dans les systèmes de recommandation. De la factorisation matricielle bayésienne à l'apprentissage profond conscient de l'incertitude, ces méthodes permettent aux plateformes de fournir non seulement des suggestions à haut rendement mais aussi de quantifier leur confiance.
De plus, l'intégration du raisonnement contrefactuel et de l'inférence causale – qui reposent également sur la probabilité – permettra aux systèmes de répondre aux questions suivantes : Que se serait-il passé si nous avions recommandé un autre élément? Ces avancées promettent de rendre les moteurs de recommandation plus robustes, plus équitables et plus efficaces. les réseaux bayésiens causaux, un système peut estimer l'effet causal réel de recommander un élément par rapport à l'élément découvert organiquement, ce qui conduit à de meilleures décisions quant au moment et à la chose à recommander.
Pour plus de détails, explorez la Manuel probabiliste d'apprentissage automatique par Kevin Murphy ou les Guide de recommandations Google Machine Learning. Une autre excellente ressource est la Papiers avec la section Systèmes de recommandation de codeL'avenir de la recommandation réside dans des modèles qui sont non seulement exacts, mais aussi fiables, interprétables et équitables, et qui offrent la possibilité d'atteindre ces objectifs.