Vous savez que le rapport fonctionnait le mois dernier : personne n'a modifié les calculs, le workflow s'exécute toujours sans erreur, et pourtant le chiffre dans le tableau de bord semble faux.
Vous commencez donc à retracer les étapes et, finalement, vous découvrez ce qui a changé. Une nouvelle valeur de catégorie est arrivée sans être mappée, une source est arrivée en retard, ou une jointure qui fonctionnait parfaitement depuis des mois produit soudainement des lignes supplémentaires.
Si vous gérez une analytique récurrente depuis un certain temps, vous connaissez le topo. Trouver le problème peut demander quelques recherches, mais le plus frustrant est de réaliser que vous avez déjà résolu une version de ce problème auparavant, et que la vérification qui l'aurait détecté reste gravée dans votre mémoire.
Vous avez besoin d'intégrer davantage ces connaissances dans le processus, afin que les problèmes apparaissent plus tôt au lieu de vous obliger à revenir en catastrophe dans le workflow juste avant l'envoi du rapport.
Commencez par ce qui doit être vrai pour ce rapport
Pour le reporting, la qualité des données commence par ce que vous demandez aux données de faire. Un même jeu de données peut très bien fonctionner pour une analyse et être inadapté pour une autre ; une liste de contrôle universelle de « bonnes données » ne vous mènera donc pas très loin.
Comme le note Gartner, les outils de qualité des données n'existent pas seuls. Ce qui compte, c'est la manière dont ils prennent en charge le travail d'analytique et de reporting que vous devez effectuer.
Prenez un rapport financier mensuel, où vos vérifications peuvent être très concrètes :
- Tous les fichiers sources attendus sont-ils arrivés ?
- L'extraction inclut-elle la période de reporting complète ?
- Les totaux correspondent-ils au chiffre de contrôle que vous attendez ?
- De nouveaux centres de coûts sont-ils apparus sans mappage ?
- Les données sont-elles toujours à la granularité attendue, par exemple une ligne par facture ?
Passez à un autre workflow, et les contrôles changeront en conséquence. Dans un workflow de segmentation des clients, les entités en double ou la qualité de la correspondance peuvent avoir beaucoup plus d'importance. Pour un tableau de bord opérationnel, la préoccupation majeure pourrait être de savoir si les données d'aujourd'hui sont arrivées au moment où vous les attendiez.
C'est pourquoi des données propres ne constituent pas une ligne d'arrivée très utile. Une date peut être mise en forme correctement tout en appartenant au mauvais mois, tandis que deux tables sources peuvent sembler correctes jusqu'à ce que la jointure entre elles commence à créer des doublons.
Vous avez probablement déjà un processus de qualité des données
Si vous exécutez le même rapport depuis un certain temps, vous avez probablement accumulé un éventail de contrôles sans jamais prendre le temps de les qualifier de processus de qualité des données. Certains résident dans le workflow, d'autres se produisent dans Excel, et quelques-uns sont des éléments dont vous vous souvenez parce qu'une source vous a surpris il y a trois cycles de reporting.
Pendant ce temps, un autre membre de votre équipe peut surveiller un problème totalement différent parce qu'il s'est déjà laissé piéger auparavant. Rapidement, le processus se divise entre ce qui est intégré au workflow et ce que les collaborateurs savent devoir vérifier de leur côté. À mesure que les données changent et que de nouveaux problèmes apparaissent, davantage de contrôles sont ajoutés.
Vous n'avez pas besoin d'un logiciel pour prendre toutes les décisions à votre place. Ce qui aide, c'est d'intégrer davantage de contrôles que vous répétez dans le processus, afin qu'ils soient toujours présents lorsque de nouvelles données arrivent.
Le profilage vous aide à éviter d'inventer des règles dans le vide
Supposons que vous tentiez de déterminer à partir de quel moment des valeurs manquantes justifient de signaler un champ. Un seuil est plus significatif si vous savez comment le champ se comporte normalement : une baisse de 99,9 % à 94 % de complétion raconte une histoire très différente de celle d'un champ qui a toujours oscillé autour de 90 %.
Vous pouvez rencontrer le même problème avec le caractère unique. Avant d'exiger que l'ID de facture soit unique, assurez-vous que le workflow contient toujours une ligne par facture à ce stade. Sinon, vous risquez de vous retrouver avec une vérification qui se déclenche si souvent que les utilisateurs finiront par ne plus y prêter attention.
Lorsque vous comparez des plateformes, voyez à quelle vitesse le profilage des données vous aide à comprendre le contexte derrière une règle. Dans six mois, vous ou un autre analyste devriez toujours être en mesure d'expliquer pourquoi un seuil existe, au lieu d'hériter d'un chiffre que personne ne se souvient d'avoir choisi.
Les vérifications qui valent la peine d'être conservées sont souvent celles que vous effectuez déjà
Vous avez probablement une liste mentale que vous passez en revue avant l'envoi d'un rapport. Peut-être vérifiez-vous toujours que le mois en cours est présent, ou savez-vous qu'une jointure mérite un second examen car elle a ajouté des lignes auparavant.
Ce sont les contrôles qui méritent d'être transformés en validation de données reproductible, surtout lorsqu'il existe une raison métier derrière eux. « Ce champ ne peut pas être nul » est utile, mais « Chaque magasin actif doit avoir une région avant l'envoi du rapport de ventes » explique à la personne suivante pourquoi ce contrôle existe et ce qu'il permet de prévenir.
Un échec de contrôle de la qualité des données n'est que le début des ennuis
Imaginez qu'il soit tard dans l'après-midi et que votre contrôle d'exhaustivité passe au rouge. Bien, vous avez détecté quelque chose, mais vous devez maintenant déterminer ce qui s'est passé. Peut-être qu'une poignée d'enregistrements manquent, ou peut-être s'agit-il d'une grande partie des données. Quoi qu'il en soit, vous devez savoir si le problème a commencé à la source ou quelque part dans le workflow.
Si la plateforme se contente de vous indiquer « échec de la qualité », vous restez bloqué à devoir mener l'enquête. Lorsque vous comparez des plateformes, soyez attentif à la rapidité avec laquelle un contrôle ayant échoué vous permet d'accéder aux enregistrements sous-jacents. Lorsque le rapport doit être rendu dans une heure, ce cheminement compte bien plus qu'un écran de statut soigné.
Peut-être que 30 transactions ont été traitées sans mappage valide. Si votre prochaine étape consiste à exporter ces enregistrements, à les corriger ailleurs et à les réintégrer dans le workflow de reporting, vous avez identifié le problème sans pour autant faciliter sa résolution.
Parfois, ce transfert est logique car une autre équipe est responsable de la décision. Mais lorsque la logique métier est entre les mains de votre équipe, voyez quelle part de l'investigation et du suivi vous pouvez gérer sans quitter le workflow.
La suite des opérations dépend de ce qui a échoué
« Trouver les données erronées » semble simple jusqu'à ce que vous soyez confronté à une exception réelle. Peut-être qu'un nouveau code produit apparaît sans correspondance dans votre table de mappage. Vous pouvez voir quels enregistrements sont affectés, mais la plateforme ne peut pas savoir si ce produit appartient à la catégorie Consumer, Enterprise ou à une catégorie que l'entreprise a créée hier.
D'autres problèmes sont plus faciles à résoudre car la décision a déjà été prise. Si une source envoie « N.Y. » et « New York » de manière interchangeable et que tout le monde s'est mis d'accord sur la norme, le nettoyage des données peut appliquer la même correction sans que vous ayez à y revenir chaque mois.
C'est pourquoi « Corrige automatiquement les données erronées » n'est pas un test très utile lorsque vous comparez des plateformes. Certains problèmes ont une réponse établie, et d'autres nécessitent encore votre jugement. Et si une source critique est manquante, la bonne décision peut être d'arrêter le rapport avant qu'il n'aille plus loin.
Vous êtes encore en train de déterminer ce que signifie chaque type d'échec. Ce que vous attendez de la plateforme, c'est un moyen de rendre plus facilement reproductibles les décisions que vous avez déjà prises.
Comparez les plateformes avec un workflow que vous connaissez déjà
Les grilles de caractéristiques peuvent rendre des plateformes de qualité des données très différentes étrangement similaires. Profilage, règles, surveillance, automatisation : la plupart des prestataires peuvent souligner un argument dans chaque catégorie, mais cette liste ne vous dira pas à quoi ressemble votre vendredi après-midi lorsque les chiffres ne correspondent pas.
Intégrez plutôt un workflow réel à l'évaluation, de préférence un workflow que votre équipe connaît bien et qui a un peu d'historique. Un rapport qui nécessite encore un rapprochement manuel, ou qui comporte une étape dont tout le monde sait qu'il faut la revérifier, vous en dira bien plus que des données de démonstration parfaites. Vous pouvez voir comment la plateforme gère le type de travail que votre équipe traite au cours d'une semaine normale, et pas seulement l'exemple conçu pour la démonstration.
Testez les règles sur lesquelles votre rapport s'appuie réellement
Les contrôles sur lesquels vous vous appuyez vont généralement au-delà de la simple validation au niveau du champ. Peut-être devez-vous vous assurer que chaque magasin ayant réalisé des transactions ce mois-ci est associé à une région. Ou peut-être que le problème que vous avez appris à surveiller est une jointure qui crée parfois des lignes supplémentaires. Vos règles doivent refléter les éléments susceptibles de déséquilibrer le rapport, et pas seulement vérifier si les champs passent un contrôle technique de base.
Utilisez les règles sur lesquelles votre équipe s'appuie au quotidien. Si elles sont complexes à créer ou difficiles à comprendre pour un autre analyste, soyez vigilant. Les contrôles importants ont tendance à retourner dans les feuilles de calcul ou dans les tâches de routine de pré-publication d'une personne lorsque la plateforme ne gère correctement que les plus simples.
Des contrôles clairs et réutilisables facilitent également les transmissions. L'analyste en charge du workflow peut voir ce qu'il faut surveiller sans avoir besoin d'une explication d'une demi-heure sur tout ce que le rapport fait parfois.
Provoquez une erreur et voyez comment la plateforme se comporte
Une démonstration est beaucoup plus parlante lorsque les données sont un peu moins bien organisées. Omettez une entrée dont vous savez que le workflow a besoin, ou ajoutez une valeur qui ne correspondra pas à la logique existante. Si les jointures ont déjà posé problème, utilisez un cas de test qui crée le même type de lignes en doublon.
Suivez ensuite le problème et voyez à quelle vitesse vous pouvez passer du contrôle ayant échoué aux enregistrements sous-jacents. Vous souhaitez également savoir si le workflow peut réagir différemment en fonction du problème rencontré — en s'arrêtant en cas de source manquante, par exemple, tout en envoyant une correspondance incertaine pour examen.
Des données de démonstration préparées peuvent rendre presque tout fluide. Un cas de test qui ne se comporte pas comme prévu vous donne une bien meilleure idée de ce que sera l'utilisation de la plateforme lorsque les données réelles feront de même.
Où les problèmes de qualité des données ont tendance à apparaître dans le reporting
Au moment où vous arrivez au reporting des données, quelqu'un est sur le point d'utiliser le résultat, et c'est là qu'un problème de qualité devient beaucoup plus difficile à ignorer.
Un tableau de bord peut s'actualiser parfaitement même si la dernière période de reporting est manquante, car la visualisation fait exactement ce qui lui a été demandé ; le workflow n'a tout simplement jamais vérifié si les données attendues étaient présentes.
Une jointure peut vous piéger de la même manière. Les deux inputs peuvent sembler corrects individuellement, mais si la relation entre eux change, vous pouvez soudainement vous retrouver avec des lignes supplémentaires en aval. Si vous attendez une ligne par facture, vérifier cela juste après la jointure vous en apprendra bien plus que de simplement confirmer que les deux tables sources semblaient propres.
Parfois, les données elles-mêmes sont parfaitement valides, mais votre logique de reporting ne les a encore jamais rencontrées. Peut-être qu'un nouveau canal de vente apparaît sans place dans les catégories de reporting actuelles. La valeur n'est pas fausse ; elle nécessite simplement une décision avant que le rapport ne soit prêt.
Lorsqu'une plateforme dédiée à la qualité ou à l'observabilité des données est plus pertinente
Parfois, vous résolvez un problème plus important que la simple question de savoir si un workflow de reporting est prêt. Si votre équipe doit surveiller la qualité sur un vaste ensemble de données ou prendre en charge une surveillance plus proche de l'ingénierie des données, une plateforme dédiée à la qualité des données ou à l'observabilité des données pourrait être plus adaptée.
Mais si la plupart de vos difficultés surviennent après l'échec d'un contrôle, examinez attentivement ce qui se passe ensuite. Vous voulez savoir si vous pouvez accéder aux enregistrements concernés, traiter le problème et maintenir le workflow en mouvement sans envoyer les données via un autre processus.
Ce sont des besoins différents. Si votre priorité est une surveillance étendue à toute l'entreprise, évaluez les solutions en fonction de ce point. Si votre équipe passe plus de temps à traquer les contrôles ayant échoué dans les workflows de reporting, accordez plus d'attention à la facilité avec laquelle vous pouvez traiter le problème sans décomposer le workflow.
Découvrez à quoi ressemble un workflow analytique connecté en pratique
Prenez un rapport d'inventaire hebdomadaire dans lequel un fournisseur commence à envoyer une valeur de statut que le workflow n'a encore jamais vue. Le rapport peut toujours s'exécuter, mais ces enregistrements nécessitent désormais une décision avant que la sortie ne soit prête.
Si vous testez une plateforme sur un cas comme celui-ci, suivez la valeur inattendue tout au long du workflow. Vous devriez être en mesure d'accéder aux enregistrements concernés sans transformer l'enquête en un processus parallèle distinct. Et si le traitement approprié est déjà connu, cette logique peut rester dans le workflow afin que vous n'ayez pas à effectuer la même correction la semaine prochaine.
Si la réponse n'est pas encore connue, le workflow ne devrait pas prétendre le contraire. Ces enregistrements peuvent nécessiter une vérification avant que le rapport ne soit transmis.
Ce qui compte ici, c'est la distance entre la détection du problème et la capacité à agir de manière utile. Un workflow connecté doit rendre ce parcours plus facile à suivre sans vous demander de reconstituer le processus en cours de route.
Si vous souhaitez voir comment Alteryx One gère ce type de workflow de reporting, explorez Alteryx One.
Commencez par un rapport que votre équipe connaît bien
Vous n'avez probablement pas besoin de commencer par le plus gros workflow de l'entreprise. Choisissez un rapport récurrent que votre équipe connaît assez bien pour identifier les parties qui posent souvent problème, puis réfléchissez aux contrôles mis en place parce qu'une erreur est survenue par le passé.
Quels contrôles dépendent encore du fait que quelqu'un s'en souvienne ? Quelles corrections reviennent sans cesse ? Si un problème grave survenait demain, le workflow serait-il capable de s'arrêter, ou continuerait-il de fonctionner jusqu'à ce que quelqu'un s'en aperçoive ?
Ces questions constituent un bien meilleur test pour une plateforme de qualité des données qu'une liste de contrôle générique des fonctionnalités. Vous cherchez un moyen de rendre les contrôles sur lesquels votre équipe s'appuie déjà plus faciles à répéter, sans essayer d'automatiser les décisions qui nécessitent encore une intervention humaine.
Si vous souhaitez mettre cette approche à l'épreuve, démarrez un essai gratuit d'Alteryx One avec un rapport récurrent que votre équipe connaît déjà sur le bout des doigts.