Les données comportementales en période de crise égarent les modèles d’IA

Cet article a été publié originellement sur mydatacompany.fr

Le contexte exceptionnel de pandémie se traduit par des changements profonds du comportement des consommateurs. Entraînés sur des données comportementales habituelles, les modèles de Machine Learning s’avèrent inefficaces.

En période de crise, les consommateurs changent radicalement de comportement, notamment en ce qui concerne leurs achats. Ainsi, ils ont été nombreux sur Amazon à rechercher et acheter masques et gel hydroalcoolique.

Le classement des principales ventes sur le premier site e-commerce dans le monde a été bouleversé en l’espace de quelques jours. Mais cela n’a pas été sans conséquences pour les algorithmes exploités sur ces plateformes.

Modèles de Machine Learning : « des organismes vivants »

Déployés par exemple pour la gestion des stocks, la détection de fraudes ou le marketing, ces algorithmes n’ont pas su s’adapter à cette rupture. Comme le rappelle MIT Technology Review, les modèles de Machine Learning sont entraînés avec des données correspondant à un autre contexte.

Or ces données d’entrainement reflètent le comportement habituel des consommateurs. Un brusque changement dans ces données a semé la confusion dans ces modèles. Des interventions manuelles ont été nécessaires pour corriger les résultats des modèles.

L’IA est conçue en principe pour réagir à des changements. Toutefois, des problèmes peuvent survenir. C’est vrai en particulier lorsque les données d’entrée diffèrent trop des données d’entrainement.

Un expert rappelle à nos confrères une règle d’or en matière d’IA : « C’est une erreur de croire que l’on peut mettre en place un système d’IA et s’en aller (…) L’IA est un moteur vivant et qui respire. » Cela implique dès lors monitoring et ajustements.

C’est ce que soulignait aussi en France, le chief digital officer de l’assureur Malakoff Médéric Humanis. « Les algorithmes de machine learning sont des organismes vivants. Leur entraînement est permanent » déclarait David Giblas lors d’Insurtech Business Week.

A l’occasion de la pandémie, différents industriels exploitant de tels modèles d’IA ont été contraints d’intervenir. C’est le cas par exemple d’un fournisseur de sauces et condiments pour la grande distribution.

Son système de gestion des stocks automatisé s’appuie sur des algorithmes prédictifs. L’explosion soudaine des commandes a pris de court ces algorithmes, reposant sur des données de ventes en période normale.

Ces anomalies s’expliqueraient par l’acquisition de modèles de machine learning par un nombre croissant d’entreprises. Or, ces sociétés ne disposent pas par ailleurs du savoir-faire nécessaire à l’entretien de ces modèles en interne.