« Fake it until you make it » : bas les masques à l’ère des agents IA

C’est une faillite qui attire l’attention, en remettant sur le devant de la scène des accusations de tromperie sur la réalité de l’innovation technologique vantée par certaines pépites du numérique. L’entreprise britannique Builders.ai, née en 2012 et spécialisée dans le « no-code », s’est récemment déclarée insolvable face aux difficultés économiques auxquelles elle était confrontée. Jusque-là, rien de bien surprenant : il n’est pas rare de voir des entreprises ayant « scalé » fortement subir les dures lois du marché. Mais le cas de Builders.ai a retenu l’attention quand le Financial Times a révélé que la faillite pouvait surtout être la conséquence de malversations et de manipulation des chiffres de vente. Effet boule de neige : cette accusation en a tout de suite réactivé d’autres. D’anciens salariés avaient en effet affirmé dès 2019 que derrière la promesse technologique d’un outil facilitant la création d’applications à l’aide d’une intelligence artificielle se cachait en fait… le travail de centaines d’ingénieurs indiens, bien humains. L’information pourrait faire sourire si elle n’était pas qu’un énième écho de tromperies à grande échelle bien répandues dans les écosystèmes de la tech mondiale.

Le vieux fantôme du Turc mécanique

A titre d’exemple, le mois dernier le fondateur de « Nate.tech », une application de shopping « alimentée par l’IA », a été ciblé, lui, par le département de la Justice américain pour fraude. Là aussi, derrière « l’IA propriétaire » censée automatiser l’expérience des achats en ligne se cachait des travailleurs humains. Il avait pourtant levé plus de 50 millions de dollars. Finalement, l’entrepreneur a brûlé à grande vitesse ce cash considérable que les investisseurs ne retrouveront jamais. Lui-même risque aujourd’hui 20 ans de prison. Ce genre de coup de Jarnac n’a rien de nouveau quand il est question d’automatisation. Les cas récents ne sont finalement que des formes plus élaborées de l’affaire du « Turc mécanique » de la fin du XVIIIe siècle. À cette époque, une machine « révolutionnaire » était annoncée comme capable de jouer une partie d’échecs. Mais « le tout premier automate » cachait littéralement à l’intérieur de ses entrailles un véritable joueur d’échecs.

Des faux assistants partout

Dans la période faste de la digitalisation des années 2010, le phénomène a pris une ampleur considérable. Parmi les cas qui ont attiré l’attention, on citera X.ai, avant qu’elle ne devienne la start-up fétiche d’Elon Musk. L’entreprise proposait un « assistant virtuel de planification » derrière lequel la majorité des tâches « automatiques » étaient là encore réalisées par des humains. Et que dire de Theranos ? L’arnaque monumentale de la désormais célèbre Elizabeth Holmes reposait sur une soi-disant technologie révolutionnaire pour analyser le sang. Pour tromper ses investisseurs, les premiers résultats avaient bien été analysés manuellement par des techniciens. Et les géants du numérique ne se sont pas montrés eux-mêmes irréprochables en la matière. En 2015, Facebook proposait en bêta-test son propre assistant virtuel… alimenté avant tout par des opérateurs humains. L’espoir de l’entreprise était de parvenir à l’autonomie de la solution… mais elle n’y est pas parvenue et a mis fin à l’initiative. Rappelons aussi qu’Amazon avait dès 2005 poussé la mise en abîme très loin avec sa place de marché « Amazon Mechanical Turk », où des personnes remplissaient des micro-tâches alors que l’IA n’était pas encore jugée suffisamment performante pour les accomplir efficacement. Et en France aussi, certaines start-up ont flirté avec la promesse d’assistants virtuels ne tenant, dans les premières étapes du développement commercial, que grâce au soutien actif de vrais assistants humains. Mais aucune n’a atteint le rang de scandale national. Dans tous les cas, la problématique était la même : la belle idée était là, mais la technologie n’était pas encore tout à fait au rendez-vous.

La fin des boites noires

Mais cela, c’était avant. La démocratisation récente de l’IA générative a rebattu les cartes. Les assistants sont devenus en quelques mois une commodité de premier plan, tant et si bien que la promesse d’innovation doit se situer ailleurs. L’étape de « l’agentic AI » dans laquelle l’écosystème s’est dorénavant engagé pousse encore la logique plus loin. De quoi faire disparaître les derniers reliquats de fausses automatisations camouflées ? Sans doute. Pour autant, le cœur du problème est ailleurs, dans la culture anglo-saxonne dite du « fake it until you make it » (faites semblant jusqu’à ce que vous y parveniez) qui a essaimé auprès des startupers du monde entier. Cet état d’esprit facilite certes l’amorçage et la croissance, deux des clés importantes pour triompher sur des marchés technologiques régis par une logique du « winner takes all » ; mais il contribue aussi très fortement à alimenter la défiance vis-à-vis de l’innovation et des innovateurs, en faisant persister l’idée que les promesses de la tech ne sont souvent que de la poudre aux yeux. Or, s’il y a une matière première dont nos économies et nos sociétés ultra-digitalisées risquent de manquer prochainement à l’ère de l’IA omniprésente, c’est bien la confiance. Un axe de réponse à cette situation réside dans les efforts sans précédent de transparence à réaliser à l’avenir. Mettons fin aux « boîtes noires » prétendument révolutionnaires.