[Edito] Technologiques ou business, la valse des erreurs sur l’IA générative

« Pour être clair, c’est totalement inacceptable et nous nous sommes trompés ». Il est rare qu’un des plus influents patrons des Magnificent Seven (les sept plus grandes croissances du S&P500 qui représentent aussi près d’un tiers de sa capitalisation globale), assume aussi ouvertement et sèchement d’avoir fait fausse route. D’autant plus quand il s’agit d’un sujet aussi sensible et « hype » que l’intelligence artificielle générative. Dans la lettre à ses équipes dévoilée le 26 mars, Sundar Pichai, PDG de Google, n’y va pourtant pas par quatre chemins pour qualifier les errements de Gemini (ex-Bard), son IA Gen. Il réagit ainsi aux commentaires pressants du public concernant les informations biaisées générées par l’application, en particulier d’images historiquement inexactes.

Ce n’est pas la première fois (ni sans doute la dernière), que les nouveaux outils mis à la disposition du plus grand nombre se démarquent par leurs « hallucinations » ou par une propension à produire des contenus dommageables. Dès 2016, Microsoft en avait fait l’expérience, moins de 24 heures après avoir lancé son chatbot Tay sur la plateforme Twitter (devenue X), avec à la clé des propos racistes et misogynes. Pour les professionnels, la crainte de tels dérapages aiguille la nécessité de trouver des cas d’usages beaucoup moins généralistes et s’appuyant sur des données mieux maîtrisées. Mais les erreurs peuvent également se jouer à d’autres niveaux quand il est question d’IAG.

En la matière, l’autre actualité IA de la semaine n’a pas non plus manqué de susciter des réactions marquées, notamment d’incrédulité. Alors que nous évoquions la semaine passée la montée en gamme du français Mistral AI avec son nouveau modèle « Next », sous l’angle de la compétition avec l’américain OpenAI et son ChatGPT, le jeune espoir tricolore a mis le feu aux poudres en annonçant en parallèle un partenariat commercial surprise avec Microsoft. Le géant, qui est déjà le partenaire attitré d’OpenAI, a investi 15 millions d’euros dans la start-up. Coup de maître de la firme de Redmond qui s’assure a priori que le modèle Mistral passera par son service cloud.

De quoi créer un certain malaise, en particulier à Bruxelles. Au sein des institutions de l’Union Européenne, qui sortent à peine d’une négociation difficile sur l’AI Act, l’annonce est en effet vue comme un révélateur amer du lobbying mis en œuvre depuis la France pour ne pas brider l’innovation par voie réglementaire, au nom de la chance à laisser aux jeunes champions nationaux pour construire l’alternative aux ténors américains. L’annonce de Mistral AI est dès lors perçue par de nombreux eurodéputés comme le résultat d’une manœuvre qui aura finalement servi à l’inverse les titans américains (ou au moins l’un d’entre eux). De quoi justifier une analyse de la part du régulateur antitrust de l’UE. À Paris, Marina Ferrari, toute nouvelle secrétaire d’État au numérique, s’est au contraire plutôt réjouie qu’une entreprise française parvienne à nouer un partenariat aussi important avec un acteur de la stature de Microsoft ; promesse de croissance et d’un accès de premier plan au marché.

Mais, hasard du calendrier, c’est aussi cette semaine que l’InterCert France, qui fédère plus d’une centaine d’équipes de réponses à incidents cyber sur le territoire national, a choisi d’alerter les entreprises sur les risques de leur dépendance excessive à Microsoft. Parlant « d’addiction » et pointant les errements de l’éditeur l’année passée en matière d’information de ses clients, l’association exprime sa préoccupation en termes de « sécurité informatique », de « coûts » mais aussi de « souveraineté numérique ». Elle encourage du même coup à une diversification des fournisseurs et le développement d’alternatives nationales et européennes. Mais que faire, quand ces dernières voient visiblement leur avenir dans les bras titanesques qui enserrent déjà le marché ? Difficile d’imaginer dans quelques mois Arthur Mensch, PDG de Mistral AI, déclarer auprès de ses collaborateurs : « Pour être clair, c’était totalement inacceptable et nous nous sommes trompés ».