J’ai le plaisir d’interviewer Lê Nguyên Hoang, co-fondateur Calicarpa, une entreprise de cybersécurité.
Polytechnicien et docteur en mathématiques, il vulgarise les sciences de l’information sur sa chaîne YouTube (Science4All) qui regroupe de 250 000 abonnés, ainsi que via des conférences et des livres.
Dans cette interview, il nous explique les risque de laisser l’IA aux commandes, sans aucun contrôle.
Sommaire de l'article
Est ce que tu pourrais te présenter ?
Je suis directeur de l’Association Tournesol jusqu’au 31 août, et je serai Maître de Conférence en Sécurité de l’IA à Télécom Paris en septembre.
Je suis aussi membre du conseil d’éthique d’Orange et vulgarisateur sur la chaîne Science4All.
Pourquoi parles tu de délinquants transnationaux pour les acteurs clés de l’IA, et que doit on plutôt privilégier ?
Les concepteurs et les fournisseurs d’IA sont la cible de nombreux procès, aussi bien pour violation des droits d’auteur que pour mise en danger des utilisateurs.
Le PDG d’OpenAI reconnaît lui-même que ses produits auraient été impossibles à concevoir, sans cet abus de contenus protégés pour entraîner leurs modèles.
Plus récemment, une étude d’AI Forensics montre que la plateforme Hugging Face est aujourd’hui encore majoritairement utilisé pour concevoir des deepfakes pornographiques de femmes, et que les standards de modérations semblent très en-dessous de celui attendu par la loi (DSA en particulier).
Si on considère le contexte plus général du numérique, de nombreux procès s’attaquent aujourd’hui aux désastres sociaux induits par les réseaux sociaux, avec notamment un procès qui exige une amende contre Meta équivalente au chiffre d’affaire de l’entreprise.
De manière plus générale aujourd’hui, surtout sachant la proximité entre ces industriels et des gouvernements autoritaires, il semble important d’exiger que la loi prédomine sur les intérêts privés de ces acteurs, souvent étrangers, de sorte à protéger avant tout nos concitoyens, nos organisations et nos intérêts nationaux.
Pourquoi parles tu de l’IA comme d’une onde de choc sociale ? Quelles sont les conséquences ?
Les conséquences sociales de l’industrie des IA sont devenues omniprésentes, aussi bien à l’échelle des individus qu’à l’échelle des démocraties et de la géopolitique mondiale.
Pour commencer, les IA, génératives ou de recommandation, ont bouleversé le quotidien informationnel de nos concitoyens.
Or, de plus en plus d’études montrent des effets délétères de la surconsommation de ces IA, aussi bien sur les facultés cognitives que sur le bien-être.
Malheureusement, de plus en plus de cas de suicides sont observés.
Au niveau économique, et en particulier au niveau du marché du travail, les IA soulèvent de nombreuses préoccupations des concitoyens, dans un contexte déjà enclenché de précarisation des métiers, comme le révèlent les huées de diplômés des universités aux États-Unis à l’encontre d’intervenants invités qui parlent positivement des IA.
Ces préoccupations se traduisent aujourd’hui au moins par une anxiété prononcée, dont la généralisation a inéluctablement des conséquences politiques majeures.
Or les IA sont également une onde de choc majeure sur la délibération en démocratie, parce qu’elles affectent en profondeur la production et la consommation de l’information.
En plus d’une amplification des contenus haineux et clivants, surtout via les IA de recommandation, on assiste à une précarisation de la production d’information de qualité (comme le journalisme d’investigation), ce qui menace l’intégrité des décisions démocratiques.
Peut on encore se passer des IA sans perdre en compétitivité, quel positionnement adopter ?
Force est de reconnaître que dans de nombreux métiers aujourd’hui, il existe des tâches pour lesquelles les IA fournissent un service utile, notamment en termes de transcription de réunions, de formattage de texte ou de corrections d’erreurs.
En développement logiciel, les IA agentiques sont maintenant capables de produire de nombreuses lignes de codes de qualité avec un effort faible, et surtout elles le font beaucoup plus vite que des programmeurs humains.
Néanmoins, dans toutes ces tâches, il est aussi important de réfléchir à la productivité et à la cohérence de l’organisation dans son ensemble, plutôt qu’aux simples accélérations du travail individuel d’un employé.
En particulier, on assiste en fait souvent à des difficultés accrues de travail collaboratif, notamment si les collaborateurs se contentent de demander aux IA de produire un travail impressionnant, plutôt qu’un travail vraiment utile pour leurs collègues.
On parle parfois deworkslop.
Concrètement, il arrive trop souvent que des collaborateurs écrivent des brouillons, mais demandent ensuite à des IA génératives de transformer ces brouillons en textes complets (ou en codes fonctionnels), parfois sans relire le résultat de cette transformation.
Or si tout le monde se met à faire cela, l’organisation devient alors submergée d’un torrent de documents, tous très bien écrits, mais dont il devient coûteux d’évaluer le véritable niveau de matûrité.
L’abus d’IA peut alors induire des coûts additionnels importants pour les collaborateurs.
Pire encore, une méfiance accrue peut naître de relations entre collaborateurs conflictualisées par l’usage des IA.
Une véritable gouvernance de l’usage des IA est en fait essentielle pour resouder les équipes, donner davantage de sens au travail de chaque collaborateur et surtout reconstituer de la confiance entre collègues.
A titre individuel et ensuite à titre professionnel, quelles sont les bonnes pratiques que tu recommandes ?
À titre individuel, je recommande de d’abord se poser les questions et essayer d’y répondre, avant de déléguer à des IA génératives une partie de la réflexion.
En particulier, il paraît essentiel de ne pas se contenter des réponses des IA génératives, pour éviter une perte de compétence et de compréhension du métier.
C’est un effort coûteux sur le court terme, mais essentiel pour le long terme.
Toujours à titre individuel, il me paraît essentiel de régulièrement déconnecter, et d’avoir des périodes de travail non seulement sans IA, mais peut-être même sans Internet (ou du moins sans être sollicité constamment par des notifications des téléphones).
Au delà des enjeux de productivité de ces moments, il s’agit avant tout d’une question de bien-être.
À titre individuel toujours, il me semble utile de comprendre la nature des objets avec lesquels ont interagit.
Comment fonctionne un chatbot ? Que peut-on raisonnablement attendre de ce chatbot, et de ses versions futures ? Inutile à mes yeux de rentrer dans les détails du fonctionnement des réseaux de neurones.
Par contre, il me paraît utile de comprendre les principes de l’apprentissage par imitation, de la manipulation des prompts et de l’alignement, mais aussi les intérêts commerciaux et géopolitiques des concepteurs, pour mieux évaluer les interactions souhaitables à avoir avec ces systèmes.
À titre individuel enfin, je recommande de prêter sérieusement attention aux implications de cybersécurité, notamment liées à l’adoption des IA ditesagentiques, c’est-à-dire à qui on fournit des droits de lecture et d’écriture sur nos systèmes d’information.
À titre professionnel, le plus important à mes yeux est de parler ouvertement et régulièrement à nos collègues de la politique qu’il est souhaitable d’adopter vis-à-vis de l’usage des IA.
Autrement dit, ces technologies sont là, mais il faut absolument lesgouverner, sinon à l’échelle nationale, du moins à l’échelle des organisations.
À titre professionnel toujours, je recommanderais de la transparence sur l’usage des IA entre collègues, pour limiter les tensions futures dues à un usage abusif de ces technologies.
Et surtout, en cas de conflit, il me semble essentiel de reconstruire un dialogue humain, et d’éviter une conversation par IA interposées.
En particulier, il paraît important de prêter attention au « shadow AI », c’est-à-dire à l’usage caché des IA par des collègues (également pour des raisons de sécurité des données).
À titre professionnel enfin, il me paraît essentiel de faire communiquer et collaborer les équipes d’IA et de cybersécurité, dont les us et coutûmes sont souvent régulièrement en conflit.
Quelle est ta vision pour l’IA dans les 2 ans à venir, vers quoi allons nous, et comment l’anticiper ?
Il est extrêmement difficile en 2026 de s’avancer sur le développement des IA dans les années à venir.
Ce développement est en effet rendu extrêmement incertain pour de nombreuses raisons, aussi bien techniques qu’économiques, juridiques et géopolitiques.
Assistera-t-on à un développement d’IA à poids ouverts intégrables localement et avec des performances comparables aux modèles les plus impressionants aujourd’hui ?
Verra-t-on un éclatement de la bulle d’investissement des IA, suite à l’explosion des coûts d’usage ou au blocage de la construction de centre de calculs ?
La responsabilité éditoriale des IA génératives, qui commence à être jugée (notamment en Allemagne), sera-t-elle généralisée et largement acceptée ?
Quelles en seront les implications ?
Les dirigeants politiques s’en mêleront-ils ?
Ou assistera-t-on à des politiques de rejet suite à des protestations populaires contre les IA ?
À ce stade, il me semble surtout important d’être flexible, en anticipant un usage interne des IA, mais tout en garantissant un fonctionnement sans IA, ou avec moins d’IA, notamment si les coûts venaient à exploser, ou si les juridictions s’en mêlent.
Et si l’on veut en savoir plus sur toi et l’IA ?
Pour en savoir plus, je vous recommande mon livre « Demain l’IA aux commandes », publié chez Dunod (18 € sur ce lien).
Le livre est en trois parties.
D’abord, il vulgarise la conception et le fonctionnement des IA génératives et agentiques.
Puis, il parle des enjeux de cybersécurité des IA.
Enfin, il aborde les conséquences socio-économiques de leur déploiement massif.
