Liberté dans le numérique : trois choses qui doivent arriver ensemble

Souveraineté, règles fiables et confiance réelle. Retirez-en une et les deux autres cessent de fonctionner.

Ce soir à Berlin, la Deutsche Gesellschaft für Recht und Informatik e.V. (DGRI) a ouvert son congrès annuel, dans sa cinquantième année. Le thème tient en une seule question, et la société la pose sans détour : Freiheit im Digitalen, la liberté dans le numérique. Dans quelle mesure sommes-nous libres dans un monde de plus en plus numérisé ? 🕊️

Ce n'est pas une question rhétorique. Le programme se poursuit jusqu'au 13 novembre à l'Université Humboldt de Berlin et s'organise autour des thèmes qui démontent cette question : intelligence artificielle, souveraineté numérique, anonymat et liberté d'expression. Magistrats, universitaires, régulateurs, opérateurs de plateformes et avocats en exercice dans la même salle, ce qui est plus rare que cela ne devrait l'être.

Notre Directeur Général y participe. Voici pourquoi ce cadrage compte pour quiconque construit des systèmes d'IA destinés à des organisations européennes.

🧭 La liberté numérique n'est pas un état par défaut

L'hypothèse commode veut que la liberté numérique soit ce qui reste quand personne n'intervient. On retire les règles et la liberté apparaît.

Cela n'a jamais fonctionné ainsi. La liberté numérique est une construction. Elle repose sur trois choses, et elle les exige toutes les trois à la fois :

1. La souveraineté. Ne pas dépendre, ni technologiquement ni juridiquement.
2. Des règles fiables. Des règles assez claires pour qu'on puisse planifier avec elles.
3. Une confiance réelle. Pas une confiance déclarée. Une confiance démontrée.

Retirez-en une et les deux autres cessent de fonctionner. C'est précisément ce que le débat public manque le plus souvent, parce qu'il plaide en général pour l'une au détriment d'une autre.

☁️ Souveraineté : la question derrière la question du cloud

La souveraineté numérique figure au programme comme thème à part entière, ce qui est parlant. La question sous-jacente est simple : sommes-nous réellement souverains ?

En Europe, le débat sur le cloud se résume le plus souvent à savoir où se trouve un centre de données. Ce cadrage est confortable et il est incomplet.

La vraie question est de savoir qui peut contraindre à l'accès, sous quel ordre juridique, et si vous en seriez même informé. Un centre de données situé dans l'UE, exploité par une entité soumise à un ordre juridique non européen, est une réponse géographique à une question de compétence.

Et les "assurances numériques" d'un fournisseur sont exactement cela. Des assurances. Elles valent quelque chose. Elles ne valent pas une architecture dans laquelle l'accès n'existe même pas pour pouvoir être exigé.

Trois questions de souveraineté qui valent mieux que n'importe quelle certification :

• Où résident physiquement les identifiants et les clés, et qui les détient ?
• Si nous voulons partir, qu'emportons-nous exactement, et combien de temps cela prend-il ?
• Le fournisseur peut-il modifier les conditions de service sous nos pieds, et où cela nous laisse-t-il ?

La souveraineté n'est pas un drapeau sur une carte. C'est la révocabilité, la portabilité et l'absence d'un point unique de contrainte. 🔑

⚖️ Règles : la régulation n'est pas le contraire de l'innovation

L'intelligence artificielle figure à ses côtés au programme, y compris l'état actuel du règlement européen sur l'IA et la qualification juridique des agents d'IA en particulier.

Une partie du secteur technologique entretient un réflexe qui traite toute régulation comme un frein. Parfois c'en est un. Mais le réflexe inverse la causalité.

Ce sont les règles claires qui créent les conditions de l'investissement. Un marché régulé est un marché où un acheteur peut signer un contrat de trois ans sans craindre que le sol se dérobe. Un marché non régulé est un marché où personne au conseil n'approuve le budget, parce que personne ne sait dire quelle est l'exposition.

Ce qui freine l'innovation, ce n'est pas la régulation. C'est l'incertitude réglementaire. Ce sont deux problèmes distincts aux solutions opposées.

La version honnête est celle-ci : les mauvaises règles freinent bel et bien. Des règles écrites sans comprendre la technique, des règles qui exigent des preuves que personne ne peut produire, des règles qui changent tous les dix-huit mois. La réponse à cela, ce sont de meilleures règles, pas moins de règles.

Le cas agentique le rend concret. Un agent d'IA qui exécute une action sur un système de référence n'est pas un agent conversationnel. Il lui faut une identité, une permission délimitée, un point d'approbation et une piste d'audit. Chacun de ces éléments est à la fois une exigence juridique et une exigence d'ingénierie. Ce n'est pas la régulation contre l'innovation. C'est la régulation qui décrit l'architecture. 🤖

🤝 Confiance : la part qui ne se décrète pas

Le troisième élément est celui que les organisations cherchent le plus souvent à court-circuiter.

La confiance n'est pas un label sur un site web. Ce n'est pas une garantie dans un contrat. La confiance est ce qui s'accumule lorsqu'un système se comporte de manière prévisible dans des conditions que personne n'avait prévues.

En pratique, elle naît de choses peu spectaculaires :

• Le système dit ce qu'il ne sait pas, au lieu de deviner avec aplomb
• Un humain peut voir ce qui s'est passé et pourquoi
• Quand il échoue, il échoue bruyamment et non en silence
• Quelqu'un est responsable, et ce quelqu'un est nommé

L'anonymat et la liberté d'expression figurent tous deux au programme, et tous deux sont des questions de confiance sous d'autres habits. La liberté et la sécurité avec lesquelles les gens circulent sur internet se décident au quotidien, par des choix de conception que la plupart des utilisateurs ne voient jamais.

🔄 Pourquoi les trois sont indissociables

C'est la partie sur laquelle il vaut la peine de s'arrêter.

La souveraineté sans règles produit de la fragmentation. Chaque pays construit sa propre pile, plus rien n'interopère, et le marché rétrécit pour tout le monde.

Les règles sans souveraineté produisent du théâtre de conformité. Vous pouvez écrire le meilleur cadre de gouvernance de l'IA d'Europe et n'avoir aucun contrôle sur l'infrastructure qui l'exécute.

L'une ou l'autre sans confiance produit un système que personne n'utilise. C'est à l'adoption que la gouvernance fait ses preuves ou se révèle n'être que de la paperasse.

Liberté et responsabilité ne s'arbitrent pas l'une contre l'autre. Ce sont la même structure décrite de deux côtés. 🧩

🏗️ Ce que cela signifie pour ceux qui construisent vraiment

Un congrès comme celui-ci est le lieu où se discute l'ordre juridique de la décennie à venir. L'essentiel de ce qui s'y décide arrive dans les backlogs d'ingénierie environ dix-huit mois plus tard.

La lecture pratique, pour quiconque déploie de l'IA dans une organisation européenne :

• Traitez la question de compétence dès la conception. Non parce qu'un régulateur la posera demain, mais parce qu'il est bien plus coûteux de rajouter un périmètre de données après coup que de le construire. Les contrôles conçus tôt coûtent moins cher et sont bien plus faciles à démontrer que des contrôles boulonnés contre une échéance.
• Traitez la piste d'audit comme une fonctionnalité du produit. C'est elle qui vous permettra d'étendre plus tard l'autorité du système. Sans elle, chaque extension doit être rejustifiée depuis zéro.
• Placez l'humain là où la décision est réversible. Pas partout, cela paralyse le système. Aux endroits où se tromper coûte cher.
• Gardez une sortie réelle. Si vous ne pouvez pas décrire en une page comment vous quitteriez une plateforme, vous n'avez pas de sortie. Vous avez un espoir.

🎯 Où nous en sommes

Nous concevons et exploitons des systèmes d'IA agentique pour des organisations européennes, avec des équipes allemandes et indiennes. Les questions de ce programme sont celles que nos clients posent dès le premier rendez-vous, en général sous une forme moins précise.

Notre position n'a pas changé et cette semaine l'a confortée : la capacité des modèles n'est plus la contrainte déterminante pour la plupart des charges de travail en entreprise. La gouvernance, les coûts unitaires et la propriété le sont.

Un agent capable de lire est une démonstration. Un agent autorisé à écrire a besoin de quatre choses : une identité, une permission délimitée, un point d'approbation et une piste d'audit. Souveraineté, règles et confiance ne sont pas des abstractions dans cette phrase. Elles sont la matière dont ces quatre choses sont faites.

🚧 Ce que nous ne prétendrons pas

Nous ne sommes pas avocats et rien de ce qui précède ne constitue un conseil juridique. Ce sont nos notes sur un programme de congrès public et notre lecture de ce qu'il signifie pour ceux qui construisent.

Nous ne prétendrons pas non plus que les systèmes gouvernés sont gratuits. Ils démarrent plus lentement et coûtent davantage au début. Ce qu'ils achètent, c'est la possibilité d'élargir le périmètre plus tard sans renégocier la confiance depuis zéro, ce qui est précisément là où meurent d'ordinaire les pilotes sans gouvernance.

Et la position juridique sur plusieurs de ces questions, en particulier la responsabilité du fait des agents, est véritablement non tranchée. Quiconque vous dit le contraire a quelque chose à vous vendre.

📅 Parlons-en

Réservez une revue de 30 minutes. Nous vous dirons lesquels de vos cas d'usage de l'IA résistent aujourd'hui à la question de compétence, et lesquels non.

Protection des données, GenAI et conseil : mejuvante.ai/enquiry-1