OpenAI demande au Congrès si les laboratoires d’IA peuvent légalement se coordonner pour ralentir le développement de l’IA de pointe

Ce qui a changé

Selon les informations de Wired, OpenAI a demandé à des membres du Congrès si les laboratoires d’IA pourraient légalement se coordonner pour ralentir le développement de l’IA de pointe. Le directeur scientifique Jakub Pachocki s’est prononcé en faveur de ralentissements volontaires jusqu’à l’instauration de normes de sécurité communes, tandis qu’un projet de loi bipartisan présenté en juillet protégerait certaines coopérations en matière de sûreté et de sécurité contre des poursuites au titre du droit de la concurrence. La version déposée à la Chambre est devant la commission judiciaire, mais n’a pas encore été examinée.

Pourquoi c’est important

Cette situation transforme la sécurité de l’IA, qui relevait jusqu’ici d’une appréciation technique, en un risque lié aux achats. Si les grands laboratoires ralentissent leurs mises à disposition, l’accès aux nouvelles capacités de pointe pourrait se faire plus progressivement au cours des 6 à 12 prochains mois. Cela pourrait faciliter la planification, mais aussi laisser les équipes attendre des fonctionnalités sur lesquelles elles comptaient bâtir leurs projets.

Si aucune protection juridique n’est instaurée, les entreprises pourraient continuer leur course selon des calendriers distincts. Les acheteurs seraient alors confrontés à des évolutions plus rapides des capacités des modèles, de leur disponibilité et des processus de sécurité, avec moins de coordination entre les acteurs. Le problème tient notamment au fait que le droit de la concurrence pourrait limiter la coopération, même lorsqu’elle porte sur la sécurité plutôt que sur les prix.

L’incertitude est réelle: la légalité de tout accord dépendrait de ses modalités précises, et le rapport n’établit pas l’existence d’un ralentissement à l’échelle du secteur. La rivalité commerciale, les conceptions différentes de la sécurité et les préoccupations de sécurité nationale pourraient compter autant que le risque juridique.

Comment les effets pourraient se propager

L’incertitude juridique pourrait conduire les laboratoires développant l’IA de pointe à imposer davantage d’examens avant de partager des informations de sécurité ou de discuter du rythme de développement. Une coopération limitée à certains incidents serait alors plus facile à mettre en place qu’un plan commun visant à ralentir les mises à disposition.

Si le Congrès crée un cadre juridique exploitable, les chercheurs en sécurité et les équipes d’intervention pourraient échanger des informations avec un risque moindre au regard du droit de la concurrence. À terme, cela pourrait réduire les efforts redondants et donner aux acheteurs des attentes plus claires quant aux critères de mise à disposition.

Si la coordination reste bloquée, les calendriers commerciaux distincts ont davantage de chances de se maintenir. La pression concurrentielle serait préservée, mais les équipes des entreprises devraient s’adapter à l’évolution rapide des capacités sans cadre commun de cadence.

Évaluation de l’impact

• OpenAI: Demander des éclaircissements au Congrès pourrait réduire le coût juridique de la coordination en matière de sécurité. Cela met aussi en évidence le désaccord entre l’idée d’un ralentissement partagé et la concurrence commerciale de l’entreprise.
• Laboratoires d’IA concurrents: Ils doivent trouver un équilibre entre la coopération en matière de sécurité, les restrictions de production, la rivalité commerciale et leurs conceptions divergentes de ce que signifie un développement « sûr ».
• Législateurs: Le projet de loi proposé donne au Congrès un moyen de définir les règles, mais si l’action est repoussée après les élections de mi-mandat, les entreprises resteront sans certitude immédiate.
• Acheteurs de technologies d’entreprise: Un ralentissement protégé pourrait retarder l’arrivée de nouvelles capacités tout en améliorant la prévisibilité. La poursuite de la concurrence pourrait accélérer l’arrivée de ces capacités, mais entraînerait des changements plus fréquents et moins de coordination.

Scénarios

Notre perspective (spéculation étayée): le scénario le plus probable est la poursuite du développement séparé des modèles de pointe, parallèlement à une coopération plus limitée en matière de sécurité et soumise à un examen juridique.

Le plus probable

Si la rivalité commerciale et les divergences de vues sur la sécurité restent plus fortes que l’argument en faveur d’une cadence coordonnée, les grands laboratoires continueront de publier des modèles selon des calendriers distincts au cours des 6 à 12 prochains mois. La coopération se concentrera sur les incidents ou sur des travaux de sécurité limités, sans mécanisme commun régissant le rythme de développement.

Ce scénario devient moins probable si OpenAI et Anthropic publient une proposition commune sur le rythme de développement ou si le Congrès fait progresser une protection explicite des ralentissements coordonnés.

Scénario favorable

Si le Congrès crée une zone de sécurité juridique claire et que les laboratoires définissent étroitement les contours de leur coopération, les grandes entreprises d’IA pourraient coordonner leurs seuils de sécurité et leurs réponses aux incidents sans interrompre sensiblement leur développement commercial. Les acheteurs bénéficieraient de processus de sécurité plus prévisibles, tandis que la concurrence entre les modèles se poursuivrait.

Cette évolution dépendrait d’une législation couvrant une coordination concrète en matière de sécurité de l’IA et de l’accord de plusieurs laboratoires de premier plan sur des procédures communes.

Scénario défavorable

Si le Congrès reste inactif, que les laboratoires ne parviennent pas à s’entendre sur les conditions de sécurité et que les préoccupations liées au droit de la concurrence continuent de dissuader la coopération, le développement séparé de l’IA de pointe s’accélérera. Les équipes de sécurité disposeraient de moins de moyens pour partager des informations, tandis que les acheteurs feraient face à des évolutions plus rapides des capacités, sans cadre commun de cadence.

Ce scénario serait renforcé si les laboratoires de premier plan continuaient de contester la coordination et de privilégier la concurrence ou l’urgence liée à la sécurité nationale.

À suivre

• La commission judiciaire de la Chambre des représentants tiendra-t-elle une audition, procédera-t-elle à un examen ou prendra-t-elle toute autre mesure officielle concernant le projet de loi sur la coopération?
• OpenAI et Anthropic publieront-ils une proposition commune sur le rythme de développement ou sur des seuils de sécurité partagés?
• Au moins deux grands laboratoires d’IA de pointe annonceront-ils un ralentissement volontaire et défini touchant le développement des modèles ou le calendrier de leur mise à disposition?