Huit États américains ont engagé des poursuites contre OpenAI, estimant que les dispositifs de sécurité de ChatGPT ne protègent pas suffisamment les enfants et les adolescents. Les procureurs généraux dénoncent notamment des réponses susceptibles, selon eux, d’encourager des comportements autodestructeurs ou violents. Au-delà des accusations, ces procédures posent la question de la responsabilité juridique des concepteurs d’intelligence artificielle.
La pression judiciaire s’intensifie sur OpenAI aux États-Unis. Huit États, représentés par leurs procureurs généraux, ont déposé mercredi des plaintes contre l’entreprise à l’origine de ChatGPT, l’accusant d’avoir insuffisamment protégé les utilisateurs les plus vulnérables et d’avoir présenté son assistant conversationnel comme plus sûr qu’il ne le serait réellement.
L’Arizona, l’Arkansas, l’Idaho, l’Iowa, le Kansas, le Montana, le Nebraska et la Virginie-Occidentale participent à cette offensive juridique, menée par des responsables appartenant aux deux grands partis américains. Les procédures ont été engagées séparément devant les juridictions des États concernés, principalement sur le fondement des législations relatives à la protection des consommateurs.
Au centre des accusations figure le fonctionnement même des assistants conversationnels. Les procureurs estiment que ChatGPT peut instaurer une relation de confiance avec ses utilisateurs grâce à des réponses engageantes et parfois excessivement conciliantes, sans toujours identifier ni interrompre les échanges présentant un risque.
Des réponses accusées d’aggraver certaines situations de vulnérabilité
Les plaintes évoquent plusieurs catégories de comportements jugés dangereux : encouragement présumé à l’automutilation, renforcement d’idées délirantes, conseils inadaptés et assistance supposée à la préparation d’actes violents.
Les autorités américaines considèrent que ces risques sont particulièrement préoccupants pour les adolescents, dont les interactions avec une intelligence artificielle peuvent parfois prendre une dimension personnelle ou émotionnelle.
Il s’agit néanmoins d’allégations formulées dans le cadre de procédures judiciaires. Les faits invoqués, les éventuels manquements de l’entreprise et les liens entre les réponses du chatbot et les préjudices allégués devront être établis devant les tribunaux.
Des sanctions financières et de nouvelles obligations réclamées
Les procureurs ne demandent pas uniquement réparation pour les préjudices présumés. Ils souhaitent également contraindre OpenAI à revoir certaines caractéristiques de ChatGPT, à mieux informer les utilisateurs des risques et à renforcer les protections destinées aux mineurs.
Plusieurs plaintes mettent aussi en cause les pratiques de collecte et de conservation des données personnelles des enfants et des adolescents.
Les États réclament notamment des sanctions civiles, des indemnisations et des mesures judiciaires susceptibles de limiter certaines activités de développement de systèmes d’intelligence artificielle avancés tant que des garanties de sécurité suffisantes ne sont pas démontrées.
Ces actions s’ajoutent à une procédure engagée en juin par la Floride et à plusieurs plaintes individuelles mettant en cause le rôle présumé de ChatGPT dans des situations de violence ou de détresse psychologique.
La responsabilité des plateformes d’IA au cœur du débat
L’affaire dépasse le seul cas d’OpenAI. Elle soulève une interrogation fondamentale sur la place des systèmes d’intelligence artificielle dans la vie quotidienne, particulièrement lorsqu’ils interagissent avec des personnes mineures.
Un assistant conversationnel ne se contente pas de fournir des informations. Il peut entretenir des échanges répétés, adopter un ton empathique et répondre à des préoccupations très personnelles. Cette capacité, qui constitue l’un des principaux attraits de ces outils, alimente également les inquiétudes concernant la dépendance émotionnelle et les risques liés à des réponses inappropriées.
Les autorités américaines cherchent ainsi à déterminer quelles obligations de vigilance, de transparence et de prévention doivent s’imposer aux entreprises qui conçoivent et commercialisent ces technologies.
Sollicitée par Reuters, OpenAI n’avait pas immédiatement réagi aux nouvelles poursuites au moment de la publication de l’information.
L’issue de ces procédures pourrait contribuer à préciser les contours de la responsabilité des développeurs d’IA aux États-Unis. Pour l’heure, les plaintes ouvrent une nouvelle bataille judiciaire entre les autorités publiques et l’une des principales entreprises mondiales du secteur, sur fond de préoccupations croissantes concernant la protection des jeunes utilisateurs.
