ChatGPT encapsule des normes. Par exemple, si vous lui demandez comment on construit des bombes, il vous répondra que si vous avez un problème, vous pouvez consulter un professionnel de la santé... Mais qui définit ces normes ? Du point de vue du droit, c’est intéressant. À mon sens, ChatGPT se caractérise surtout par son incapacité à transgresser ces normes. En droit, la notion de bonnes mœurs est définie par le même article du code civil depuis 1830 sauf qu’avant, ce qui était contraire aux bonnes mœurs, c’était le concubinage et maintenant, pour caricaturer, c’est de vendre ses ovules sur internet... La société tourne, mais ChatGPT, lui, est incapable d’interpréter et de faire évoluer les normes. Il est aussi incapable de penser le cas de force majeure. En droit, il est par exemple interdit de faire un excès de vitesse sauf si c’est pour porter secours à une personne en danger. Royalement psychorigide, ChatGPT méconnaît l’exception et l’empathie. En ce sens, il serait un magnifique plaidoyer pour le rôle de l’humain. Car incapable du pire, ChatGPT est aussi incapable du meilleur.

Elise Degrave, Faculté de droit, Institut NaDI