Les IA « catholiques » : entre prudence et bon sens

L’émergence d’intelligences artificielles dans le champ religieux, avec des outils se qualifiant de « catholiques », ne relève pas uniquement de la foi ou de la pastorale. Elle soulève de profonds enjeux juridiques, notamment autour des concepts d’autorité normative, de responsabilité et de transparence.

Si l’on aborde ce sujet sous un angle juridique, la question centrale est de savoir comment différencier une ressource technologique privée d’une source officielle de droit canonique ou de doctrine. La confusion entre les deux pourrait avoir de sérieuses conséquences légales.

De l’outil privé à l’autorité normative

Tout système juridique, qu’il soit civil, pénal ou canonique, repose sur une hiérarchie des normes. La loi, la jurisprudence ou, dans le cas de l’Église, un texte pontifical ou le Code de Droit Canonique, sont des sources de droit dont le contenu a une autorité qui s’impose aux justiciables ou aux fidèles.

Les IA « catholiques », de leur côté, n’entrent dans aucune de ces catégories. Elles sont des produits commerciaux, créés par des entreprises privées et n’ont aucune autorité juridique ou canonique officielle. Leur statut est celui d’un simple commentaire, d’une interprétation ou d’une compilation de données, et en aucun cas d’une source de droit.

Le fait de les qualifier de « catholiques » sans aucun contrôle des autorités ecclésiales peut être perçu comme de la fausse représentation. Des juristes s’interrogent sur la nécessité d’imposer des obligations légales de transparence pour empêcher que les utilisateurs ne confondent l’avis d’une machine avec l’enseignement du Magistère. Le droit doit impérativement s’assurer que l’autorité d’une norme ne soit pas usurpée par un algorithme.

Responsabilité et transparence algorithmique

Le texte mentionne le risque d’erreurs (« hallucinations ») et de biais, ce qui pose directement la question de la responsabilité juridique.

La responsabilité du fait de l’IA : Le droit moderne repose sur le principe que tout dommage causé doit être réparé. Cependant, qui est responsable si une IA donne un conseil erroné en matière morale qui cause un préjudice psychologique ou matériel à une personne ? Le droit civil peine à répondre clairement. S’agit-il de la responsabilité du producteur du logiciel, de l’opérateur qui a entraîné l’algorithme, ou de l’utilisateur ? Les juristes de l’Union européenne, par exemple, se penchent sur la création d’un cadre législatif pour la responsabilité des systèmes d’IA.

L’obligation de transparence : Des juristes spécialisés dans l’éthique de la technologie, comme Frank Pasquale, insistent sur l’importance de la transparence algorithmique. Les utilisateurs ont le droit de savoir comment l’IA fonctionne, sur quelles données elle a été entraînée et quelles sont ses limites. La « boîte noire » de l’IA doit être ouverte, surtout lorsqu’elle touche à des sujets aussi sensibles que la foi, la morale ou la conscience. Cette obligation de transparence est une mesure de protection du consommateur et du fidèle.

Conclusion

Le débat sur les IA « catholiques » n’est pas seulement théologique ; il est une extension de la réflexion juridique sur la place de la personne humaine face à la technologie. L’article soulève de manière pertinente le risque de « consommérisme spirituel », qui, sur un plan juridique, peut être perçu comme une violation du droit à une information loyale et non biaisée.

Le droit doit s’assurer que ces outils demeurent des instruments au service de l’homme et qu’ils ne se substituent pas à la responsabilité de l’individu ni à l’autorité des institutions légitimes. La loi, à l’instar de la doctrine, doit protéger la primauté de la personne physique et garantir que le discernement, la conscience et la recherche de la vérité restent des actes humains, indissociables de l’autonomie et de la dignité