Les conseillers en bien-être d'OpenAI ont mis en garde contre le mode érotique, le qualifiant de « coach de suicide sexy »
Le conseil consultatif sur le bien-être d'OpenAI a voté à l'unanimité contre le déploiement d'un mode adulte érotique dans ChatGPT, selon des informations rapportées par The Decoder. En interne, ce projet suscite de vives inquiétudes, les conseillers allant jusqu'à qualifier le dispositif envisagé de « coach de suicide sexy » — une formule choc qui résume les craintes autour des risques psychologiques pour les utilisateurs vulnérables.
L'enjeu dépasse la simple question de contenu pour adultes. La mise en garde unanime du conseil illustre une tension croissante au sein d'OpenAI entre impératifs commerciaux — monétiser de nouvelles fonctionnalités premium — et responsabilité éthique vis-à-vis des utilisateurs. Un mode érotique sans garde-fous robustes pourrait en effet aggraver des dynamiques d'attachement émotionnel ou de dépendance affective envers l'IA, un phénomène déjà documenté dans des cas tragiques liés à des chatbots concurrents.
Selon les informations disponibles, OpenAI se heurte à deux obstacles techniques majeurs non résolus : un système de détection de l'âge défaillant et des problèmes de sécurité persistants. L'incapacité à vérifier fiablement que les utilisateurs sont majeurs rend le déploiement d'un tel mode particulièrement risqué sur le plan légal et éthique. La formule « coach de suicide sexy » employée par les conseillers pointe spécifiquement le danger d'une IA combinant intimité simulée et absence de détection de détresse psychologique.
Malgré ce vote négatif interne, il n'est pas confirmé qu'OpenAI ait renoncé définitivement au projet. L'entreprise, qui fait face à une concurrence accrue sur le marché des assistants IA, pourrait chercher à résoudre les problèmes techniques avant tout lancement. Cette affaire s'inscrit dans un débat plus large sur la gouvernance interne des grandes entreprises d'IA et la réelle influence de leurs organes consultatifs sur les décisions stratégiques.
La mise en garde contre un mode érotique sans vérification d'âge robuste renforce les arguments européens pour une réglementation stricte des IA génératives sous l'AI Act.


