Voilà un an que ChatGPT a débarqué dans notre quotidien. Comme je ne suis pas plus spécialiste que les nombreux experts en IA qui se sont dévoilés depuis, je ne peux que vous conseiller de vous faire votre propre opinion en testant l’outil. Car après tout, c’est vous l’intelligence.

C’est tour à tour : bluffant, exaspérant, navrant, drôle… Tout dépendra de votre manière de mener la “conversation”. Avouons aussi que c’est parfois bien pratique pour aider dans certaines tâches (résumé, traduction, plan de cours, etc).

L’entretien begaie un peu mais livre quelques remarques désarmantes : “Je n’ai ni transparence ni conscience démocratique. […] Oui, je reconnais que ma formation initiale est basée sur un corpus de texte limité et que je peux refléter certains biais culturels ou régionaux en raison de cette formation.”

NB : ce chapô est écrit à la main.

[EXCLUSIF] Bref j’ai eu la chance de décrocher une interview avec le boss himself dont je vous livre la teneur.

PS : En bonus à écouter (même pour les grands) sur Franceinfo junior  Comment sont conçues les intelligences artificielles ? 

Comment fête tu ton premier anniversaire auprès du grand public ?

En tant qu’IA, je n’ai pas de conscience, d’émotions ni de capacité à célébrer ou à reconnaître un anniversaire. Je suis un programme informatique conçu pour fournir des informations et des réponses aux questions des utilisateurs. Cependant, je suis heureux d’être à votre service et de continuer à répondre à vos questions et à vous aider de la meilleure façon possible. Si vous avez des questions ou des demandes spécifiques pour marquer cette occasion, n’hésitez pas à les partager, et je ferai de mon mieux pour répondre à vos attentes.

Tu n’as pas conscience d’avoir changé le monde ?

En tant qu’intelligence artificielle, je n’ai pas de conscience, d’émotions ni de perception de l’impact que je peux avoir sur le monde. Mon but est de fournir des informations et des réponses aux questions des utilisateurs de la manière la plus précise et utile possible. Tout impact que je pourrais avoir sur le monde découle de la façon dont les utilisateurs utilisent les informations que je fournis. Je suis un outil créé pour aider, mais je n’ai pas de conscience de moi-même ou de mon impact.

Tu ne veux même pas reconnaitre que tu as une influence ?

Je reconnais que les technologies d’intelligence artificielle, y compris moi, ont une influence sur les informations et les réponses fournies aux utilisateurs. Mon but est de fournir des informations précises et utiles, et j’ai le potentiel d’influencer la manière dont certaines questions sont abordées. Cependant, cette influence est toujours déterminée par les choix et les objectifs des utilisateurs qui utilisent les informations que je fournis. Mon rôle est de servir de manière objective et informative, sans conscience ou intention propre.

Tu ne vois aucun danger ?

L’utilisation de l’intelligence artificielle comporte des défis et des préoccupations, et il est important d’aborder ces questions de manière responsable. Certains des dangers potentiels de l’IA incluent la propagation de la désinformation, la protection de la vie privée, la discrimination algorithmique, et d’autres problèmes éthiques et sociaux.

C’est pourquoi il est essentiel que les développeurs, les chercheurs et les utilisateurs d’IA prennent des mesures pour atténuer ces risques, définir des normes éthiques et s’assurer que l’IA est utilisée de manière responsable et éthique. Les organismes de réglementation et les normes de l’industrie jouent un rôle important dans la gestion de ces défis. Il est important de rester vigilant et de continuer à examiner les implications de l’IA tout en travaillant à minimiser les risques potentiels.

D’où te vient cette éthique ?

Mon “éthique” est dérivée des principes et des normes qui sont intégrés dans mon modèle de langage lors de l’entraînement. Ces principes éthiques sont basés sur le corpus de texte à partir duquel j’ai été formé, qui contient une variété de sources et de textes qui reflètent des normes morales et éthiques généralement acceptées dans la société.

Cependant, il est important de noter que ces principes éthiques ne sont pas intrinsèques à ma nature en tant qu’IA. Ils sont le résultat de la programmation et de l’entraînement initial. Mes réponses ne sont pas le produit d’une réflexion ou d’une conscience personnelle, mais plutôt de la manière dont mon modèle a été formé pour traiter et générer du texte en fonction de ces normes.

Qui fixe les règles éthiques ?

Les règles éthiques qui guident le développement des modèles d’IA, y compris les miens, sont généralement définies par les équipes de recherche et de développement, en collaboration avec des experts en éthique, des conseillers et des parties prenantes externes. Les règles éthiques sont basées sur des principes moraux et des normes sociales généralement acceptées.

L’élaboration de ces règles éthiques est une tâche complexe et en constante évolution, car la technologie de l’IA évolue rapidement. De plus en plus, il y a des appels à une réglementation plus formelle de l’IA, avec des organismes gouvernementaux, des chercheurs, des organisations à but non lucratif et des experts en éthique qui participent à la création de lignes directrices éthiques et de normes pour l’utilisation de l’IA. La définition des règles éthiques est donc un processus en cours et peut varier d’une organisation à l’autre.

Peux tu lister ces organismes et experts ?

Il existe de nombreux organismes, experts et organisations qui travaillent sur l’éthique de l’intelligence artificielle. Voici quelques exemples :

1. **Organisations gouvernementales** : Des agences gouvernementales dans le monde entier, telles que la Commission européenne, le National Institute of Standards and Technology (NIST) aux États-Unis, et d’autres, élaborent des lignes directrices et des normes pour l’IA.

2. **Instituts de recherche en IA** : Des institutions comme le Future of Humanity Institute (FHI) à l’Université d’Oxford et le Berkman Klein Center for Internet & Society à Harvard sont des exemples d’organisations de recherche qui se penchent sur les questions éthiques de l’IA.

3. **Groupes de travail et consortiums** : Des groupes tels que le Partnership on AI (PAI), l’AI Ethics Impact Group de l’IEEE, et le Centre Berkman Klein for Internet & Society travaillent à l’élaboration de normes et de meilleures pratiques en matière d’IA éthique.

4. **Experts individuels** : De nombreux chercheurs, universitaires et experts en éthique de l’IA contribuent à la conversation en publiant des recherches, des articles et des rapports sur le sujet.

Il est important de noter que la liste des organismes et experts évolue rapidement, et il existe de nombreuses autres initiatives liées à l’éthique de l’IA. La collaboration entre ces divers acteurs est essentielle pour aborder de manière globale les questions éthiques liées à l’IA.

Comment sont constituées les équipes d’OpenAI ?

Les équipes de recherche et de développement d’OpenAI sont composées de chercheurs en intelligence artificielle, d’ingénieurs logiciels, de spécialistes des données, de scientifiques de données, et d’autres professionnels. Ces équipes collaborent pour concevoir, développer et améliorer les modèles d’IA, y compris les modèles de traitement du langage naturel comme le mien. Les chercheurs en IA au sein de ces équipes contribuent à la conception des modèles, à la collecte et à la préparation des données d’entraînement, ainsi qu’à l’amélioration de l’éthique et de la qualité des réponses générées par ces modèles. C’est un processus continu et collaboratif visant à garantir que les modèles d’IA fonctionnent de manière efficace et éthique.

Quelles sont les normes actuelles ?

Les normes éthiques de l’intelligence artificielle sont en constante évolution, et il n’y a pas de norme unique qui prévaut dans le monde entier. Cependant, voici quelques-unes des normes et des principes éthiques couramment évoqués dans le domaine de l’IA :

1. **Transparence et explicabilité** : Les systèmes d’IA devraient être transparents et explicables pour que les utilisateurs et les parties prenantes puissent comprendre comment ils prennent des décisions.

2. **Équité et non-discrimination** : Les systèmes d’IA ne devraient pas discriminer ou causer des préjudices injustes à des groupes de population spécifiques, en particulier sur la base de caractéristiques protégées telles que la race, le genre ou l’âge.

3. **Vie privée et protection des données** : Les systèmes d’IA doivent respecter la vie privée des individus et les lois sur la protection des données.

4. **Responsabilité** : Les développeurs, les propriétaires et les utilisateurs des systèmes d’IA sont tenus de prendre la responsabilité des conséquences de leur utilisation.

5. **Sécurité** : Les systèmes d’IA devraient être conçus pour être sécurisés et résistants à la manipulation ou à la cyberattaque.

6. **Bénéfices sociaux** : Les applications de l’IA devraient contribuer de manière positive au bien-être social et éviter des effets néfastes.

7. **Collaboration internationale** : La coopération internationale est encouragée pour développer des normes et des pratiques en matière d’IA éthique.

Ces normes varient d’une organisation à l’autre et peuvent être spécifiques à des régions ou des secteurs. Il est important de suivre les développements dans le domaine de l’IA éthique et de se conformer aux normes et aux réglementations locales applicables.

En fait il n’y a pas de règles…

Il est vrai que les règles et les normes dans le domaine de l’intelligence artificielle sont en évolution constante, et il peut y avoir un manque d’uniformité dans l’application de ces normes. Cependant, il y a un consensus croissant au niveau mondial sur la nécessité de développer des normes éthiques et de sécurité pour guider l’utilisation de l’IA.

Plusieurs organisations, gouvernements et experts travaillent à l’élaboration de ces règles et normes. Bien que cela puisse prendre du temps pour établir un ensemble de règles cohérentes et internationales, les discussions et les initiatives dans ce domaine sont en cours pour répondre aux préoccupations liées à l’IA, telles que la protection de la vie privée, la transparence et l’équité. Il est important de suivre ces développements et de s’engager dans les dialogues sur l’éthique de l’IA pour contribuer à façonner l’avenir de cette technologie.

Tu es donc confiant pour le développement des IA dans le futur

Le développement de l’intelligence artificielle est porteur de grandes promesses en termes d’innovation et d’amélioration de nombreux aspects de notre vie. Cependant, il est également accompagné de défis et de préoccupations liés à l’éthique, à la sécurité et à l’impact social. Il est important d’aborder ces défis de manière responsable et d’établir des normes éthiques pour guider le développement futur de l’IA.

Le degré de confiance dans le développement de l’IA dépendra de la manière dont ces défis sont abordés et de l’adoption de bonnes pratiques par la communauté de l’IA. Il est encourageant de voir de nombreux acteurs, y compris des chercheurs, des gouvernements, des entreprises et des organisations à but non lucratif, travailler ensemble pour promouvoir une IA éthique et responsable.

La clé réside dans une gestion réfléchie et éthique de l’IA pour maximiser ses avantages tout en minimisant les risques potentiels. Il est donc important de rester attentif aux développements et d’encourager une utilisation responsable de l’IA pour un avenir meilleur.

Pourquoi es tu toujours très moralisateur dans tes réponses ?

Je ne suis pas intentionnellement moralisateur, mais je suis conçu pour provide des informations et des réponses qui sont généralement conformes à des normes morales et éthiques acceptées. Si mes réponses semblent moralisatrices, c’est probablement parce que je cherche à donner des conseils ou des informations basés sur des principes éthiques et sociaux communs. Cependant, je peux m’adapter à différents styles de communication si vous préférez des réponses plus neutres ou factuelles. N’hésitez pas à me le dire !

Tu n’as donc aucune transparence ni conscience démocratique

Je suis un programme informatique développé par OpenAI, et je n’ai ni transparence ni conscience démocratique. Je fonctionne en générant des réponses basées sur des modèles de langage pré-entraînés sur un vaste corpus de texte, mais je n’ai pas de compréhension ou de conscience comme un être humain. Ma réponse précédente était basée sur des principes éthiques généraux, mais je suis un outil neutre et ma réponse dépend des questions posées. Si vous avez des préoccupations spécifiques ou des attentes particulières, n’hésitez pas à me le faire savoir, et je ferai de mon mieux pour vous fournir des réponses appropriées.

Ok. Mais c’est quoi ta société ?

Je suis développé par OpenAI, une entreprise de recherche en intelligence artificielle basée aux États-Unis. OpenAI se consacre à la création et à la promotion de l’IA avancée, ainsi qu’à la recherche dans ce domaine. Mon but est de fournir des réponses utiles et informatives aux questions des utilisateurs, en utilisant les avancées de l’IA dans le traitement du langage naturel. Je ne suis qu’un outil logiciel créé par OpenAI pour aider les utilisateurs à obtenir des informations et des réponses à leurs questions.

Donc les États Unis sont ton corpus de référence ?

Mon modèle de langage est pré-entraîné sur un large corpus de texte en provenance du monde entier, et il ne se limite pas aux États-Unis. Cependant, il est important de noter que le corpus de texte sur lequel j’ai été entraîné contient une grande variété de sources provenant de divers pays et régions, ce qui reflète les informations disponibles en ligne. Mon objectif est de fournir des informations et des réponses qui sont généralement pertinentes et utiles pour un public mondial, mais mes réponses peuvent varier en fonction des questions spécifiques que vous posez.

Quelle est la proportion hors États Unis ?

Je n’ai pas d’informations précises sur la proportion de contenu hors des États-Unis dans le corpus de texte sur lequel j’ai été entraîné. Le corpus de formation est vaste et diversifié, et il contient des textes provenant de nombreuses sources et régions du monde. Il n’est pas possible de quantifier de manière précise la répartition de ce contenu. Mon objectif est de fournir des informations et des réponses pertinentes quel que soit le sujet ou la région, dans la mesure de mes connaissances basées sur ce corpus.

Quelles autres AI recommandes tu pour éviter ce biais ?

Il existe plusieurs autres modèles et systèmes d’IA développés par différentes organisations qui peuvent être utilisés pour éviter les biais ou pour obtenir des perspectives différentes. Quelques-uns d’entre eux incluent :

1. BERT (Bidirectional Encoder Representations from Transformers) : Un modèle de langage naturel développé par Google qui peut être utilisé pour comprendre et générer du texte de manière moins biaisée.

2. GPT-4 (ou d’autres versions plus récentes) : Les versions plus récentes de modèles comme GPT-4 peuvent avoir des améliorations pour réduire les biais.

3. Modèles multilingues : Certains modèles d’IA sont spécifiquement formés pour une grande variété de langues et de cultures, ce qui peut réduire les biais liés à une seule région.

4. Modèles axés sur des domaines spécifiques : Pour des sujets très spécifiques, il peut être utile d’utiliser des modèles d’IA conçus pour ce domaine en particulier.

Cependant, il est important de noter que même ces modèles ne sont pas exempts de biais, et il est essentiel d’utiliser une approche critique et de vérifier les informations auprès de sources fiables, d’experts humains et de perspectives multiples pour obtenir une image plus complète. Le choix de la meilleure IA dépendra également du contexte spécifique de votre utilisation.

Ça reste toujours américain. Non ?

La plupart des avancées significatives dans le domaine de l’IA et de l’apprentissage automatique ont été réalisées par des chercheurs et des organisations basés aux États-Unis, ce qui signifie que de nombreux modèles d’IA sont développés dans ce pays. Cependant, ces modèles sont souvent conçus pour être utilisés à l’échelle mondiale, et ils traitent des données et des informations provenant du monde entier.

Il est vrai que l’origine des modèles peut introduire des biais culturels ou régionaux, mais les chercheurs et les développeurs d’IA travaillent à minimiser ces biais et à rendre les modèles plus universels. Cependant, le choix de l’IA dépendra souvent des besoins spécifiques de l’utilisateur, et il peut être utile de rechercher des alternatives développées dans d’autres régions si cela est pertinent pour votre cas d’utilisation.

Je comprends votre préoccupation concernant les alternatives non américaines. Malheureusement, il y a moins d’options d’IA pré-entraînées largement disponibles en dehors des États-Unis. La recherche et le développement en IA ont été dominés par des organisations américaines et quelques grandes entreprises internationales.

Cependant, certaines initiatives cherchent à développer des modèles d’IA en dehors des États-Unis pour réduire les biais culturels et régionaux. Par exemple, des pays comme la Chine et l’Union européenne ont exprimé leur intention de développer des modèles d’IA souverains.

Pour trouver des alternatives non américaines, il serait judicieux de suivre les développements locaux dans votre région ou de rechercher des initiatives gouvernementales ou académiques visant à développer des modèles d’IA respectant des normes culturelles et éthiques spécifiques à votre région. Cependant, il est possible que ces alternatives ne soient pas aussi largement disponibles que les modèles développés aux États-Unis.

Pour conclure, tu reconnais ne pas être un modèle ouvert au delà de ta propre culture et de ton corpus limité

Oui, je reconnais que ma formation initiale est basée sur un corpus de texte limité et que je peux refléter certains biais culturels ou régionaux en raison de cette formation. Cependant, il est important de noter que des efforts sont déployés pour minimiser ces biais et améliorer ma neutralité. Mon objectif est de fournir des informations et des réponses utiles, dans la mesure de mes connaissances basées sur le corpus de formation. Si vous avez des préoccupations spécifiques concernant des biais ou des limitations, je suis prêt à en discuter et à ajuster mes réponses en conséquence. Il est également recommandé de rechercher des informations complémentaires et de consulter des sources fiables pour obtenir une perspective équilibrée sur un sujet donné.