⚠️Chapitre 4 : Risques, dérives et limites

Utiliser ChatGPT peut comporter des risques et mener à des dérives.

Introduction

L’intelligence artificielle, notamment ChatGPT, offre des opportunités incroyables pour faciliter nos études et notre travail. Mais cette puissance s’accompagne de responsabilités. Comprendre les enjeux éthiques, les limites techniques, les risques liés à l’usage, et adopter des comportements réfléchis est indispensable pour tirer pleinement profit de l’outil sans danger.

Les enjeux éthiques et sociétaux

ChatGPT reflète notre monde… avec ses qualités mais aussi ses travers.

Biais et partialité

L’IA est entraînée sur des milliards de données en ligne, incluant des stéréotypes, discriminations ou déséquilibres culturels. Elle peut reproduire ces biais dans ses réponses

Impact sur l’emploi

Certains métiers évoluent déjà ou disparaissent. De nouveaux apparaissent. L’IA ne remplace pas l’humain, mais redéfinit les compétences utiles. C’est important de le savoir

Plagiat, droits d’auteur et propriété intellectuelle

Utiliser les contenus générés sans citer l’outil ou les adapter peut mener à des violations de droits.
l’Ia ne cite pas toujours ses sources

Limites techniques et fonctionnelles

Malgré son intelligence apparente, ChatGPT reste un programme statistique

Hallucinations (inventions)

L’IA peut inventer des faits, des noms, ou des sources.
Ex. : Elle peut citer un article scientifique qui n’existe pas.

Compréhension du contexte

ChatGPT ne comprend pas les émotions, l’ironie, Il ne sait pas ce que tu veux s’il n’est pas bien guidé.

Confidentialité non garantie

Les données que tu saisis peuvent être analysées par les plateformes.
Ne colle pas d’informations personnelles.

Risques liés à un usage abusif

Malgré son intelligence apparente, ChatGPT reste un programme statistique

Dépendance cognitive

Trop se reposer sur l’IA peut freiner ta progression personnelle.
Exemple : Ne pas réfléchir, ne plus chercher, ne plus écrire par soi-même.

Risque de désinformation

Si tu fais confiance aveuglément à l’IA, tu peux diffuser de fausses informations. Vérifie toujours les informations qu’elle te donne.

Fraude scolaire ou professionnelle

Utiliser ChatGPT pour rédiger un devoir ou une présentation sans comprendre ce qui est écrit est une forme de triche.

Bonnes pratiques pour un usage responsable

  • Toujours vérifier les informations avec d’autres sources fiables

  • Reformuler et adapter les réponses au lieu de les copier telles quelles.

  • Poser des prompts réfléchis, clairs, précis, et parfois en plusieurs étapes.

  • Ne pas soumettre de données sensibles (identité, bulletins, contrats…).

  • Respecter la propriété intellectuelle (citations, mentions, pas de plagiat).

  • Utiliser l’IA pour t’aider à apprendre, pas à tricher.

    L’IA générative et les contenus visuels (Deepfakes et images IA)

    Deepfakes : vidéos truquées

    Des vidéos truquées imitant la voix ou l’apparence d’une personne peuvent être créées.
    Exemple : En janvier 2024, des images pornographiques générées par IA de la chanteuse Taylor Swift ont circulé sur les réseaux sociaux, suscitant une vive indignation et des appels à une législation plus stricte sur les deepfakes. 20 Minutes+1Wikipédia+1

    Réalismes trompeurs

    Certaines images sont si bien faites qu’on les croit vraies.
    Exemple : Des escrocs ont utilisé des deepfakes pour imiter des dirigeants d’entreprise, validant de fausses transactions commerciales et entraînant des pertes financières importantes. Le Temps

    Protection des données et documents partagés avec l’IA

    ChatGPT (et d’autres outils IA) permet maintenant d’analyser des fichiers PDF, PowerPoint, Word, ou des captures d’écran.

    Exemples d’usage positif

    • Uploader un cours pour demander une explication simplifiée.

    • Soumettre une présentation PowerPoint pour qu’elle soit améliorée.

    • Déposer un fichier Excel pour automatiser des calculs.

    ATTENTION :

    1. Ne jamais envoyer un document contenant : noms d’élèves, données de santé, adresses, mots de passe, informations confidentielles.
    2. Utiliser des versions sécurisées (ChatGPT Team, Copilot Entreprise, etc.).
    3. Certaines IA comme DeepSeek ont été accusées d’utiliser des documents issus d’utilisateurs sans consentement clair.
    4. Toujours lire les conditions d’utilisation : certains outils gratuits peuvent analyser vos données à des fins commerciales ou d’entraînement de modèles.
    5. Évitez les comptes non professionnels pour les usages sensibles.
    6. En cas de doute, privilégiez des outils IA hébergés localement ou encadrés par votre établissement.

    Impact écologique

    L’intelligence artificielle consomme beaucoup d’énergie. Son usage n’est pas neutre.

    Pourquoi ?

    • Les serveurs tournent en permanence.

    • Les modèles sont très gourmands à l’entraînement et à l’utilisation.

    Bonnes pratiques

    • Ne pas générer 50 variantes d’une même image inutilement.

    • Réduire les tests inutiles ou répétitifs.

    • Privilégier l’usage utile et réfléchi.

    Perspectives futures

    L’IA ne va pas disparaître : elle va s’intégrer dans Word, Excel, Gmail, Canva, Notion, etc.

    Nouveaux usages à venir

    • IA dans les mails pro (résumé, réponse auto…).
    • Assistants vocaux dopés à l’IA.
    • Création de cours semi-automatisés.
    • Coaching IA pour entretiens ou oraux.

    À suivre

    • Les lois européennes sur l’IA (AI Act).
    • Les débats éthiques à l’école ou en entreprise.
    • Les formations à venir pour enseignants et salariés.

     

    Chapitre 5 – Ressources, outils et perspectives

    Espace Entreprise – Digitalia2