Groupe 3 : Risques de l'IA dans l'éducation

L'éducation, en tant que tel, demande peut être à être précisé au prisme du supérieur. Que cherche-t-on à faire ?

L'un des rapports de référence en Education est le rapport Delors (1996) qui précise par exemple (p. 92) que "l'éducation doit contribuer au développement total de chaque individu - esprit et corps, intelligence, sensibilité, sens esthétique, responsabilité personnelle, spiritualité.

Tout être humain doit être mis en mesure, notamment grâce à l'éducation qu'il reçoit dans sa jeunesse, de se constituer une pensée autonome et critique et de forger son propre jugement, pour déterminer par lui-même ce qu'il estime devoir faire dans les différentes circonstances de la vie". Si cette définition est peut être trop large pour la convention (qui se concentre sur l'éducation dans le supérieur), elle pose de nombreux problèmes.

Comment se constituer une pensée autonome et critique si l'IA devient indispensable pour les réaliser ?

Par ailleurs, de nombreuses compétences risquent d'être perdues:
- Esprit de synthèse, compréhension de texte, capacité de concentration, capacité de mobiliser ses connaissances pour résoudre un problème nouveau.

Autres questions à aborder dans ce groupe (par exemple)
- Y'a t il des domaines de l'éducation où la dépendance à l'IA est acceptable ? (peut-on accepter d'être dépendant de l'IA, et dans quels métiers ?)
- Les biais sociétaux sont souvent reproduits dans les systèmes d'IA. Quelles garanties doit on imposer aux systèmes IA d'éducation avant de les déployer ?
- Si la personnalisation des parcours peut être une chance, comment garantir que les profilages des élèves ne soient pas extrêmes ? Quelles garanties doit on demander pour ne pas tomber dans des systèmes dystopiques où un modèle prédictif viendrait dicter de l'avenir des individus ?

Enfin, il faudra probablement traiter des risques psycho-sociaux d'un apprentissage sans l'humain et des compétences acquises à l'école permettant l'apprentissage de la vie en société, du compromis, de la sociabilisation.

Cas d'illustration que vous pourrez par exemple utiliser

  • Un étudiant qui utilise l'IA chaque jour et qui ne sait pas préparer de lui-même un argumentaire pour répondre à une question complexe sans le support de l'IA.
  • Un établissement d'enseignement supérieur qui enregistre en vidéo de très haute qualité la totalité des cours qui se déroulent sur le campus, et les stockent sur un serveur vidéo sans politique de suppression.
  • Des étudiants qui ont uniquement des travaux individuels tout au long de leur scolarité, peu d'heures de cours, et qui révisent exclusivement de manière individuelle via l'aide d'un tuteur virtuel qui leur propose des contenus adaptés à leur rythme et leur niveau.