Pour une consultation élargie

Pilotée par le Conseil supérieur de l’éducation (CSE) et la Commission de l’éthique en science et en technologie (CEST), cette consultation arrive à point nommé puisque l’inquiétude est grandissante dans les milieux de l’éducation. D’ailleurs, nous croyons que cette consultation devra être élargie. « Est-ce nécessaire de rappeler que les enjeux sur l’IA générative ne concernent pas que l’enseignement supérieur, mais également le secteur de l’éducation, et que les enjeux sur l’IA ne concernent pas seulement l’IA générative ? Actuellement, tant au secteur scolaire qu’en enseignement supérieur, se déploient ou sont en voie de se déployer des systèmes d’intelligence artificielle (SIA) de prédiction quant aux risques d’échecs et d’abandons de parcours et aux chances de réussite académique, sans compter sur les robots conversationnels déployés pour utilisation par les étudiantes et étudiants dans les cégeps », souligne Mario Beauchemin, vice-président de la CSQ.

Pour un cadre de référence

Dans un contexte de développement extrêmement rapide des technologies, il est essentiel d’encadrer et de réglementer le développement et le déploiement de l’IA pour une utilisation responsable et éthique.

« Nous avons besoin d’un encadrement légal et réglementaire afin d’éviter des dérives potentielles dans le milieu de l’éducation. Pour que l’éducation et l’enseignement supérieur puissent continuer de bien remplir leur mission éducative et sociale, un encadrement des systèmes d’intelligence artificielle à la fois démocratique et coconstruit s’impose », affirme le vice-président de la CSQ.

Pour la participation du personnel

Afin de s’assurer d’une utilisation responsable et éthique des systèmes d’intelligence artificielle, nous sommes convaincus que des espaces de concertation et d’échanges, de même que des formations, doivent être mis en place dans les milieux. Ils seront des remparts contre les biais et les discriminations ainsi que pour contrer les dérives qui pourraient survenir. Ces espaces seront également garants d’un processus démocratique s’appuyant sur la cogouvernance pour le suivi des SIA et la réalisation d’audits dans les milieux.

« L’engagement et la participation du personnel des différents établissements, tant au secteur scolaire qu’en enseignement supérieur, est, à notre avis, un incontournable pour éviter les dérives qui pourraient survenir », termine M. Beauchemin.

On peut consulter l’avis et l’ensemble des recommandations de la CSQ ici.