Pour lire l’intégral du mémoire.

Rappelons l’objet de cette consultation

Nous (Le Commissariat) examinons l’intelligence artificielle (IA) dans le contexte de ces travaux en lien en particulier avec la Loi sur la protection des renseignements personnels et les documents électroniques (LPRPDE). Nous sommes d’avis que la LPRPDE est inadéquate en ce qui concerne son application aux systèmes d’IA et nous avons relevé plusieurs domaines dans lesquels la LPRPDE pourrait être renforcée .

Le Commissariat désire donc : […] valider sa compréhension de la façon dont les principes de protection de la vie privée devraient s’appliquer à l’élaboration et au déploiement des systèmes d’IA et déterminer si ses propositions sont compatibles avec la conception et le déploiement responsables de ces systèmes.

Contexte

(...)

La reconnaissance faciale offre un bel exemple des risques que présente le développement incontrôlé et chaotique de systèmes basés sur l’IA. Certains corps policiers utilisent ou auraient déjà utilisé cette technologie au pays, tandis que d’autres refusent de dire s’ils en font usage[4]. Les photos utilisées pour mettre au point l’une de ces applications proviendraient des réseaux sociaux. La reconnaissance faciale servirait aussi dans certains centres commerciaux à des fins de marketing. La commercialisation de cette technologie pourrait s’étendre bientôt à d’autres secteurs.

(...)

Cela dit, les enjeux entourant l’IA vont bien au-delà de la question de la vie privée. L’érosion des logiques collectives est aussi en cause. L’enfermement algorithmique mine le droit à l’information et la capacité de mener des débats publics éclairés. La « quantification de soi » et autres capteurs de données personnelles peuvent remettre en cause les principes de mutualisation (en assurances notamment) et de solidarité sociale. La surveillance de masse porte aussi atteinte à la vie démocratique.

Nous sommes d’avis que ces enjeux doivent faire l’objet de débats publics en posant les questions suivantes :

– Qui peut utiliser l’IA ?

– À quelles fins ?

– Dans quelles conditions ?

– Quelles garanties s’imposent en termes de publicité, de reddition de comptes et de responsabilité dans l’usage de ces algorithmes et technologies impliquant l’IA ?

Par ailleurs il appartient à l’État, au terme de ces débats, de fixer les limites et de définir les responsabilités assurant une protection véritable de la vie privée et des autres droits fondamentaux.

(...)

Finalement, l’IA soulève des enjeux qui dépassent largement la portée de la LPRPDE, notamment des problèmes relatifs au droit d’auteur et au droit à l’information. Qui plus est, les géants du Web rachètent de plus en plus de start-up, acquérant du coup les données personnelles de leurs usagers et usagères : en 2016, Microsoft acquiert Linkedln, héritant de ce fait des historiques d’emploi de millions de travailleurs et travailleuses. Google vient de se porter acquéreur de Fitbit, qui possède de nombreuses données personnelles liées à la santé, la nutrition et la pratique sportive des utilisateurs et utilisatrices. La concentration effarante de données personnelles entre les mains de quelques joueurs devrait faire l’objet d’un examen sous l’angle des lois antitrust.

Comme le recommandait récemment le rapport Yale :

L’examen des répercussions de l’utilisation de mégadonnées commande une approche multidimensionnelle et globale afin d’assurer l’élaboration de cadres législatifs et réglementaires exhaustifs. L’ensemble des autorités réglementaires sont concernées et doivent rapidement agir de concert. Au minimum Statistique Canada, le CRTC, le Commissariat à la protection de la vie privée et le Bureau de la concurrence devraient agir afin de développer un cadre de réglementation holistique capable de rendre compte des multiples dimensions associées à l’activité des entreprises impliquées dans l’usage et la valorisation des mégadonnées.