Les initiatives > Soutien à la recherche > Provence-Alpes-Côte d'Azur
Task Force Covid19
Contexte : Dans la lutte menée par les États et les institutions de santé contre la pandémie Covid-19, les outils numériques font désormais partie intégrante des solutions envisagées pour prévenir la diffusion de l’épidémie. C’est une première dans l’histoire à la fois de la médecine et de la gestion des crises sanitaires.
Objectif : Dans la lutte menée par les États et les institutions de santé contre la pandémie Covid-19, les outils numériques font désormais partie intégrante des solutions envisagées pour prévenir la diffusion de l’épidémie. C’est une première dans l’histoire à la fois de la médecine et de la gestion des crises sanitaires.
C’est ainsi que des « technologies et outils numériques de localisation et suivi des personnes infectées » sont en développement et ne manquent pas de susciter des questions, craintes et prises de position quant à leur pertinence et fiabilité et qu’aux risques qu’ils sont susceptibles de représenter tant pour les libertés individuelles que pour la souveraineté des États membres de l’Union Européenne.
C’est dans ce contexte qu’un collectif de data scientists, ingénieurs et juristes, la Task Force Covid-19 (TFC-19), s’est créé afin de proposer un dispositif techno-normatif encadrant l’usage de ces technologies.
Le dispositif proposé (ci-après désigné « dispositif TFC19 ») repose sur 10 exigences techno-normatives qui constituent, outre son cadre, l’horizon démocratique que doit observer tout dispositif de traitement des données personnelles développé dans le cadre de la gestion de crise sanitaire.
Ces exigences doivent être pensées a priori, dès la conception d’un système technique, et intégrées « by design »,. Elles sont indispensables au respect du droit de la protection des données et des libertés fondamentales.
1. Tout dispositif algorithmique repose sur une démarche volontaire, prévenant et prohibant toute forme de discrimination à l’encontre des personnes qui refuseraient d’y souscrire.
2. Les finalités de la collecte et des traitements sont orientées vers la gestion et sortie de crise ; les données à caractère personnel collectées et exploitées sont restreintes et limitées à cette stricte finalité. La pertinence des traitements se fonde à cet effet sur les décisions des autorités publiques, et/ou les recommandations des autorités sanitaires compétentes.
3. Tout dispositif algorithmique est déployé à titre exceptionnel. Il détermine, en amont de son entrée en application, un critère d’événement calendaire de sortie de crise déterminant la fin du dispositif.
4. La collecte automatique de données de géolocalisation est interdite.
5. Un profilage des individus de type « social », étranger aux finalités du traitement, élaboré à partir des données à caractère personnel qui auraient été collectées, est interdit.
6. Tout dispositif algorithmique est transparent, traçable et auditable.
Les audits algorithmiques reposent conjointement sur :
- Des garanties techniques assurant la transparence du code, et la traçabilité des données comme des usages ;
- Des garanties humaines pour l’usage de chaque outil du dispositif, assurées par des collèges d’évaluation ad hoc.
Ces garanties :
- Assurent la conformité des dispositifs à l’état de droit en général, au respect des finalités identifiées et désignées en particulier ;
- Préviennent et corrigent l’existence ou l’apparition de biais algorithmiques.
7. Tout dispositif algorithmique offre et garantit une stricte anonymisation des données à caractère personnel :
- Totale ou partielle pendant la crise ;
- Irréversible après la crise.
8. Les données sont centralisées sur des serveurs nationaux garantissant la souveraineté numérique de l’Etat.
9. La vente à des tiers des données à caractère personnel collectées par tout dispositif algorithmique est interdite.
10. Tout dispositif algorithmique garantit l’égalité devant le service public ; des solutions alternatives au numérique sont proposées.
Indicateur(s) d’atteinte de ces objectifs : - Participer au débat démocratique sur la question des applications numériques dans le cadre de la gestion et sortie de crise Covid2019
- Proposer un dispositif techno-normatif
Partenaires : Sous la direction scientifique de J.J. ATTIA et C. LEQUESNE ROTH
Aves les contributions de J.J. ATTIA, A. EL BROUDI , J. CAFFIN, J. KELLER, P. LEGROS,
C. LEQUESNE-ROTH, CLAIRE LEVALLOIS-BARTH, J. MARCEAU, T. VERBIEST, S. VILLATA