Interventions sur "algorithme"

87 interventions trouvées.

Photo de Jacques GrosperrinJacques Grosperrin :

Notre commission travaille depuis six mois sur les algorithmes locaux de Parcoursup, qui sont utilisés par certaines commissions d'examen des voeux pour établir un pré-classement des dossiers. Quelle est votre appréciation sur le régime dérogatoire actuellement en vigueur pour ces algorithmes ? Que diriez-vous si le législateur décidait d'y mettre fin et de revenir au régime de droit commun ?

Photo de Pierre OuzouliasPierre Ouzoulias :

...e, ou comme celle du Défenseur des droits, pour rappeler certains principes fondamentaux. Même si le ministère communique peu, la pratique montre que le traitement des données se fait en deux temps. Il y a d'abord un pré-classement, qui s'apparente à du profilage au sens du RGPD, et c'est ensuite que vient l'intervention humaine, mais celle-ci ne peut pas concerner la totalité des dossiers. Les algorithmes locaux peuvent donc écarter à eux seuls certains dossiers. Il faudrait avoir accès aux traitements mis en place par les établissements, mais c'est à peu près impossible. Les établissements d'enseignement supérieur ont-ils réalisé les études d'impact sur la protection des données ? Que révèlent ces études ? Il y des logiciels de traitement de l'information liés à l'éducation. Vous parlez de ter...

Photo de Jacques GrosperrinJacques Grosperrin, rapporteur :

À la demande de notre présidente, je mène depuis plusieurs mois un travail de suivi de la loi relative à l'orientation et à la réussite des étudiants (ORE) que nous avons votée voilà un peu moins de dix-huit mois. Cette mission de suivi a porté très spécifiquement sur la question des algorithmes utilisés dans le cadre de la plateforme Parcoursup. Nous avons mené de nombreuses auditions particulièrement intéressantes, certaines en commission plénière, d'autres en plus petit comité, mais toujours ouvertes à l'ensemble de nos commissaires. Je tenais à remercier ceux d'entre vous qui m'ont accompagné et qui ont partagé leurs réflexions. Je fais un salut tout particulier à Pierre Ouzoulias ...

Photo de Pierre OuzouliasPierre Ouzoulias :

J'ajouterai la Commission européenne, que j'avais saisie sur cette question, à la liste des institutions ayant demandé la publication des algorithmes locaux. Il ne manque que l'ONU : laissez-moi un peu de temps et nous y arriverons. (Sourires.) M. Dardel, qui est le seul à avoir présenté la totalité de ces algorithmes, nous a dit très clairement que cette transparence n'influençait en rien la façon dont les étudiants s'inscrivaient dans sa filière. Au contraire, il pourrait s'agir d'un élément d'attractivité, les étudiants allant plus facile...

Photo de Stéphane PiednoirStéphane Piednoir :

Je partage le souci de transparence souligné par Jacques Grosperrin et Pierre Ouzoulias. Toutefois, pousser le raisonnement à l'excès pourrait déboucher sur une forme d'automaticité. Jacques Grosperrin a donné une définition des algorithmes tout à fait correcte. Tous ceux qui ont participé à des jurys savent que des éléments non écrits peuvent être pris en compte pour l'évaluation d'une candidature. Attention à ne pas aller vers un système entièrement automatisé dans lequel le classement deviendrait opposable par le candidat. Je suis d'accord pour une diffusion très large des critères. Il me semble tout à fait normal de préciser ...

Photo de Sylvie RobertSylvie Robert :

Notre commission compte de grands spécialistes de Parcoursup et des algorithmes. Lors de l'examen de la loi ORE, les réponses de la ministre avaient entretenu une forme de confusion qui nous avait mis dans une situation extrêmement délicate. Je veux vraiment remercier le rapporteur pour son travail qui a permis de clarifier ces questions. Les réponses du Gouvernement étaient alors toujours les mêmes : il n'y a pas de sujet. Je vous remercie donc d'en avoir fait un vrai suje...

Photo de Jacques GrosperrinJacques Grosperrin, rapporteur :

...tte partie « humaine » de la délibération du jury et il faut aussi s'assurer de laisser la main aux jurys sur les dossiers atypiques. Lors de l'examen de la loi ORE, j'avais expliqué à la ministre que l'avis de la commission sur l'amendement du Gouvernement était plutôt défavorable. Je lui avais alors demandé des informations complémentaires, en particulier sur la question de la transparence des algorithmes locaux. Elle m'avait répondu textuellement : « La publication des algorithmes est inscrite dans la loi : ce n'est pas le sujet ici. » J'avais finalement émis un avis favorable sur l'amendement. Il s'agissait alors de répondre à une urgence et de rassurer les futurs étudiants. Aujourd'hui, nous ne pouvons plus accepter cette réponse. Comme vous l'avez souligné, madame Robert, on ne peut plus acc...

Photo de Patrick ChaizePatrick Chaize :

Dialoguez-vous actuellement avec l'Arcep ? Par ailleurs, vous considérez-vous propriétaires des données de vos utilisateurs ? Enfin, pourriez-vous accorder l'accès aux algorithmes que vous utilisez aux Autorités de régulation ?

Photo de André GattolinAndré Gattolin :

Regardez LinkedIn qui adresse régulièrement à ses membres un rapport sur les personnes qui ont consulté leur profil ! J'arrive ainsi à savoir, en fonction de mes interventions, s'il s'agit de scientifiques ou d'une administration, étrangère ou non. C'est instructif. En matière d'algorithmes, la question des biais est particulièrement intéressante. En informatique, on procède à de la rétro-ingénierie, remontant au code source pour comprendre les failles Ceci a-t-il un sens s'agissant des algorithmes d'apprentissage profond ? Je fais d'ailleurs le lien avec le développement des super-calculateurs : si un algorithme devenait tout-puissant dans un domaine sensible, comme la santé, sou...

Photo de Viviane ArtigalasViviane Artigalas :

Le traitement des données et ce qui peut en être tiré m'apparaissent également importants. On imagine bien comment, à un moment donné, des algorithmes de traitement des données, s'ils tombent dans de mauvaises mains, peuvent volontairement déboucher sur de la manipulation ou de la discrimination, positive ou négative. Comment faire pour prévenir les difficultés qui peuvent survenir dans le traitement des données ? Grâce aux évolutions technologiques, celles-ci vont être traitées dans un nombre sans cesse croissant de lieux. C'est l'absence de...

Photo de Jérôme BignonJérôme Bignon, sénateur :

J'ai longtemps été avocat, et je frissonne à cette perspective de justice algorithmique. En réalité, les avocats compilent déjà aujourd'hui les données pour cerner la règle de droit issue de la jurisprudence, ce qui prend du temps. On peut aujourd'hui interroger les bases de données pour consulter toutes les décisions rendues. Il est différent de considérer que ce serait l'algorithme qui dirait le droit à la place du magistrat. Peut-être est-il possible de simplifier quelques tâches répétitives, mais le fondement de la liberté humaine, c'est-à-dire le fait de pouvoir être jugé par des juges équitables et impartiaux, serait menacé par une justice totalement rendue par un algorithme, fût-il sous le contrôle d'un magistrat. J'ai confiance dans les algorithmes, mais jusqu'à un ce...

Photo de Jacques GrosperrinJacques Grosperrin :

...ations n'ont pas eu recours à un traitement tout-automatisé ? Dans les formations ayant eu à traiter un très grand nombre de candidatures il me paraît évident qu'un certain nombre de dossiers (les moins bons et les meilleurs probablement) ont fait l'objet d'un traitement purement automatisé, sans aucune intervention humaine ... L'argument majeur du Gouvernement pour refuser la communication des algorithmes locaux est la protection du secret des délibérations du jury. Cet argument vous semble-t-il recevable ? La définition des critères (quelles notes, quelle pondération) qui seront utilisés dans les algorithmes locaux vous semble-t-elle relever de la « délibération » du jury ?

Photo de Pierre OuzouliasPierre Ouzoulias :

...jourd'hui, les documents mis en ligne par le ministère de l'enseignement supérieur et de la recherche montrent très bien que dans le traitement des dossiers, il y a deux phases distinctes : une phase « de pré-traitement » où il s'agit de définir des coefficients qui vont permettre de donner une note aux dossiers. Selon ce que l'on comprend du RGPD, il s'agit sans doute d'une forme de profilage, d'algorithmes automatiques sans intervention humaine, à partir de coefficient définis par les enseignants chercheurs. Dans un deuxième temps seulement, il y a une intervention humaine. Si le ministère distingue lui-même une phase de pré-traitement et ensuite une phase d'analyse individuel - ou pas - des dossiers, il serait légitime que nous ayons la possibilité d'avoir des informations aujourd'hui refusées su...

Photo de Mireille JouveMireille Jouve :

Comme la CADA l'a déploré dans son avis du 10 janvier dernier, les dispositions introduites - insidieusement si j'ose dire - par le gouvernement dans le cadre du projet de loi ORE empêchent aujourd'hui la communication des algorithmes locaux qui sont protégés par le secret des délibérations. Le gouvernement avait pourtant à plusieurs reprises assuré à la représentation nationale qu'il n'y aurait aucun obstacle à la publication de tous les algorithmes. Vous évoquez l'instauration d'un régime spécial d'accès par le législateur. Existe-t-il d'autres régimes d'accès en matière d'algorithme, d'autres « brèches » dans la loi pour u...

Photo de Stéphane PiednoirStéphane Piednoir :

Ma question porte sur le décret du 26 mars dernier qui enjoint les établissements de préciser sur la plateforme les critères généraux d'examen des voeux des candidats. Que pensez-vous de ces dispositions ? Cette précision est-elle de nature à lever vos réticences sur l'accès restreint aux algorithmes locaux de Parcoursup ?

Photo de Sylvie RobertSylvie Robert :

... de cette question. D'ailleurs, deux personnes de la CNIL sont venues devant la commission et cela a été extrêmement utile. Je demanderai à la présidente de la CNIL de pouvoir retravailler sur le sujet. Permettez-moi de prendre un peu de distance et d'évoquer la réforme du bac : le choix des spécialités est en train d'influer sur la façon dont un certain nombre d'universités vont préciser leurs algorithmes locaux en fléchant et en profilant déjà les jeunes qui auront choisi telle ou telle spécialité. Se crée une articulation, qui est d'ailleurs heureuse, et nous avions tous indiqué ici qu'il fallait une articulation entre Parcoursup et la réforme du bac. Mais, je ne suis pas certaine que ce soit la bonne articulation. La philosophie de la réforme du bac est intéressante car elle ouvre sur la trans...

Photo de Jean-Raymond HugonetJean-Raymond Hugonet :

...s intéressant de s'occuper de Parcoursup en tant que père, qu'en tant que sénateur, afin de comprendre les affres de ce système. Certes, le tirage au sort n'était pas une solution et nous sommes tous d'accord sur ce point. Ce système est nouveau et demande à être peaufiné. Passer d'un système à un autre n'est jamais simple, mais je pense qu'il y a des marges d'amélioration sur la transparence des algorithmes locaux - des précisions sont nécessaires pour les filières en tension - mais également de manière générale. Il serait intéressant de connaître le regard des jeunes sur ce système. La réunion est close à 10h15.

Photo de André GattolinAndré Gattolin :

Les capacités accrues de calcul des supercalculateurs, peuvent-elles permettre d'obtenir une forme de rétro-ingénierie et de comprendre les modalités d'élaboration d'algorithmes compliqués ?

Photo de Bruno SidoBruno Sido, sénateur :

Ces données doivent servir à établir des statistiques, à construire des algorithmes permettant d'être plus précis et rapides dans les diagnostics par exemple. Pourquoi a-t-on par conséquent besoin de connaître le nom du patient ou de pseudonymiser les données ? Pourquoi ne pas simplement les anonymiser ?

Photo de Gérard LonguetGérard Longuet, sénateur, président de l'Office :

... matin, remplace Cédric Villani que je vous prierai d'excuser. Il est retenu au Japon pour un symposium international en matière d'Intelligence artificielle, et nous sommes fiers de savoir qu'il représente peut-être le Parlement, mais surtout les compétences françaises dans ce domaine. Notre ordre du jour est assez riche puisque nous avons une audition publique sur le bilan du fonctionnement des algorithmes de la plateforme Parcoursup. Nous allons ensuite terminer l'examen de la note scientifique sur les enjeux sanitaires et environnementaux de l'huile de palme que notre collègue, Mme Genetet, avait présentée et qui avait soulevé beaucoup d'intérêt, mais aussi des questions demandant des compléments. Dans notre rapport de l'an dernier, assorti de conclusions sur le portail d'Admission Post-Bac, no...