Interventions sur "algorithme"

76 interventions trouvées.

Photo de Jacques GrosperrinJacques Grosperrin :

...ations n'ont pas eu recours à un traitement tout-automatisé ? Dans les formations ayant eu à traiter un très grand nombre de candidatures il me paraît évident qu'un certain nombre de dossiers (les moins bons et les meilleurs probablement) ont fait l'objet d'un traitement purement automatisé, sans aucune intervention humaine ... L'argument majeur du Gouvernement pour refuser la communication des algorithmes locaux est la protection du secret des délibérations du jury. Cet argument vous semble-t-il recevable ? La définition des critères (quelles notes, quelle pondération) qui seront utilisés dans les algorithmes locaux vous semble-t-elle relever de la « délibération » du jury ?

Photo de Pierre OuzouliasPierre Ouzoulias :

...jourd'hui, les documents mis en ligne par le ministère de l'enseignement supérieur et de la recherche montrent très bien que dans le traitement des dossiers, il y a deux phases distinctes : une phase « de pré-traitement » où il s'agit de définir des coefficients qui vont permettre de donner une note aux dossiers. Selon ce que l'on comprend du RGPD, il s'agit sans doute d'une forme de profilage, d'algorithmes automatiques sans intervention humaine, à partir de coefficient définis par les enseignants chercheurs. Dans un deuxième temps seulement, il y a une intervention humaine. Si le ministère distingue lui-même une phase de pré-traitement et ensuite une phase d'analyse individuel - ou pas - des dossiers, il serait légitime que nous ayons la possibilité d'avoir des informations aujourd'hui refusées su...

Photo de Mireille JouveMireille Jouve :

Comme la CADA l'a déploré dans son avis du 10 janvier dernier, les dispositions introduites - insidieusement si j'ose dire - par le gouvernement dans le cadre du projet de loi ORE empêchent aujourd'hui la communication des algorithmes locaux qui sont protégés par le secret des délibérations. Le gouvernement avait pourtant à plusieurs reprises assuré à la représentation nationale qu'il n'y aurait aucun obstacle à la publication de tous les algorithmes. Vous évoquez l'instauration d'un régime spécial d'accès par le législateur. Existe-t-il d'autres régimes d'accès en matière d'algorithme, d'autres « brèches » dans la loi pour u...

Photo de Stéphane PiednoirStéphane Piednoir :

Ma question porte sur le décret du 26 mars dernier qui enjoint les établissements de préciser sur la plateforme les critères généraux d'examen des voeux des candidats. Que pensez-vous de ces dispositions ? Cette précision est-elle de nature à lever vos réticences sur l'accès restreint aux algorithmes locaux de Parcoursup ?

Photo de Sylvie RobertSylvie Robert :

... de cette question. D'ailleurs, deux personnes de la CNIL sont venues devant la commission et cela a été extrêmement utile. Je demanderai à la présidente de la CNIL de pouvoir retravailler sur le sujet. Permettez-moi de prendre un peu de distance et d'évoquer la réforme du bac : le choix des spécialités est en train d'influer sur la façon dont un certain nombre d'universités vont préciser leurs algorithmes locaux en fléchant et en profilant déjà les jeunes qui auront choisi telle ou telle spécialité. Se crée une articulation, qui est d'ailleurs heureuse, et nous avions tous indiqué ici qu'il fallait une articulation entre Parcoursup et la réforme du bac. Mais, je ne suis pas certaine que ce soit la bonne articulation. La philosophie de la réforme du bac est intéressante car elle ouvre sur la trans...

Photo de Jean-Raymond HugonetJean-Raymond Hugonet :

...s intéressant de s'occuper de Parcoursup en tant que père, qu'en tant que sénateur, afin de comprendre les affres de ce système. Certes, le tirage au sort n'était pas une solution et nous sommes tous d'accord sur ce point. Ce système est nouveau et demande à être peaufiné. Passer d'un système à un autre n'est jamais simple, mais je pense qu'il y a des marges d'amélioration sur la transparence des algorithmes locaux - des précisions sont nécessaires pour les filières en tension - mais également de manière générale. Il serait intéressant de connaître le regard des jeunes sur ce système. La réunion est close à 10h15.

Photo de André GattolinAndré Gattolin :

Les capacités accrues de calcul des supercalculateurs, peuvent-elles permettre d'obtenir une forme de rétro-ingénierie et de comprendre les modalités d'élaboration d'algorithmes compliqués ?

Photo de Bruno SidoBruno Sido, sénateur :

Ces données doivent servir à établir des statistiques, à construire des algorithmes permettant d'être plus précis et rapides dans les diagnostics par exemple. Pourquoi a-t-on par conséquent besoin de connaître le nom du patient ou de pseudonymiser les données ? Pourquoi ne pas simplement les anonymiser ?

Photo de Gérard LonguetGérard Longuet, sénateur, président de l'Office :

... matin, remplace Cédric Villani que je vous prierai d'excuser. Il est retenu au Japon pour un symposium international en matière d'Intelligence artificielle, et nous sommes fiers de savoir qu'il représente peut-être le Parlement, mais surtout les compétences françaises dans ce domaine. Notre ordre du jour est assez riche puisque nous avons une audition publique sur le bilan du fonctionnement des algorithmes de la plateforme Parcoursup. Nous allons ensuite terminer l'examen de la note scientifique sur les enjeux sanitaires et environnementaux de l'huile de palme que notre collègue, Mme Genetet, avait présentée et qui avait soulevé beaucoup d'intérêt, mais aussi des questions demandant des compléments. Dans notre rapport de l'an dernier, assorti de conclusions sur le portail d'Admission Post-Bac, no...

Photo de Bruno SidoBruno Sido, sénateur :

Si j'ai bien compris, vous n'êtes pas les auteurs de cet algorithme. Pouvez-vous nous en dire plus sur l'algorithme utilisé, son auteur, ses finalités ?

Photo de Laure DarcosLaure Darcos, sénatrice :

...e. Je ne sais pas comment cela est possible mais il est très important que les familles passent un été serein, en tout cas le mois d'août, et que la plupart des lycéens puissent connaître leur choix définitif fin juillet. C'est important également pour les classes préparatoires. Notre collègue Pierre Ouzoulias, retenu au Sénat pour un vote, aurait voulu savoir si on va pouvoir rendre publics les algorithmes ou les dispositifs qui ont été mis en place dans les universités.

Photo de Jacques GrosperrinJacques Grosperrin, rapporteur :

...i de votre présence et de vos propos sur le Sénat. Si nous avons des approches différentes, nous avons le souci commun de l'intérêt général des étudiants. Vous l'avez souligné, cette CMP fut l'une des rares à avoir abouti. À l'occasion de l'examen de la loi ORE puis de la loi sur le Règlement général sur la protection des données (RGPD), nous nous étions émus de l'absence de transparence sur les algorithmes - ou les fichiers Excel - éventuellement utilisés par les établissements pour établir le classement des candidatures ; que pouvez-vous nous dire sur l'utilisation effective de tels algorithmes par les établissements en cette première édition de Parcoursup ? Le comité éthique et scientifique a-t-il commencé à travailler sur cette question ? Les candidats à la deuxième édition de Parcoursup auront...

Photo de Sylvie RobertSylvie Robert :

...e démocratique et ne visait qu'à attirer l'attention sur ce qui appelle notre vigilance collective. Les objectifs poursuivis par la réforme étaient le droit à la poursuite de la formation, la réussite - c'est le but du « oui, si » -, et l'arrêt du creusement des disparités sociales. J'espère que le rapport qui sera remis en septembre par le comité de suivi démontrera qu'ils ont été atteints. Les algorithmes locaux, ou outils d'aide à la décision, reposent sur trois types de données : la formation motivée, les résultats académiques, et la fiche Avenir. Membre de la CNIL, je sais que la transparence des outils informatiques nourrit la confiance. Avez-vous regardé de près la pondération de ces trois éléments dans les algorithmes locaux ? Il y va du respect de la loi... À la différence d'APB, Parcour...

Photo de Pierre OuzouliasPierre Ouzoulias :

Nous sommes tous des sénatrices et des sénateurs de la République française, décidés à faire avancer les choses. Ne doutez pas de ma loyauté républicaine, madame la ministre. M. Mahjoubi a tenu à nous rassurer sur les algorithmes locaux, mais l'université de Pau et des pays de l'Adour m'a communiqué le sien, avec le nombre de points associés aux différents éléments contenus dans les dossiers des lycéens : le brevet d'aptitude aux fonctions d'animateur (BAFA), par exemple, contrairement aux assurances que vous me donniez en séance en janvier dernier, en rapporte quinze ! Si l'université de Pau publie son algorithme, pourq...

Photo de Florence LassaradeFlorence Lassarade, sénatrice :

...rect a obtenu le prix de l'innovation et propose ses services de téléconsultation à différentes mutuelles. En souscrivant aux complémentaires-santé partenaires, vous pouvez demander gratuitement l'avis d'un médecin par téléconsultation, mais uniquement par téléphone. Le manque de médecins fait réfléchir à l'utilisation des agents conversationnels (chatbot). Ceux-ci permettront, sans médecin, par algorithme, de faire des diagnostics et d'aller jusqu'à la prescription médicale même si, pour l'instant, on s'arrête à la prescription homéopathique. Je me demande cependant si, même pour des pathologies dites bénignes, on pourra remplacer le médecin. Bien sûr, les logiciels d'aide à la prescription rendent le médecin plus efficace, il y a moins de risques d'erreur. Mais pensez-vous que la suppression comp...

Photo de Sophie JoissainsSophie Joissains, rapporteur :

...s de santé. L'Assemblée nationale a étendu l'objet de l'action de groupe en matière de données personnelles à la réparation des dommages en vue d'obtenir la réparation des préjudices matériels. Les députés ont abaissé à quinze ans l'âge de consentement au traitement des données personnelles, fixé à seize ans dans le projet initial. Certaines décisions administratives individuelles fondées sur des algorithmes sont autorisées. L'importance des conditions de recueil du consentement est réaffirmée, tandis que sont supprimées les dispositions relatives à la portabilité des données, jugées satisfaites par celles, d'application directe, prévues dans le règlement. Les règles applicables au traitement de données à caractère personnel prévues par la directive sont transposées. Le fichier de traitement d'antéc...

Photo de Sophie JoissainsSophie Joissains, rapporteur :

L'amendement COM-60 procède à une réécriture globale de l'article 14 relatif aux décisions prises sur le fondement d'algorithmes. Le projet de loi autorise les décisions administratives individuelles prises sur le seul fondement d'un traitement automatisé des données, jusqu'ici prohibées. Sans méconnaitre les bénéfices liés à l'usage d'algorithmes par l'administration, il convient de l'encadrer strictement. En effet, une décision automatisée risque d'être aveugle à des circonstances particulières de l'espèce ; le recours ...

Photo de Pierre-Yves CollombatPierre-Yves Collombat :

Cet amendement est particulièrement important. Je souscris pleinement à l'intention de notre rapporteur, mais je m'interroge sur les dérogations prévues. En réalité, dans la mesure où une décision administrative peut toujours faire l'objet d'interprétations s'agissant de cas particuliers, ces dérogations à l'interdiction des algorithmes devraient être supprimées.

Photo de Sophie JoissainsSophie Joissains, rapporteur :

L'administration utilise de plus en plus fréquemment les algorithmes. Mon objectif est d'encadrer les plus dangereux, les fameuses « boîtes noires », mais d'autres - je pense à ceux utilisés par l'administration fiscale - ne posent guère de difficulté. Je ne crois pas très crédible de supprimer les dérogations, compte tenu de l'évolution du fonctionnement de nos administrations et du contexte européen.

Photo de Pierre-Yves CollombatPierre-Yves Collombat :

Lorsque les algorithmes ne sont qu'un outil, leur utilisation ne me choque pas. Mais ils ne doivent en aucun cas fonder une décision administrative. Un peu comme dans le métro, il est toujours mieux d'avoir un véritable conducteur à bord !