Interventions sur "algorithme"

115 interventions trouvées.

Photo de Pascal SavoldelliPascal Savoldelli, rapporteur :

Cette audition tombe à point nommé : vos réponses aux questions que nous avons fait parvenir et à celles que nous allons vous poser représentent une étape importante de notre travail autour des travailleurs des plateformes, de leur liberté et de leur accès aux « boîtes noires » que sont trop souvent les algorithmes en cause. Pouvez-vous d'ores et déjà nous présenter vos réflexions au regard des questions que nous vous avons adressées ?

Photo de Pascal SavoldelliPascal Savoldelli, rapporteur :

Vous avez évoqué le principe de finalité qui s'impose aux algorithmes. Selon vous, qu'il s'agisse de la reconnaissance faciale, de la géolocalisation ou de la vidéosurveillance, ces usages sont-ils proportionnels à la finalité recherchée par les acteurs économiques qui les utilisent ? Font-ils l'objet de plaintes, en dépit des difficultés à faire reconnaître ses droits ? Le principe de vigilance ne permettrait-il pas d'accorder aux data scientists des prérogative...

Photo de Olivier JacquinOlivier Jacquin :

À vous entendre, je n'ai pas le sentiment que les plateformes de travail, par exemple dans le domaine du transport, soient complètement dans les clous par rapport aux dispositions du RGPD. Pourriez-vous être un peu plus précis sur ce point ? Au-delà du secret des affaires, imaginez que le Parlement donne à la CNIL la possibilité réglementaire de tester et de certifier des algorithmes, dans le but de protéger les données des travailleurs. Si la CNIL disposait des moyens pour y procéder, saurait-elle tester les algorithmes en amont de leur utilisation, les certifier et appréhender leurs effets ? L'usage de données licites entraîne parfois des effets illicites - cela s'appelle, en droit, le principe de loyauté. Il faudrait cependant que le Parlement donne à la CNIL des moyens p...

Photo de Pascal SavoldelliPascal Savoldelli, rapporteur :

Je veux relayer une question de Mme la présidente de la mission d'information. Les acteurs des plateformes vous sollicitent-ils, vous demandent-ils des conseils, des vérifications ? J'ai beaucoup apprécié que vous parliez, pour les algorithmes, d'une chaîne de responsabilités. C'est un élément important pour notre mission. Cela implique qu'il y ait un superviseur et que l'algorithme organise une relation contractuelle. Nous avons constaté que soit les initiateurs de ces plateformes, soit ceux qui travaillent sur ces dernières ont été confrontés à un rapport social sans relations, ce qui n'est pas conforme à notre modèle économique t...

Photo de Pascal SavoldelliPascal Savoldelli, rapporteur :

...larial, nous nous interrogeons sur l'absence de statut. Nous posons la question directement : qu'est-ce qui lie le travailleur à la plateforme de travail ? Quelles sont, également, les conséquences de ce développement de l'auto-entreprenariat sur les rémunérations ? La plupart des auto-entrepreneurs toucheraient moins que le SMIC, est-ce vrai ? Comment se passe concrètement la gestion par les algorithmes, en particulier le dialogue social ? Quelles sont les différences entre ces relations de travail et celles qui existent avec les sociétés d'intérim ? L'algorithme est le moyen reconnu de subordination. Comment fonctionne-t-il, quels sont les critères principaux de son fonctionnement pour atteindre vos objectifs ? Un seul algorithme est-il utilisé pour gérer les commandes et le personnel ? Co...

Photo de Pascal SavoldelliPascal Savoldelli, rapporteur :

Je vous remercie mais je demeure dans le flou : vos réponses me paraissent confondre les données personnelles et les données professionnelles, alors qu'elles ne se recouvrent pas. L'algorithme manie des éléments qui peuvent relever de la loi, c'est pourquoi nous devons travailler ensemble, pour parvenir - vous parlez de transparence - à une transparence des responsabilités, de la chaîne des responsabilités. Vous dites que la réglementation européenne est claire. Je n'en suis pas si certain, en particulier sur l'usage de l'intelligence artificielle. La Commission européenne distingue ...

Photo de Pascal SavoldelliPascal Savoldelli, rapporteur :

Il y a de la passion sur la fin de votre intervention. C'est aux travailleurs d'organiser l'expression sociale de leur statut, de leur protection sociale, de leur contrat et de leur travail. Pour ma part, j'ai vu des travailleurs renvoyés à une totale solitude face à un outil de management qui s'appelle l'algorithme. Dans votre rapport, vous avez fait 15 recommandations. J'ai particulièrement noté la recommandation n°12 sur la protection des droits et libertés numériques des travailleurs. Je voudrai voir avec vous comment pourraient être traduites sur le plan législatif, trois types de problématiques sur la portabilité des données personnelles, sur les décisions prises par les algorithmes et sur l'explicabil...

Photo de Agnès CanayerAgnès Canayer :

Cet amendement tend à préciser les modalités et les critères de déploiement des programmes de recherche ayant recours aux algorithmes. Il nous paraît satisfait par l’article L. 851-3 du code de la sécurité intérieure, qui prévoit que la CNCTR émet un avis sur la demande d’autorisation relative au traitement automatisé et sur les paramètres de détection retenus. L’avis est défavorable.

Photo de Jean-Yves LeconteJean-Yves Leconte :

Pas tout à fait, monsieur le président : une fois n’est pas coutume, c’est le texte de la commission qui prévoit la remise par le Gouvernement d’un rapport au Parlement ! Nous le savons, ce n’est pas parce qu’une mesure est prévue par la loi qu’elle est mise en œuvre. Ainsi, alors que nous sommes en train d’examiner le présent projet de loi, nous attendons toujours le rapport sur les algorithmes. C’est la raison pour laquelle nous avons déposé les amendements n° 59 et 58. Le premier vise à prévoir la remise au Parlement d’un rapport d’étape afin que nous soyons assurés de disposer au moins de quelques informations avant la fin de l’expérimentation. Le second tend à préciser un certain nombre de points que nous souhaitons voir explicitement figurer dans le rapport qui est prévu – je l...

Photo de Agnès CanayerAgnès Canayer :

L’amendement n° 76 de Mme Benbassa tend à prévoir la remise par le Gouvernement d’un rapport au Parlement sous peine de suspension de l’expérimentation. Le Sénat n’est pas favorable, vous le savez, aux demandes de rapports. Les députés en ont prévu un dans le cadre de cette expérimentation, mais les rapports ne sont pas effectifs : on attend toujours celui sur les algorithmes – vous l’avez fait remarquer, chère collègue. Nous comprenons la logique de l’amendement. Cependant, un rapport est peu contraignant. En outre, un rapport purement formel ne nous permettrait pas d’exercer un véritable contrôle et d’atteindre l’objectif que vous évoquez. La commission émet donc un avis défavorable sur cet amendement. De même, elle émet un avis défavorable à la demande d’un rap...

Photo de Nathalie GouletNathalie Goulet :

Madame la ministre, je suis absolument de l’avis de la commission et du Gouvernement sur le sujet du contrôle, mais il faut tout de même que le Parlement puisse exercer ses droits. Or ce dernier ne parvient pas toujours à obtenir des réponses à ses questions, le Gouvernement ne répondant pas ses demandes. Ainsi, le rapport sur l’expérimentation des algorithmes nous sera remis après notre débat d’aujourd’hui ! Par conséquent, nous souhaitons que le Gouvernement s’engage à apporter des réponses aux questions du Sénat, qu’il s’agisse de celles de la délégation parlementaire au renseignement, de celles de la commission des affaires étrangères, de la défense et des forces armées ou de celles de la commission des finances. Le caractère aléatoire des répons...

Photo de Pierre LaurentPierre Laurent :

...’expérimentation des « boîtes noires » jusqu’au 31 décembre 2021 et prévoyait la transmission aux parlementaires, avant le 30 juin 2021, d’un rapport gouvernemental sur l’application de cette disposition. Cette date est arrivée, mais nous sommes au regret de constater l’absence d’évaluation précise et détaillée de ces mesures : aucun chiffre, aucun bilan, positif ou négatif, de l’utilisation des algorithmes contenus dans ces « boîtes noires » ne nous a été communiqué. Ainsi, le rôle du Parlement est une nouvelle fois entravé. Cet article pérennise, de manière tacite, l’utilisation de ces « boîtes noires », auxquelles nous sommes opposés. En outre, ce dispositif, couplé à l’article 13, qui étend aux URL le champ du contrôle des algorithmes, nourrit le projet d’une société de la surveillance, en dép...

Photo de Esther BenbassaEsther Benbassa :

...onnées à caractère personnel. La CNIL le rappelle, une telle technique porte une atteinte particulièrement forte à la vie privée des individus et au droit à la protection des données à caractère personnel. Elle dénonce le caractère généralisé, à l’ensemble de la population, de cette pratique. Par ailleurs, de tels dispositifs sont techniquement faillibles ; en outre, les biais de conception des algorithmes ont des effets pervers relevés par les experts et bien documentés. Enfin, en l’état, l’étude d’impact ne permet pas de conclure à la nécessité de pérenniser le dispositif – le Conseil d’État le relève également –, car elle comporte très peu d’indications sur la mesure de l’efficacité opérationnelle de la technique couverte par le secret de la défense nationale. Dès lors, il est à craindre que ...

Photo de Agnès CanayerAgnès Canayer :

La commission est opposée à la suppression des algorithmes et donc favorable à leur pérennisation. Nous regrettons également que le rapport prévu n’ait pas été remis à temps, car il aurait permis d’éclairer nos travaux. Néanmoins, de nombreux contrôles sont conduits sur cette technique couverte par le secret-défense. La délégation parlementaire au renseignement a fait son travail ; la CNCTR exerce un contrôle permanent sur les algorithmes, lesquels ne ...

Photo de Nathalie GouletNathalie Goulet :

Je ne voterai pas les amendements de suppression, parce que j’ai lu avec attention le rapport de la CNCTR. Néanmoins, madame la ministre, j’ai interrogé, lors de la discussion générale, votre collègue, Mme Schiappa, sur les algorithmes, notamment sur le contrat avec Palantir, la société américaine avec laquelle la direction générale de la sécurité intérieure (DGSI) a renouvelé un contrat. L’examen de l’article 12 me donne l’occasion de vous interroger à votre tour, madame la ministre. J’aimerais avoir une réponse du Gouvernement sur ce sujet, car si les algorithmes sont extrêmement importants, il s’agit néanmoins d’outils de ...

Photo de Esther BenbassaEsther Benbassa :

...rait ainsi connaître l’orientation sexuelle ou l’état de santé d’une personne, par exemple. Selon elle, une telle extension aurait dû être précédée d’une phase expérimentale, mais elle n’a pas été suivie, sur ce point, par le Gouvernement. Le Syndicat de la magistrature a également alerté le Parlement sur la mise en place de ce système d’investigation : « l’extension des données traitées par les algorithmes, qui jusqu’ici ne concernaient que les données de trafic et de connexion de téléphonie, aux adresses complètes internet met en place un domaine nouveau d’investigation, plus attentatoire à la protection de la vie privée et des données personnelles. » Plus généralement, le groupe Écologiste – Solidarité et Territoires exprime des craintes sur les risques de surveillance généralisée de la populat...

Photo de Agnès CanayerAgnès Canayer :

La commission est opposée à la suppression de l’extension des algorithmes aux URL. Certes, nous avons encore un certain nombre d’interrogations et nous disposons de peu de recul et de visibilité sur l’application de cette technique aux données mixtes, entre données de connexion et données de contenu, que sont les URL. Certes, cette technique est un peu plus intrusive dans la vie privée. C’est pour cela que nous souhaitons que le recueil des URL se fasse à titre expé...

Photo de Esther BenbassaEsther Benbassa :

Mais enfin, nous sommes au Parlement, nous avons tout de même le droit de débattre, même si cela vous fatigue ! Madame la ministre, je suis étonnée de la manière dont vous parlez de la collecte des URL et des algorithmes. Imaginez-vous les dégâts que provoquera cette expérimentation de quatre ans ! Toutes les lois que vous faites, sur des sujets de plus en plus techniques, n’ont pas permis d’endiguer le problème du terrorisme ! Je ne sais pas quel est le but du présent texte, qui est quelque peu cosmétique. Il a été réécrit en commission ; tout est prêt, le Sénat demeure silencieux parce que tout a déjà été fait...

Photo de Jean-Yves LeconteJean-Yves Leconte :

...rait paradoxal de s’y opposer totalement, car cela reviendrait à accepter qu’Amazon le fasse tout en empêchant l’État de le faire de manière encadrée. En outre, je ne suis pas certain que, selon la manière dont on se connecte, que cette donnée soit si facilement détectable. Cela dit, une URL est un lien hypertexte. Elle peut être considérée comme une donnée de connexion, et nous comprenons que l’algorithme travaille sur les données de connexion, mais elle peut également être intégrée au contenu d’une correspondance ou d’un SMS, non comme donnée de connexion, mais dans le cœur du message ou d’une page. Dans ce cas, il faut considérer que ce n’est pas une donnée de connexion. C’est la raison pour laquelle nous présentons cet amendement de précision, qui vise à empêcher l’exploitation des données des...

Photo de Agnès CanayerAgnès Canayer :

Cet amendement ayant été déposé tardivement, il n’a pu être examiné par la commission des lois. Néanmoins, il est contraire à la position de cette dernière puisqu’il vise à supprimer le caractère expérimental du traitement algorithmique des URL. Je rappelle que, en aucun cas, nous ne remettons en cause la technique des algorithmes, que nous avons pérennisée. Toutefois, nous nous posons un certain nombre de questions sur l’extension aux URL qui sont des données mixtes, dont le traitement pourrait porter une atteinte plus importante aux libertés individuelles. La DPR avait été particulièrement claire sur ce point. Le renforcement des garanties prévues par cet article, qui ne fait que retranscrire l’existant, est nécessaire...