L’intelligence artificielle (IA) fait déjà partie de la vie quotidienne des consommateurs, mais le terme englobe la technologie actuelle, celle qui est encore en développement, et celle qui appartient à la science-fiction bien qu’il soit raisonnable de penser qu’elle pourrait exister dans nos vies après un certain temps.
L’avènement et le développement de l’IA offrent des possibilités incroyables aux consommateurs et aux entreprises et, comme pour toute innovation, ils apportent également leur part de risques et d’implications à l’autonomie et à l’autodétermination des consommateurs, à leur vie privée, à leur capacité d’interagir avec les produits et services. et enfin, la capacité d’imputer des responsabilités aux fabricants en cas de problème. Les organisations de consommateurs ont une attitude positive envers le changement et l’innovation – c’est certainement le cas de DECO – et veulent enthousiasmer les consommateurs à propos de ce changement. Enthousiasmer les consommateurs exige de garantir certains aspects essentiels et je crois que nous devons agir sur au moins deux domaines : la réglementation et la connaissance.
Lors du dernier Websummit, qui s’est déroulé à Lisbonne, l’un des intervenants a comparé la situation actuelle de l’IA avec le début de la révolution industrielle. À cette époque, l’absence de réglementation nuisait clairement aux entreprises et aux consommateurs et retardait le développement de l’industrie, et c’est pourquoi j’appuie la nécessité de réglementer l’activité pour aider les consommateurs et les professionnels. Les dernières crises économiques et sociales ont incontestablement montré que l’absence ou l’insuffisance de réglementations entravait sérieusement non seulement les consommateurs, mais aussi les professionnels et le développement de l’activité économique dans son ensemble. Je crois qu’il s’agit d’une étape prioritaire afin que les consommateurs puissent faire confiance aux produits et services qui leur sont offerts. Je crois également qu’il est sage de suivre les recommandations de l’OCDE, car elles stipulent que la réglementation de l’IA devrait obéir à cinq principes fondés sur des valeurs : 1. la croissance inclusive, le développement durable et le bien-être; 2. les valeurs et l’équité centrées sur l’humain; 3. la transparence et l’explicitation; 4. Robustesse, sécurité et sûreté; 5. Responsabilisation.
Bien que les derniers développements offrent un certain espoir, la proposition de la Commission européenne sur l’intelligence artificielle (AIA) ne semble pas suivre la voie tracée par l’OCDE, sans parler des revendications légitimes formulées par des organisations de consommateurs telles que le BEUC ou le DECO. Par exemple, la proposition ne garantit pas un niveau élevé de protection des consommateurs, ceux-ci étant en fait exclus du champ d’application du règlement. La proposition ne s’applique pas non plus de façon générale à plusieurs systèmes d’IA (seulement à ceux à risque élevé) et la méthode d’énumération des systèmes d’IA auxquels le règlement proposé s’appliquera ne tiendra pas compte de toutes les applications d’IA futures qui n’ont pas encore été développées. Et si la proposition énonce à juste titre une liste de pratiques interdites, celle-ci est non seulement insuffisante par rapport à ce qui est nécessaire, mais aussi par rapport à ce qui existe déjà – par exemple, il n’y a pas de prévision de dommages économiques. Contrairement à la proposition de la Commission, la réglementation en question doit fournir aux consommateurs les droits et les protections nécessaires pour qu’ils puissent utiliser en toute sécurité les produits et services d’IA. Le règlement devrait également leur fournir les moyens adéquats de réagir à d’éventuels abus et de faire respecter leurs droits .
« Les yeux ne voient pas ce que l’esprit ne sait pas » (Mona Hanna-Attisha). Plus que toute autre technologie, les systèmes d’IA échappent à la compréhension de la plupart des consommateurs, et leurs conséquences peuvent être beaucoup plus graves. Cela signifie que nous devons éduquer et former les consommateurs sur le fonctionnement de l’IA dans les produits et services qu’ils achètent, par exemple en termes de choix et d’information. C’est alors seulement que les consommateurs pourront comprendre les possibilités et les risques découlant de ces nouveaux systèmes. Alors seulement, ils pourront faire des choix conscients, et même libres.
En revenant à la comparaison avec la révolution industrielle : la vérité est là aujourd’hui, les consommateurs sont beaucoup plus protégés qu’à l’époque, non seulement en raison de la législation existante, mais aussi en raison du développement de fortes organisations de consommateurs qui veillent sur leurs droits et en raison de l’existence de moyens de réaction, à savoir des actions collectives. Lorsque la directive sur les actions représentatives (RAD) sera transposée, tous les pays de l’Union européenne disposeront au moins d’un moyen collectif de faire respecter les droits des consommateurs, ce qui est un moyen puissant de faire respecter les droits des consommateurs et de veiller à ce qu’ils soient indemnisés pour les dommages qu’ils subissent. Les organisations de consommateurs ont tendance à considérer ce type de moyens comme un dernier recours, mais l’absence d’un cadre réglementaire robuste et efficace et le manque de transparence au sujet des systèmes d’IA peuvent en faire le seul moyen disponible.
Luís Silveira Rodrigues, President of the Board.
DECO Associação Portuguesa para a Defesa do Consumidor (Association Portugaise pour la protection des consommateurs)
Rua de Artilharia Um 4º, 1269-160 Lisboa – Portugal
Phone: +351213710212 / Email: lrodrigues@deco.pt
[1] OECD, Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449 – https://oecd.ai/en/ai-principles
[2] For more in-depth information see BEUC – REGULATING AI TO PROTECT THE CONSUMER, Position Paper on the AI Act – https://www.beuc.eu/general/artificial-intelligence
[3] Mona Hanna-Attisha – “What the Eyes Don’t See: A Story of Crisis, Resistance, and Hope in an American City” – June 2018
