La réglementation de la reconnaissance faciale apparaît comme un désaccord clé entre les plus grandes entreprises technologiques du monde, le PDG d’Alphabet et de Google Sundar Pichai suggérant qu’une interdiction temporaire, comme l’a récemment suggéré l’UE, pourrait être la bienvenue, tandis que le directeur juridique de Microsoft Brad Smith met en garde contre une telle intervention.

« Je pense qu’il est important que les gouvernements et les réglementations s’y attaquent plus tôt que tard et donnent un cadre pour cela », a déclaré Pichai lors d’une conférence à Bruxelles lundi, rapporte Reuters. « Cela peut être immédiat mais peut-être qu’il y a une période d’attente avant que nous réfléchissions vraiment à la façon dont il est utilisé (…). C’est aux gouvernements de tracer la voie. »

Mais dans une interview publiée la semaine dernière, Smith, qui est également le directeur juridique de Microsoft, a été dédaigneux de l’idée d’un moratoire.

« Ecoutez, vous pouvez essayer de résoudre un problème avec un couperet à viande ou un scalpel », a déclaré Smith à NPR lorsqu’il a été interrogé sur une interdiction potentielle. « Et, vous savez, si vous pouvez résoudre le problème d’une manière qui permet aux bonnes choses d’être faites et aux mauvaises choses d’arrêter de se produire … cela nécessite un scalpel. C’est une technologie jeune. Elle va s’améliorer. Mais la seule façon de la rendre meilleure est de continuer à la développer. Et la seule façon de continuer à la développer en fait est d’avoir plus de gens qui l’utilisent. »

Les commentaires des deux dirigeants interviennent alors que l’UE envisage une interdiction de cinq ans de l’utilisation de la reconnaissance faciale dans les espaces publics. La proposition de l’UE, qui a été divulguée à la presse la semaine dernière et pourrait changer lorsqu’elle sera annoncée officiellement, indique qu’une interdiction temporaire donnerait aux gouvernements et aux régulateurs le temps d’évaluer les dangers de la technologie.

Dans le monde entier, les forces de l’ordre et les entreprises privées utilisent de plus en plus la reconnaissance faciale pour identifier les personnes dans les espaces publics. Alors que les partisans affirment que la technologie aide à résoudre les crimes, les critiques disent que son adoption incontrôlée porte atteinte aux libertés civiles et conduit à une discrimination accrue en raison des préjugés algorithmiques.

La reconnaissance faciale est une technologie clé utilisée par l’État chinois dans la répression de sa minorité musulmane ouïgoure, par exemple, et le pays vend la même technologie à d’autres régimes répressifs dans le monde. Aux États-Unis, cette technologie est de plus en plus utilisée par la police par l’intermédiaire de petits sous-traitants. Un récent rapport du New York Times a fait la lumière sur un système de reconnaissance faciale qui peut rechercher 3 milliards de photos raclées sur des sites web comme Facebook sans le consentement des utilisateurs, et qui est utilisé par plus de 600 agences locales d’application de la loi.

Les commentaires de Pichai cette semaine sont particulièrement dignes d’intérêt car Google lui-même refuse de vendre la reconnaissance faciale à ses clients (citant des craintes d’utilisation abusive et de surveillance de masse) mais n’a pas précédemment plaidé pour une interdiction. Écrivant dans un éditorial pour le Financial Times lundi, Pichai a plaidé pour une plus grande réglementation de l’intelligence artificielle.

« Il ne fait aucun doute dans mon esprit que l’intelligence artificielle doit être réglementée », a-t-il écrit. « Des entreprises comme la nôtre ne peuvent pas simplement construire une nouvelle technologie prometteuse et laisser les forces du marché décider de la façon dont elle sera utilisée. »

Pour l’instant, c’est bien le marché qui dicte les règles, les grandes entreprises technologiques adoptant des positions différentes sur la question. Microsoft vend de la reconnaissance faciale mais s’est imposé des limites, par exemple, en laissant la police utiliser la technologie dans les prisons mais pas dans la rue, et en ne vendant pas aux services d’immigration. Amazon s’est empressé d’établir des partenariats avec la police, notamment par le biais de ses sonnettes vidéo Ring, qui, selon les critiques, donnent aux forces de l’ordre l’accès à un réseau de surveillance massif alimenté par la foule.

Aux États-Unis, du moins, il semble peu probable qu’une interdiction à l’échelle nationale puisse être introduite. Certaines villes américaines comme San Francisco et Berkley ont indépendamment interdit la technologie, mais la Maison Blanche a cité de telles mesures comme des exemples d’excès de réglementation. Le gouvernement a indiqué qu’il souhaitait adopter une approche non interventionniste de la réglementation de l’IA, y compris la reconnaissance faciale, au nom de la stimulation de l’innovation.