À l’approche de l’intelligence artificielle « surhumaine », le Canada a besoin de lois maintenant, selon un pionnier de l’IA

[ad_1]

Le gouvernement fédéral doit agir rapidement pour réglementer l’intelligence artificielle, a déclaré un pionnier de l’IA qui prévient que la trajectoire actuelle de la technologie présente des risques sociétaux majeurs.

Yoshua Bengio, surnommé le « parrain » de l’IA, a déclaré lundi aux députés qu’Ottawa devrait mettre en place une loi immédiatement, même si cette législation n’est pas parfaite.

Le directeur scientifique de Mila, l’Institut québécois d’IA, a déclaré qu’une intelligence « surhumaine » aussi intelligente qu’un être humain pourrait être développée au cours des deux prochaines décennies, voire dans les prochaines années.

“Nous ne sommes pas prêts”, a déclaré Bengio.

L’un des risques à court terme de l’IA est l’utilisation de vidéos deepfake pour diffuser de la désinformation, a-t-il déclaré. De telles vidéos utilisent l’IA pour donner l’impression qu’une personnalité publique dit quelque chose qu’elle n’a pas dit ou fait quelque chose qui ne s’est jamais produit.

La technologie peut également être utilisée pour interagir avec les gens par le biais de textes ou de dialogues « d’une manière qui peut tromper un utilisateur des médias sociaux et le faire changer d’avis sur des questions politiques », a déclaré Bengio.

“Il existe de réelles inquiétudes quant à l’utilisation de l’IA à des fins politiques, qui vont à l’encontre des principes de notre démocratie.”

Un écran.
Les systèmes d’intelligence artificielle comme Open AI et ChatGPT font l’objet d’un examen de plus en plus minutieux. (Marco Bertorello/AFP via Getty Images)

Dans un an ou deux, on craint que des systèmes plus avancés ne soient utilisés pour des cyberattaques.

Les systèmes d’IA s’améliorent de plus en plus en matière de programmation.

“Lorsque ces systèmes deviendront suffisamment puissants pour vaincre nos cyberdéfenses actuelles et notre infrastructure numérique industrielle, nous serons en difficulté”, a déclaré Bengio.

“Surtout si ces systèmes tombent entre de mauvaises mains.”

Un projet de loi propose de réglementer les systèmes d’IA

Le comité de l’industrie de la Chambre des communes, où Bengio a témoigné lundi, étudie un projet de loi du gouvernement libéral qui mettrait à jour la loi sur la protection de la vie privée et commencerait à réglementer certains systèmes d’intelligence artificielle.

Le projet de loi, tel qu’il est rédigé, donnerait au gouvernement le temps d’élaborer des réglementations, mais Bengio a déclaré que certaines dispositions devraient entrer en vigueur immédiatement.

“Avec l’approche actuelle, il faudrait environ deux ans avant que l’application de la loi ne soit possible”, a-t-il déclaré.

L’une des premières règles qu’il souhaite voir mises en œuvre est un registre qui exigerait que des systèmes dotés d’un niveau spécifié de capacité fassent rapport au gouvernement.

Bengio a déclaré que cela ferait peser la responsabilité et le coût de la démonstration de la sécurité sur les grandes entreprises technologiques développant ces systèmes, plutôt que sur les contribuables.

Le projet de loi C-27 a été rédigé pour la première fois en 2022 pour cibler ce que l’on appelle les systèmes d’IA « à fort impact ».

Bengio a déclaré que le gouvernement devrait modifier la définition de « à fort impact » dans la législation pour inclure les technologies qui posent des menaces à la sécurité nationale et à la société.

Cela pourrait inclure tous les systèmes d’IA que des acteurs malveillants pourraient utiliser pour concevoir des cyberattaques et des armes dangereuses, ou des systèmes qui trouvent des moyens de s’auto-répliquer malgré les instructions de programmation contraires.

Des systèmes d’IA générative comme ChatGPT, capables de créer du texte, des images et des vidéos, sont apparus pour un usage public généralisé après l’introduction du projet de loi.

Le gouvernement a déclaré qu’il prévoyait de modifier la législation en conséquence.

Les libéraux affirment qu’ils visent à obliger les entreprises à prendre des mesures pour garantir que le contenu qu’elles créent est identifiable comme étant généré par l’IA.

Bengio a déclaré qu’il était “très important de couvrir les systèmes d’IA à usage général, car ce sont aussi ceux qui pourraient être les plus dangereux s’ils sont mal utilisés”.

Catherine Régis, professeure à l’Université de Montréal, a également déclaré lundi lors de la réunion du comité que le gouvernement doit agir de toute urgence, citant les récents « développements fulgurants dans le domaine de l’IA que nous connaissons tous ».

S’exprimant en français, elle a souligné que la réglementation de l’IA est un effort mondial et que le Canada doit déterminer quoi faire au niveau national s’il veut avoir une voix.

“Des décisions seront prises à l’échelle mondiale et auront un impact sur tous les pays”, a-t-elle déclaré.

Établir une vision claire et solide à l’échelle canadienne est « une des conditions essentielles pour jouer un rôle structurant et influent crédible dans la gouvernance mondiale », a-t-elle déclaré.

REGARDER | Le pionnier de l’IA, Yoshua Bengio, partage une préoccupation majeure :

Les deepfakes et autres désinformations figurent en tête de la liste des craintes du pionnier de l’IA, Yoshua Bengio.

Le professeur et informaticien montréalais connu internationalement comme le « parrain » de l’intelligence artificielle partage ses plus grandes préoccupations liées à l’IA pour 2024.

[ad_2]

Source link

Scroll to Top