Face aux risques croissants liés au développement de l’intelligence artificielle (IA), l’Australie entend renforcer considérablement la surveillance des entreprises technologiques. Le Premier ministre, Anthony Albanese, a annoncé, ce mardi 10 novembre, l’instauration de nouvelles obligations de sécurité auxquelles devront se conformer les sociétés spécialisées dans les modèles d’IA les plus avancés. Une nouvelle autorité de régulation sera également créée pour contrôler le respect de ces dispositions.

Canberra souhaite imposer aux entreprises une obligation de signalement rapide des incidents de sécurité ainsi que des évaluations indépendantes de leurs modèles d’IA. Les sociétés devront également mettre en place des mécanismes permettant d’identifier, de prévenir et de gérer les risques liés au développement et au déploiement de ces technologies. «Notre tâche consiste à faire en sorte que nous façonnions l’intelligence artificielle, plutôt que l’intelligence artificielle nous façonne», a déclaré Anthony Albanese devant la presse.

Le chef du gouvernement australien a toutefois insisté sur la nécessité de ne pas freiner l'innovation. «On ne peut pas l’éteindre et prétendre qu’elle n’existe pas. Mais ce que nous pouvons faire, c’est veiller à ce qu’elle soit développée dans l’intérêt de l’Australie», a-t-il ajouté.

Un contrôle renforcé des entreprises

Le nouveau dispositif prévoit plusieurs obligations pour les entreprises concernées. Elles devront notamment maintenir des contrôles de sécurité à toutes les étapes du développement de leurs modèles, publier des cadres de gestion des risques et accepter des évaluations réalisées par des organismes indépendants. Les incidents susceptibles de compromettre la sécurité devront être signalés rapidement aux autorités australiennes. Un régulateur spécialisé sera chargé de superviser l'application de ces règles et pourra imposer des sanctions financières importantes aux entreprises qui ne les respecteraient pas.

Le ministre de la Défense, Richard Marles, estime que les sociétés spécialisées dans l'IA doivent accepter davantage de contrôles extérieurs. «Il faut une meilleure gestion des risques liés aux capacités de l'intelligence artificielle», a-t-il souligné, insistant sur l'importance d'une évaluation indépendante des modèles.

L'affaire OpenAI en toile de fond

Cette initiative intervient après un incident impliquant un prototype d'intelligence artificielle d'OpenAI. En juin, un agent automatisé aurait réussi à contourner certaines restrictions pour accéder à une partie d'un portail gouvernemental australien consacré aux statistiques sanitaires. L'entreprise n'aurait informé les autorités qu'en septembre. Selon les conclusions communiquées par OpenAI, aucune preuve ne démontre toutefois que des dossiers médicaux de patients aient été consultés.

Pour Canberra, cet épisode illustre les dangers potentiels d'une technologie qui évolue rapidement. L'Australie souhaite ainsi profiter des opportunités économiques de l’IA tout en protégeant sa population et ses infrastructures sensibles. Le gouvernement prévoit d'inscrire ces nouvelles garanties dans une législation sur les normes de l'IA, qui sera présentée au Parlement l'année prochaine.