Le patron d’OpenAI, Sam Altman, estime que le public est en droit de s’inquiéter des risques liés à l’intelligence artificielle (IA), tout en appelant à faire confiance aux entreprises du secteur pour développer cette technologie de manière sûre.

«Le monde devrait nous faire confiance pour faire ce qui est juste, parce que c’est la bonne chose à faire», a déclaré Sam Altman hier, mardi 15 septembre, lors d’une conférence organisée par Salesforce à San Francisco. Il a toutefois reconnu que les inquiétudes autour de l’IA étaient justifiées, compte tenu de la progression rapide de ses capacités.

«Il ne faut plus autant d’imagination qu’avant pour envisager comment cela pourrait mal tourner», a-t-il déclaré, ajoutant que «le monde a raison d’avoir peur».

Ces déclarations interviennent alors que les préoccupations concernant les risques liés à l’IA se sont intensifiées ces derniers jours. Elles font notamment suite aux propos d’un ancien chercheur d’Anthropic, qui a affirmé que l’IA pourrait, si elle n’était pas contrôlée, menacer l’humanité d’ici la fin de la décennie. Plusieurs experts et dirigeants du secteur ont dit partager certaines de ces inquiétudes.

Le patron d’Anthropic, Dario Amodei, a notamment appelé à ralentir le développement des systèmes d’IA les plus avancés et à renforcer la régulation gouvernementale.

Sam Altman défend toutefois la capacité des entreprises du secteur à assurer elles-mêmes leur sécurité. Il affirme qu’OpenAI et les autres acteurs de l’industrie doivent maintenir les dispositifs de sécurité en avance sur les capacités des modèles et se dit prêt à ralentir, voire à interrompre le développement si nécessaire.

Cette position est également défendue par Jensen Huang, patron de Nvidia, qui estime que les entreprises d’IA doivent pouvoir décider elles-mêmes si une nouvelle technologie est suffisamment sûre pour être commercialisée. Mark Zuckerberg a, lui aussi, soutenu l’idée que les laboratoires d’IA disposent de leurs propres incitations pour développer des modèles sûrs.

Mais cette approche suscite des réserves dans le monde politique. Le sénateur indépendant Bernie Sanders estime que les décisions concernant le développement de l’IA ne devraient pas être laissées à «une poignée des personnes les plus riches du monde». Steve Bannon, ancien conseiller de Donald Trump, a également exprimé ses doutes quant à la capacité du secteur technologique à s’autoréguler.

OpenAI et Anthropic indiquent par ailleurs travailler avec d’autres laboratoires à l’élaboration de standards communs de sécurité. OpenAI a précisé qu’un effort volontaire était en cours pour définir des normes applicables aux systèmes d’IA les plus avancés, avec ou sans soutien des gouvernements.