Cet article a été initialement publié sur le site web de la Royal Academy of Engineering. Découvrez la série complète ici

‍

L’équipe Infrastructures numériques et physiques de la Royal Academy of Engineering s’est entretenue avec Ryan au sujet de la manière dont les organisations peuvent gérer les risques associés à l’IA et de ceux auxquels elles devraient accorder la priorité à court terme.

Nous avons récemment constaté une véritable focalisation sur l’IA de pointe et les modèles de fondation. Que signifie pour vous l’IA de pointe ? Selon vous, quelles sont les plus grandes opportunités et les plus grands risques qui lui sont associés ?

‍

L’IA de pointe est un terme quelque peu nébuleux qui désigne les versions les plus avancées de l’IA dont nous disposons aujourd’hui.

En matière d’opportunités, j’ai tendance à considérer l’IA comme toute autre technologie — et donc en termes d’arbitrages. Les technologies puissantes comportent des risques importants, et il est essentiel de bien comprendre ces risques afin de les gérer de manière appropriée. Il existe déjà un certain nombre de moyens de gérer ces risques, mais les travaux dans ce domaine doivent progresser si nous voulons tirer pleinement parti de l’IA. 

Les avantages de l’utilisation de l’IA diffèrent selon votre perspective. Dans le contexte d’une entreprise commerciale, ces technologies peuvent générer d’énormes gains d’efficacité pour des tâches fortement administratives. L’un des sujets qui m’intéresse tout particulièrement, toutefois, est l’application de l’IA à la découverte de médicaments. Dans le domaine scientifique, un certain nombre de percées transforment déjà le monde, et, en termes simples, l’IA offre un potentiel considérable pour améliorer nos vies, à condition de bien maîtriser la question des risques.

‍

“Je sais que ce n’est pas aussi accrocheur, en termes de titres, que certains des autres sujets qui seront abordés lors du sommet, mais je pense que s’attaquer aux risques immédiats est en réalité un travail plus impactant.”

‍

Ce n’est pas quelque chose d’extrêmement technique, ni un sujet que seules les grandes entreprises technologiques doivent résoudre, car il ne s’agit pas vraiment d’un débat sur ce que l’IA peut ou devrait faire. Il s’agit d’une conversation sur la manière dont nous nous gouvernons nous-mêmes et dont nous légiférons à l’encontre des acteurs malveillants, et c’est une discussion que nous devons, selon moi, mener à l’échelle de la société.

‍

Lire l’article complet ici

Enzai est la principale plateforme de gouvernance de l’IA d’entreprise, conçue sur mesure pour aider les organisations à passer d’une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l’IA fournit l’infrastructure spécialisée nécessaire pour gérer la gouvernance de l’IA agentique, maintenir un inventaire de l’IA complet et garantir la conformité au règlement européen sur l’IA. En automatisant des flux de travail complexes, Enzai permet aux entreprises d’accélérer l’adoption de l’IA en toute confiance, tout en maintenant leur alignement sur des normes internationales telles que ISO 42001 et NIST.