Last updated:
Un modèle d'intelligence artificielle entraîné sur un volume massif de données et doté d'un niveau de performance élevé, susceptible d'être utilisé tant à des fins civiles qu'à des fins malveillantes ou militaires.
Bien que ne constituant pas un niveau formel dans la pyramide des risques du règlement européen sur l'IA (EU AI Act), les concepts de double usage se superposent souvent avec les modèles d'IA à usage général (GPAI) présentant un risque systémique. Ces modèles possèdent des capacités (telles que la synthèse chimique avancée ou la planification de cyberattaques) qui requièrent des tests d'évaluation types « red-teaming » ainsi que des rapports de sécurité auprès du Bureau européen de l'IA (EU AI Office), afin de prévenir leur utilisation abusive dans des contextes de sécurité nationale.
Real world example:
Un géant de la technologie publie un modèle capable de rédiger à la fois de la poésie et des logiciels malveillants fonctionnels ; en raison de son potentiel à double usage, le fournisseur est tenu de partager les résultats des audits de sécurité de la Red Team avec les autorités réglementaires gouvernementales.
