L'initiative vise à faciliter la collaboration rapide et sécurisée sur les incidents impliquant ces technologies.
Les partenaires recevront des données protégées et anonymisées sur les incidents réels. Les organisations qui soumettent des incidents seront considérées pour rejoindre la communauté. Cette initiative étend la base de connaissances Mitre Atlas avec de nouveaux cas et techniques d'attaque liés aux systèmes d'intelligence artificielle générative.
Parmi les partenaires de l'initiative figurent des acteurs aussi divers qu’AttackIQ, Booz Allen Hamilton, Microsoft, JPMorgan Chase Bank et Verizon Business, montrant une mobilisation intersectorielle pour la défense contre les menaces liées à l'IA.
À SURVEILLER. L’initiative Secure AI, qui comprend le dispositif AI Incident Sharing et la base de connaissances Mitre Atlas, a été la première à répertorier les failles des LLM et elle reste sans doute la plus avancée en la matière.