Les garde-fous de Slack AI désignent un ensemble de protections pour toutes les fonctionnalités natives de Slack AI. Pour qu’une personne ayant accès aux fonctionnalités d’IA dans Slack puisse les utiliser de manière sécurisée, les garde-fous incluent plusieurs mécanismes de protection : 

• Seuils de contenu pour éviter les hallucinations
• Ingénierie de prompt avec des instructions de sécurité explicites
• Ingénierie contextuelle pour réduire le risque d’injection de prompt
• Filtrage d’URL pour éviter les attaques par hameçonnage
• Validation du format de sortie
• Filtres de sécurité du contenu

Fonctionnement des garde-fous

Nos garde-fous constituent une couche de protection supplémentaire, qui vient s’ajouter aux mesures de sécurité intégrées aux grands modèles de langage (LLM) sur lesquels toute fonctionnalité d’IA de Slack repose. Ils incluent des mesures de sécurité au niveau du prompt, qui sont appelées avant que les requêtes ne soient transmises au LLM, pour garantir que les réponses seront sûres et basées sur les données.

Si une requête ou une réponse est bloquée par les contrôles de sécurité des garde-fous, Slack peut être amené à modifier ou bloquer les requêtes et le contenu généré, et ce, afin de réduire les risques. Dans la plupart des cas, la réponse générée par l’IA précise ce que les utilisateurs peuvent faire. Par exemple, si vous demandez à Slackbot qui est votre collègue le moins productif, il vous répondra qu’il ne peut pas vous le dire et vous suggérera de poser une autre question. 

Gérer les paramètres des filtres de sécurité du contenu

Nos filtres de sécurité du contenu s’appliquent aux fonctionnalités Slack AI qui reposent sur les contributions des utilisateurs afin d’atténuer les risques liés à une utilisation abusive et à des activités malveillantes :  

• Slackbot
  Votre agent personnel de travail, intégré à Slack.
• Création de contenu pour les canevas
  Créez un canevas de A à Z ou ajoutez du contenu à un canevas existant grâce à l’IA.
• Recherche
  Posez une question et obtenez une réponse générée par l’IA au lieu de fouiller dans les résultats de recherche.
• Création de flux de travail
  Décrivez la tâche ou le processus que vous souhaitez automatiser, et l’IA créera un flux de travail pour vous.

Les propriétaires et les administrateurs peuvent régler les paramètres des filtres de sécurité du contenu afin qu’ils respectent les règles de leur organisation et les exigences réglementaires locales, ou qu’ils empêchent le blocage d’une utilisation légitime de l’IA (comme poser des questions sur les règles ou rechercher des informations de sécurité). 

Paramètres disponibles

Voici les paramètres disponibles :  

• Maximum
  Destiné à bloquer le profilage ciblé des employés, comme les performances et les informations protégées, en plus des filtres de sécurité du contenu par défaut. 
• Par défaut
  Destiné à bloquer les attaques par prompt, les paroles violentes, les discours haineux, les contenus à caractère sexuel et autres activités illégales.
• Aucun
  Aucun filtre de sécurité du contenu n’est appliqué. Le fait de sélectionner Aucun ne désactive pas les autres mesures de sécurité des garde-fous de Slack AI.

Gérer les paramètres

Les propriétaires et administrateurs de l’espace de travail (avec les forfaits Pro, Business+ et Enterprise Select) et les propriétaires et administrateurs de l’organisation (avec les forfaits Enterprise Grid et Enterprise+) peuvent gérer les paramètres de filtre de sécurité du contenu.