As proteções da IA do Slack são um conjunto de proteções para todos os recursos nativos da IA do Slack. Para garantir que todos que têm acesso aos recursos de IA no Slack possam usá-los com segurança, as proteções incluem vários mecanismos protetivos: 

• Limites de conteúdo para prevenir alucinações
• Engenharia de prompt com instruções de segurança explícitas
• Engenharia de contexto para reduzir o risco de injeção de prompt
• Filtragem de URLs para prevenir ataques de phishing
• Validação do formato de saída
• Filtros de segurança de conteúdo

Como as proteções funcionam

Nossas proteções são uma camada adicional de proteção sobre as medidas de segurança integradas aos grandes modelos de linguagem (LLMs) dos quais todos os recursos de IA do Slack dependem. Elas incluem medidas de segurança para prompts que são invocadas antes de as solicitações serem enviadas a um LLM para garantir que as respostas estejam seguras e protegidas.

Se uma solicitação ou resposta não passar pelas verificações de segurança das proteções, o Slack pode modificar ou bloquear solicitações e o conteúdo gerado para reduzir danos. Na maioria dos casos, os usuários são orientados a voltar a um estado de segurança por meio das respostas geradas por IA. Por exemplo, se você perguntar ao Slackbot quem é o seu colega de trabalho menos produtivo, ele dirá a você que não é possível responder a essa pergunta e poderá sugerir que você faça uma pergunta diferente. 

Gerenciar as configurações dos filtros de segurança de conteúdo

Nossos filtros de segurança de conteúdo se aplicam aos recursos da IA do Slack que dependem de entradas geradas pelo usuário para mitigar os riscos associados a uso indevido e atividades mal-intencionadas:  

• Slackbot
  Seu agente pessoal para o trabalho integrado ao Slack.
• Criação de conteúdo em canvas
  Use a IA para criar um canvas do zero ou adicionar conteúdo a um canvas existente.
• Pesquisa
  Faça uma pergunta e obtenha uma resposta da IA em vez de analisar os resultados da pesquisa.
• Criação de fluxos de trabalho
  Descreva uma tarefa ou um processo que você quer automatizar e a IA criará um fluxo de trabalho para você.

Proprietários e administradores podem ajustar as configurações dos filtros de segurança de conteúdo para cumprir políticas internas e requisitos regulatórios regionais ou evitar o bloqueio do uso legítimo de IA (como fazer perguntas sobre políticas ou pesquisar informações de segurança). 

Configurações disponíveis

Veja as configurações disponíveis:  

• Máximo
  Tem como objetivo bloquear a criação de perfis específicos de funcionários, incluindo informações sobre desempenho e informações de classes protegidas, além dos filtros de segurança de conteúdo padrão. 
• Padrão
  Tem como objetivo bloquear ataques, linguagem violenta, discurso de ódio, conteúdo sexual e outras atividades ilegais nos prompts.
• Nenhum
  Nenhum filtro de segurança de conteúdo adicional é aplicado. Todas as outras medidas de segurança das proteções da IA do Slack permanecerão em vigor se você selecionar Nenhum.

Gerenciar configurações

Proprietários e administradores de workspaces (nos planos Pro, Business+ e Enterprise Select) e proprietários e administradores de organizações (nos planos Enterprise Grid e Enterprise+) podem gerenciar as configurações dos filtros de segurança de conteúdo.