Die Sicherheitsvorkehrungen für Slack AI sind eine Reihe von Schutzmaßnahmen für alle nativen Slack AI-Funktionen. Um sicherzustellen, dass alle Benutzer:innen, die Zugriff auf KI-Funktionen in Slack haben, diese sicher nutzen können, umfassen die Sicherheitsvorkehrungen mehrere Schutzmechanismen: 

• Schwellenwerte für Inhalte, um Halluzinationen zu vermeiden
• Prompt-Entwicklung mit ausdrücklichen Sicherheitsanweisungen
• Kontextentwicklung zur Reduzierung des Risikos der Prompt-Injection
• URL-Filterung, um Phishing-Angriffen vorzubeugen
• Validierung des Ausgabeformats
• Filter für Inhaltssicherheit

So funktionieren die Sicherheitsvorkehrungen

Unsere Schutzmechanismen bilden eine zusätzliche Sicherheitsebene zusätzlich zu den Sicherheitsmaßnahmen, die in den großen Sprachmodellen (LLMs) integriert sind, auf denen alle KI-Funktionen in Slack basieren. Dazu gehören sicherheitsrelevante Maßnahmen auf der Prompt-Seite, die vor dem Senden von Anfragen an ein LLM ausgelöst werden, um sicherzustellen, dass die Antworten sicher und vertrauenswürdig sind.

Wenn eine Anfrage oder Antwort die Sicherheitsprüfungen des Schutzmechanismus nicht besteht, kann Slack Anfragen und generierte Inhalte ändern oder blockieren, um Schäden zu minimieren. In den meisten Fällen werden die Benutzer:innen mithilfe von KI-generierten Antworten wieder auf sicheres Terrain geführt. Wenn du beispielsweise Slackbot fragst, wer dein:e unproduktivste:r Kolleg:in ist, wird er dir mitteilen, dass er diese Frage nicht beantworten kann, und dir möglicherweise vorschlagen, eine andere Frage zu stellen. 

Einstellungen der Filter für Inhaltssicherheit verwalten

Unsere Filter für Inhaltssicherheit gelten für Slack AI-Funktionen, die auf benutzergenerierten Eingaben basieren, um Risiken im Zusammenhang mit Missbrauch und böswilligen Aktivitäten zu minimieren:  

• Slackbot
  Dein persönlicher Agent für die Arbeit, der direkt in Slack integriert ist.
• Erstellen von Canvas-Inhalten
  Nutze KI, um ein Canvas von Grund auf neu zu erstellen oder Inhalte zu einem bestehenden Canvas hinzuzufügen.
• Suche
  Stelle eine Frage und erhalte eine Antwort von der KI, anstatt Suchergebnisse selbst zu durchsuchen.
• Erstellen von Workflows
  Beschreibe eine Aufgabe oder einen Prozess, den du automatisieren möchtest, und die KI erstellt einen Workflow für dich.

Inhaber:innen und Administrator:innen können die Einstellungen für Inhaltssicherheitsfilter anpassen, um interne Richtlinien und regionale gesetzliche Anforderungen einzuhalten oder um eine Blockierung legitimer KI-Nutzung (wie das Stellen von Fragen zu Richtlinien oder die Suche nach Sicherheitsinformationen) zu verhindern.

Verfügbare Einstellungen

Das sind die verfügbaren Einstellungen:  

• Maximum
  Zur Blockierung der Erstellung zielgerichteter Profile von Mitarbeitenden, z. B. in Bezug auf Leistung und geschützte, klassifizierte Informationen; Zusatzmaßnahme zu den standardmäßigen Filtern für die Inhaltssicherheit. 
• Standard
  Zum Blockieren von Prompt-Angriffen, vulgärer Sprache, Hassreden, sexuellen Inhalten und anderen illegalen Aktivitäten.
• Keine
  Es werden keine zusätzlichen Sicherheitsfilter für Inhalte angewendet. Alle anderen Sicherheitsvorkehrungen von Slack AI bleiben bestehen, wenn du Keine auswählst.

Einstellungen verwalten

Workspace-Inhaber:innen und -Admins (mit Pro-Plan, Business+ Plan oder Enterprise Select-Plan) sowie Organisationsinhaber:innen und -Admins (mit Enterprise Grid oder Enterprise+) können die Einstellungen für die Sicherheitsfilter für Inhalte verwalten.