Slack AI 安全機制是一套用於保護所有原生 Slack AI 功能的措施。為了確保每位有 Slack AI 功能存取權的人員能安全地使用這些功能，該安全機制包含了幾項防護設計： 

• 預防幻覺的內容限制門檻
• 具有明確安全指示的提示工程
• 降低提示插入風險的情境工程
• 可預防網路釣魚攻擊的網址篩選功能
• 輸出設定格式驗證
• 內容安全篩選器

安全機制的運作原理

我們的安全機制是在安全性措施之外，額外增加的一道防護層；而這些安全措施係內建於所有 Slack AI 功能所倚賴的大型語言模型 (LLM) 中。這些設計包括提示詞端的安全性措施，會在請求傳送至大型語言模型之前啟動，以確保回應安全可靠。

如果請求或回應未通過該機制的安全性檢查，Slack 可能會修改或封鎖請求和產生的內容以降低傷害。多數情況下，系統會透過 AI 產生的回應，引導使用者回到安全的範圍內。舉例來說，如果你詢問 Slackbot 在你的共事者中誰最沒有生產力，它會告訴你它無法回答，同時可能建議你提出其他問題。 

管理內容安全篩選器設定

為了降低與濫用及惡意活動相關的風險，我們的內容安全篩選器適用於依賴使用者產生的輸入的 Slack AI 功能： 

• Slackbot
  內建於 Slack，是你的個人工作代理。
• 建立畫板內容
  利用 AI 功能從零開始建立畫板，或者在現有畫板中新增內容。
• 搜尋
  向 AI 提出問題即可得到答覆，無需再費力過濾搜尋結果。
• 建立工作流程
  描述你想自動執行的工作或流程，AI 就會為你建立工作流程。

擁有者和管理員可以為內容安全篩選器調整設定，以符合內部政策及區域法規要求，或者防止系統封鎖合法的 AI 使用行為 (例如詢問政策問題或搜尋安全性資訊)。

可用的設定

以下是可用的設定： 

• 最嚴格
  此選項在預設內容安全篩選器外，額外禁止針對員工進行個別分析，例如評估績效表現和分析受保護群體資訊。 
• 預設
  用於封鎖提示攻擊、暴力語言、仇恨言論和色情內容，以及其他非法活動。
• 無
  未套用其他內容安全篩選器。若選取「無」，Slack AI 安全機制的所有其他安全性措施仍然有效。

管理設定

工作空間擁有者和管理員 (Pro、Business+ 方案及企業特選) 與組織擁有者和管理員 (Enterprise Grid 和 Enterprise+ 方案) 可以管理內容安全篩選器設定。