近年生成式人工智能(Generative AI)應用日漸普及,大型語言模型的強大能力卻也可能產生有害或不當內容。有見及此,雲端服務商亞馬遜近日推出名為"Guardrails"的新功能,專為其大型語言模型服務Amazon Bedrock提供一站式的內容安全及私隱保護解決方案。
Guardrails可為不同應用場景設置多個自訂的安全過濾策略,全面管控生成式AI系統的輸入及輸出內容。新推出的過濾功能包括:
「Misconduct」和「Prompt Attack」類別,可檢測犯罪活動內容及破解企圖。
「敏感資訊過濾器」,可識別並遮蔽個人身份信息如姓名、電郵等。
「詞語過濾器」,阻擋包含粗言穢語、競爭對手名稱等特定詞語的輸入。
Guardrails可與Amazon Bedrock旗下所有大型語言模型、包括經過調校的定製模型合作。亞馬遜稱,運用Guardrails可協助客戶阻擋高達85%的有害內容,比單憑模型原生能力更有效。
軟件公司Aha!的技術總監Christopher Waters表示,Amazon Bedrock提供的責任AI功能讓他們能完全控制資訊流向,遵守數據保護和私隱政策,同時Guardrails有助阻擋不當內容,有利公司開發新的生成式AI應用服務客戶。
總括而言,Guardrails標誌亞馬遜正大力完善生成式AI技術的安全管理機制,以提升相關應用的可信賴程度,迎合企業在負責任地採用創新科技的需求。