Zuvor haben wir gelernt, wie man ein LLM über Azure AI Foundry /blogs/deploy-azure-openai-gpt-4o-and-integrate-with-nextchat-or-chatbox-clients-build-your-personal-ai-companion/, /blogs/deploying-deepseek-r1-on-azure-ai-foundry-chatbox-integration/. Aber wie erstellt man benutzerdefinierte Inhaltsfilter für sein LLM?
Die Gewährleistung einer sicheren und konformen Nutzung generativer KI-Modelle ist für ethische KI-Anwendungen von entscheidender Bedeutung. Mit Azure AI Content Filtering, können Nutzer Standardfilter nutzen oder benutzerdefinierte Konfigurationen erstellen, um schädliche Inhalte effektiv zu moderieren. Dieser Artikel bietet eine detaillierte Anleitung zum Erstellen und Anwenden benutzerdefinierter Inhaltsfilter in Azure AI Foundry und ermöglicht es Nutzern, Maßnahmen zur Inhaltssicherheit an ihre Bedürfnisse anzupassen.
Inhaltsverzeichnis
1. Wie die Inhaltsfilterung funktioniert
Azure AI Foundry integriert Azure AI Content Safety zum Klassifizieren und Filtern schädlicher Inhalte sowohl in Eingabe-Prompts als auch in Ausgabe-Vervollständigungen. Das Filtersystem verwendet fortschrittliche Klassifizierungsmodelle, um schädliche Inhalte in den folgenden Kategorien zu erkennen:
- Hass: Diskriminierende oder abwertende Sprache, die auf Identitätsgruppen abzielt.
- Sexuell: Inhalte im Zusammenhang mit Anatomie, sexuellen Handlungen, Pornografie oder Missbrauch.
- Gewalt: Beschreibungen von körperlichem Schaden, Waffen oder gewalttätigen Handlungen.
- Selbstverletzung: Inhalte, die Selbstverletzung oder Suizid fördern oder beschreiben.
Jede Kategorie wird anhand von Schweregraden gefiltert:
- Sicher: Professioneller oder journalistischer Kontext.
- Niedrig: Anstößige oder stereotype Sprache.
- Mittel: Beleidigende oder einschüchternde Sprache.
- Hoch: Explizite schädliche Anweisungen oder extremer Schaden.
Standardmäßig wendet Azure AI Foundry die Inhaltsfilterung automatisch auf serverlose APIs an, aber Nutzer können benutzerdefinierte Filter für strengere oder nachsichtigere Konfigurationen erstellen.
2. Sprachunterstützung
Die Azure AI Content Filtering-Modelle sind auf wichtige Sprachen trainiert, darunter:
- Englisch
- Deutsch
- Japanisch
- Spanisch
- Französisch
- Italienisch
- Portugiesisch
- Chinesisch
Obwohl das System auch in anderen Sprachen funktionieren kann, wird empfohlen, Tests durchzuführen, um die Wirksamkeit und Genauigkeit bei der Erkennung schädlicher Inhalte sicherzustellen.
3. Filtertypen
Azure AI Foundry bietet zwei Haupttypen von Filtern:
Eingabefilter
Wird auf Nutzer-Prompts angewendet, bevor sie vom Modell verarbeitet werden.
Ausgabefilter
Wird auf Vervollständigungen angewendet, die vom Modell generiert werden.
Zu den speziellen Filtern gehören:
- Jailbreak-Angriffe: Verhindert Prompts, die darauf ausgelegt sind, Modellschutzmaßnahmen zu umgehen.
- Indirekte Angriffe: Erkennt bösartige Anweisungen, die in externe Dokumente eingebettet sind.
- Erkennung geschützten Materials: Filtert urheberrechtlich geschützten oder geschützten Text/Code.
- Erkennung der Fundiertheit: Stellt sicher, dass Antworten auf verifizierten Quellmaterialien basieren.
4. Schritte zum Erstellen eines benutzerdefinierten Inhaltsfilters
Befolgen Sie diese Schritte, um einen benutzerdefinierten Inhaltsfilter im Azure AI Foundry-Portal zu erstellen:
- Zu Inhaltsfiltern navigieren
- Gehen Sie zu Sicherheit + Schutz >> Inhaltsfilter im Portal.
- Klicken Sie auf + Inhaltsfilter erstellen und geben Sie grundlegende Informationen wie den Filternamen an.
- Eingabefilter konfigurieren
- Passen Sie die Schweregrad-Schwellenwerte für Inhaltskategorien an (z. B. Hass, sexuell, Gewalt).
- Aktivieren Sie zusätzliche Funktionen wie Prompt Shields oder Erkennung geschützten Materials, um bestimmte Inhalte zu kommentieren oder zu blockieren.
- Ausgabefilter konfigurieren
- Passen Sie die Schweregrad-Schwellenwerte für Ausgabekategorien an.
- Aktivieren Sie den Streaming-Modus für Echtzeit-Filterung.
- Verknüpfen Sie den Filter optional mit einer Bereitstellung für eine nahtlose Integration.
- Prüfen und erstellen
- Überprüfen Sie die Einstellungen und wählen Sie Filter erstellen aus, um die Konfiguration abzuschließen.
5. Anwenden eines Inhaltsfilters
Sobald der Filter erstellt ist, können Sie ihn auf eine Bereitstellung anwenden:
- Zu Modellen + Endpunkten navigieren
- Wählen Sie im Portal die gewünschte Bereitstellung aus und klicken Sie auf Bearbeiten.
- Den Inhaltsfilter zuweisen
- Wählen Sie den passenden Inhaltsfilter aus und speichern Sie die Änderungen.
6. Konfigurierbarkeitsoptionen (Vorschau)
Azure AI Foundry bietet sowohl Standard- als auch benutzerdefinierte Filterkonfigurationen:
Standardkonfiguration
- GPT-Modelle: Filtert Inhalte mittlerer und hoher Schwere in allen Kategorien.
- DALL-E-Modelle: Filtert Inhalte niedriger, mittlerer und hoher Schwere sowohl für Prompts als auch für Vervollständigungen.
Benutzerdefinierte Konfiguration
Nutzer können die Schweregrad-Schwellenwerte für Prompts und Vervollständigungen separat anpassen:
- Strenge Filterung: Filtert Inhalte niedriger, mittlerer und hoher Schwere.
- Moderate Filterung: Filtert Inhalte mittlerer und hoher Schwere.
- Minimale Filterung: Filtert nur Inhalte hoher Schwere (erfordert Genehmigung).
- Keine Filterung: Deaktiviert die Filterung vollständig (erfordert Genehmigung).
7. Verwenden von Sperrlisten
Sperrlisten können verwendet werden, um die Eingabe- und Ausgabefilterung zu verbessern. Zu den Optionen gehören:
- Sperrlisten für Obszönitäten: Vordefinierte Listen zum Blockieren anstößiger Sprache.
- Benutzerdefinierte Sperrlisten: Vom Nutzer definierte Listen, die auf bestimmte Anforderungen zugeschnitten sind.
8. Testen und API-Integration
Verwenden Sie nach dem Anwenden eines Filters den Azure AI Foundry-Playground, um seine Funktionalität zu testen. Filter können für eine erweiterte Integration auch programmatisch über REST-APIs verwaltet werden.
Wichtige Hinweise
- Whisper-Modell: Die Inhaltsfilterung gilt nicht für Prompts und Vervollständigungen, die vom Whisper-Modell verarbeitet werden.
- Genehmigung für geänderte Filter: Kunden müssen eine Genehmigung beantragen, um geänderte Filter zu verwenden, z. B. das Deaktivieren der Filterung oder nur die Filterung hoher Schwere.
- Verantwortung für die Compliance: Nutzer sind dafür verantwortlich, die Einhaltung des Verhaltenskodex von Azure bei der Integration von Azure OpenAI sicherzustellen.
Fazit
Die Inhaltsfilterung in Azure AI Foundry ist ein leistungsstarkes Werkzeug, um eine sichere und ethische Nutzung generativer KI-Modelle zu gewährleisten. Durch die Nutzung von Standardfiltern oder das Erstellen benutzerdefinierter Konfigurationen können Nutzer das System an ihre spezifischen Anwendungsanforderungen anpassen. Ob Sie sich vor schädlichen Prompts schützen oder konforme Ausgaben sicherstellen möchten – Azure AI Content Filtering bietet die Flexibilität und Zuverlässigkeit, um hohe Standards bei der Inhaltsmoderation zu wahren.
Weitere Informationen finden Sie in der Azure AI Content Safety-Dokumentation.