पहले हमने Azure AI Foundry /blogs/deploy-azure-openai-gpt-4o-and-integrate-with-nextchat-or-chatbox-clients-build-your-personal-ai-companion/, /blogs/deploying-deepseek-r1-on-azure-ai-foundry-chatbox-integration/ के माध्यम से LLM तैनात करना सीखा। लेकिन अपने LLM के लिए कस्टम सामग्री फ़िल्टर कैसे बनाएँ?
जनरेटिव AI मॉडल का सुरक्षित और अनुपालन वाला उपयोग सुनिश्चित करना नैतिक AI अनुप्रयोगों के लिए महत्वपूर्ण है। Azure AI Content Filtering के साथ, उपयोगकर्ता हानिकारक सामग्री को प्रभावी ढंग से नियंत्रित करने के लिए डिफ़ॉल्ट फ़िल्टर का लाभ उठा सकते हैं या कस्टम कॉन्फ़िगरेशन बना सकते हैं। यह लेख Azure AI Foundry में कस्टम सामग्री फ़िल्टर बनाने और लागू करने पर विस्तृत मार्गदर्शिका प्रदान करता है, जिससे उपयोगकर्ता सामग्री सुरक्षा उपायों को अपनी आवश्यकताओं के अनुरूप बना सकते हैं।
विषय-सूची
1. सामग्री फ़िल्टरिंग कैसे काम करती है
Azure AI Foundry Azure AI Content Safety को एकीकृत करता है ताकि इनपुट प्रॉम्प्ट और आउटपुट पूर्णता दोनों में हानिकारक सामग्री को वर्गीकृत और फ़िल्टर किया जा सके। फ़िल्टरिंग सिस्टम निम्नलिखित श्रेणियों में हानिकारक सामग्री का पता लगाने के लिए उन्नत वर्गीकरण मॉडल का उपयोग करता है:
- घृणा: पहचान समूहों को लक्षित करने वाली भेदभावपूर्ण या अपमानजनक भाषा।
- यौन: शरीर रचना, यौन कृत्य, अश्लील साहित्य या दुर्व्यवहार से संबंधित सामग्री।
- हिंसा: शारीरिक क्षति, हथियार या हिंसक कृत्यों का वर्णन।
- आत्म-क्षति: आत्म-चोट या आत्महत्या को बढ़ावा देने या उसका वर्णन करने वाली सामग्री।
प्रत्येक श्रेणी को गंभीरता स्तरों के आधार पर फ़िल्टर किया जाता है:
- सुरक्षित: पेशेवर या पत्रकारीय संदर्भ।
- निम्न: आपत्तिजनक या रूढ़िवादी भाषा।
- मध्यम: अपमानजनक या डराने वाली भाषा।
- उच्च: स्पष्ट हानिकारक निर्देश या अत्यधिक क्षति।
डिफ़ॉल्ट रूप से, Azure AI Foundry सर्वरलेस API पर सामग्री फ़िल्टरिंग स्वचालित रूप से लागू करता है, लेकिन उपयोगकर्ता सख्त या अधिक उदार कॉन्फ़िगरेशन के लिए कस्टम फ़िल्टर बना सकते हैं।
2. भाषा समर्थन
Azure AI Content Filtering मॉडल प्रमुख भाषाओं पर प्रशिक्षित हैं, जिनमें शामिल हैं:
- अंग्रेज़ी
- जर्मन
- जापानी
- स्पेनिश
- फ़्रेंच
- इतालवी
- पुर्तगाली
- चीनी
हालाँकि सिस्टम अन्य भाषाओं में काम कर सकता है, हानिकारक सामग्री का पता लगाने में प्रभावशीलता और सटीकता सुनिश्चित करने के लिए परीक्षण की अनुशंसा की जाती है।
3. फ़िल्टर के प्रकार
Azure AI Foundry दो प्राथमिक प्रकार के फ़िल्टर प्रदान करता है:
इनपुट फ़िल्टर
मॉडल द्वारा संसाधित किए जाने से पहले उपयोगकर्ता प्रॉम्प्ट पर लागू होता है।
आउटपुट फ़िल्टर
मॉडल द्वारा उत्पन्न पूर्णता पर लागू होता है।
विशेष फ़िल्टर में शामिल हैं:
- जेलब्रेक हमले: मॉडल सुरक्षा उपायों को दरकिनार करने के लिए डिज़ाइन किए गए प्रॉम्प्ट को रोकता है।
- अप्रत्यक्ष हमले: बाहरी दस्तावेज़ों में एम्बेड किए गए दुर्भावनापूर्ण निर्देशों का पता लगाता है।
- संरक्षित सामग्री पहचान: कॉपीराइट वाली या संरक्षित पाठ/कोड को फ़िल्टर करता है।
- ग्राउंडेडनेस पहचान: यह सुनिश्चित करता है कि उत्तर सत्यापित स्रोत सामग्री पर आधारित हों।
4. कस्टम सामग्री फ़िल्टर बनाने के चरण
Azure AI Foundry पोर्टल में कस्टम सामग्री फ़िल्टर बनाने के लिए इन चरणों का पालन करें:
- सामग्री फ़िल्टर पर जाएँ
- जाएँ सुरक्षा + संरक्षा >> सामग्री फ़िल्टर पोर्टल में।
- क्लिक करें + सामग्री फ़िल्टर बनाएँ और फ़िल्टर नाम जैसी बुनियादी जानकारी प्रदान करें।
- इनपुट फ़िल्टर कॉन्फ़िगर करें
- सामग्री श्रेणियों (जैसे घृणा, यौन, हिंसा) के लिए गंभीरता सीमा समायोजित करें।
- जैसे अतिरिक्त सुविधाएँ सक्षम करें प्रॉम्प्ट शील्ड या संरक्षित सामग्री पहचान विशिष्ट सामग्री को एनोटेट या ब्लॉक करने के लिए।
- आउटपुट फ़िल्टर कॉन्फ़िगर करें
- आउटपुट श्रेणियों के लिए गंभीरता सीमा समायोजित करें।
- सक्षम करें स्ट्रीमिंग मोड वास्तविक समय फ़िल्टरिंग के लिए।
- निर्बाध एकीकरण के लिए वैकल्पिक रूप से फ़िल्टर को तैनाती से संबद्ध करें।
- समीक्षा करें और बनाएँ
- सेटिंग्स की दोबारा जाँच करें और चुनें फ़िल्टर बनाएँ कॉन्फ़िगरेशन को अंतिम रूप देने के लिए।
5. सामग्री फ़िल्टर लागू करना
फ़िल्टर बन जाने के बाद, आप उसे तैनाती पर लागू कर सकते हैं:
- मॉडल + एंडपॉइंट पर जाएँ
- पोर्टल में, वांछित तैनाती चुनें और क्लिक करें संपादित करें।
- सामग्री फ़िल्टर असाइन करें
- उपयुक्त सामग्री फ़िल्टर चुनें और परिवर्तन सहेजें।
6. कॉन्फ़िगरेबिलिटी विकल्प (पूर्वावलोकन)
Azure AI Foundry डिफ़ॉल्ट और कस्टम दोनों फ़िल्टरिंग कॉन्फ़िगरेशन प्रदान करता है:
डिफ़ॉल्ट कॉन्फ़िगरेशन
- GPT मॉडल: सभी श्रेणियों में मध्यम और उच्च गंभीरता वाली सामग्री को फ़िल्टर करता है।
- DALL-E मॉडल: प्रॉम्प्ट और पूर्णता दोनों के लिए निम्न, मध्यम और उच्च गंभीरता वाली सामग्री को फ़िल्टर करता है।
कस्टम कॉन्फ़िगरेशन
उपयोगकर्ता प्रॉम्प्ट और पूर्णता के लिए गंभीरता सीमा को अलग-अलग समायोजित कर सकते हैं:
- सख्त फ़िल्टरिंग: निम्न, मध्यम और उच्च गंभीरता वाली सामग्री को फ़िल्टर करता है।
- मध्यम फ़िल्टरिंग: मध्यम और उच्च गंभीरता वाली सामग्री को फ़िल्टर करता है।
- न्यूनतम फ़िल्टरिंग: केवल उच्च गंभीरता वाली सामग्री को फ़िल्टर करता है (अनुमोदन आवश्यक)।
- कोई फ़िल्टरिंग नहीं: फ़िल्टरिंग को पूरी तरह अक्षम करता है (अनुमोदन आवश्यक)।
7. ब्लॉकलिस्ट का उपयोग करना
ब्लॉकलिस्ट का उपयोग इनपुट और आउटपुट फ़िल्टरिंग को बढ़ाने के लिए किया जा सकता है। विकल्पों में शामिल हैं:
- अपशब्द ब्लॉकलिस्ट: आपत्तिजनक भाषा को ब्लॉक करने के लिए पूर्वनिर्धारित सूचियाँ।
- कस्टम ब्लॉकलिस्ट: विशिष्ट आवश्यकताओं के अनुरूप उपयोगकर्ता-परिभाषित सूचियाँ।
8. परीक्षण और API एकीकरण
फ़िल्टर लागू करने के बाद, इसकी कार्यक्षमता का परीक्षण करने के लिए Azure AI Foundry प्लेग्राउंड का उपयोग करें। उन्नत एकीकरण के लिए REST API का उपयोग करके फ़िल्टर को प्रोग्रामेटिक रूप से भी प्रबंधित किया जा सकता है।
महत्वपूर्ण नोट्स
- Whisper मॉडल: सामग्री फ़िल्टरिंग Whisper मॉडल द्वारा संसाधित प्रॉम्प्ट और पूर्णता पर लागू नहीं होती।
- संशोधित फ़िल्टर के लिए अनुमोदन: ग्राहकों को संशोधित फ़िल्टर का उपयोग करने के लिए अनुमोदन हेतु आवेदन करना होगा, जैसे फ़िल्टरिंग अक्षम करना या केवल उच्च-गंभीरता फ़िल्टरिंग सक्षम करना।
- अनुपालन उत्तरदायित्व: Azure OpenAI को एकीकृत करते समय Azure की आचार संहिता के अनुपालन को सुनिश्चित करने के लिए उपयोगकर्ता उत्तरदायी हैं।
निष्कर्ष
Azure AI Foundry में सामग्री फ़िल्टरिंग जनरेटिव AI मॉडल के सुरक्षित और नैतिक उपयोग को सुनिश्चित करने का एक शक्तिशाली साधन है। डिफ़ॉल्ट फ़िल्टर का लाभ उठाकर या कस्टम कॉन्फ़िगरेशन बनाकर, उपयोगकर्ता सिस्टम को अपनी विशिष्ट एप्लिकेशन आवश्यकताओं के अनुरूप बना सकते हैं। चाहे आप हानिकारक प्रॉम्प्ट से सुरक्षा चाहते हों या अनुपालन आउटपुट सुनिश्चित करना चाहते हों, Azure AI Content Filtering सामग्री मॉडरेशन में उच्च मानक बनाए रखने के लिए लचीलापन और विश्वसनीयता प्रदान करता है।
अधिक जानकारी के लिए, देखें Azure AI Content Safety दस्तावेज़ीकरण।