एंथ्रोपिक ने क्लाउड एआई की उपयोग नीति में बदलाव किए
आर्टिफिशियल इंटेलिजेंस कंपनी एंथ्रोपिक ने अपने एआई चैटबॉट क्लाउड की उपयोग नीति को अपडेट किया है। कंपनी के नए नियमों में एआई मॉडल के बार-बार अपमानजनक इस्तेमाल, चुनावों में हस्तक्षेप, भ्रामक अभियानों, निगरानी और हथियारों से संबंधित सॉफ्टवेयर के लिए इसके उपयोग पर प्रतिबंधों को स्पष्ट किया गया है। कंपनी का कहना है कि इन बदलावों का उद्देश्य क्लाउड के दुरुपयोग को रोकना है, न कि सामान्य बातचीत या उपयोगकर्ताओं की आलोचना को सीमित करना।
बार-बार अपमानजनक व्यवहार पर नीति स्पष्ट
अपडेट के अनुसार, क्लाउड के प्रति लगातार अपमानजनक व्यवहार करना, खासकर जब इसका कोई स्पष्ट उद्देश्य न हो, उपयोग नीति का उल्लंघन हो सकता है। हालांकि, एंथ्रोपिक ने स्पष्ट किया है कि चैटबॉट से निराशा जताना, उसके जवाबों से असहमत होना, उसकी क्षमताओं को परखना या शोध के लिए सवाल पूछना प्रतिबंध का आधार नहीं है। कंपनी के मुताबिक, यह नियम मुख्य रूप से उन चरम मामलों के लिए है जिनमें मॉडल के प्रति बार-बार क्रूर या अपमानजनक व्यवहार किया जाता है।
फर्जी अकाउंट और भ्रामक चुनावी अभियानों पर रोक
नई नीति में क्लाउड का इस्तेमाल फर्जी अकाउंट चलाने, मनगढ़ंत समाचार संस्थान बनाने और लोगों को गुमराह करने वाले अभियानों को बढ़ावा देने से जुड़े प्रतिबंधों को भी स्पष्ट किया गया है। इसमें ऐसे उपयोग पर भी रोक है, जो मतदाताओं को भ्रमित करने या चुनावी प्रक्रिया को प्रभावित करने के उद्देश्य से किया जाए। इन नियमों के जरिए कंपनी एआई टूल्स के इस्तेमाल से गलत जानकारी फैलाने और लोगों की राय को भ्रामक तरीके से प्रभावित करने की गतिविधियों को सीमित करना चाहती है।
निगरानी और हथियारों से जुड़े उपयोग पर प्रतिबंध
एंथ्रोपिक ने निगरानी और हथियारों से संबंधित सॉफ्टवेयर के लिए क्लाउड के उपयोग को लेकर भी प्रतिबंधों का उल्लेख किया है। ये प्रावधान उन गतिविधियों की सीमाएं स्पष्ट करते हैं जिन्हें कंपनी अपने एआई मॉडल के जरिए आगे बढ़ाने की अनुमति नहीं देती। ऐसे नियम एआई तकनीक के संभावित दुरुपयोग और उससे जुड़े सुरक्षा जोखिमों को नियंत्रित करने की कंपनी की नीति का हिस्सा हैं।
सामान्य यूजर्स की आलोचना पर प्रतिबंध नहीं
कंपनी ने जोर दिया है कि उपयोगकर्ता क्लाउड के जवाबों को चुनौती दे सकते हैं, उसकी गलतियों की ओर ध्यान दिला सकते हैं और रचनात्मक लेखन में कठिन या गंभीर विषयों की पड़ताल कर सकते हैं। केवल असहमति या निराशा व्यक्त करने से उपयोग नीति का उल्लंघन नहीं माना जाएगा। एंथ्रोपिक का कहना है कि नियमों का लक्ष्य सामान्य उपयोग को बाधित करना नहीं, बल्कि लगातार दुरुपयोग और नुकसान पहुंचाने वाली गतिविधियों पर सीमाएं तय करना है।
