The Security Model Of An Agent

Vibe Coding: उन्नत इंजीनियरिंग कोर्स का हिस्सा

टूल वाला एजेंट ऐसा प्रोग्राम है जो टेक्स्ट से निर्देश लेता है और आपके सिस्टम पर काम कर देता है। उस टेक्स्ट का कुछ हिस्सा आपका होता है। कुछ हिस्सा किसी वेब पेज, किसी टिकट, किसी डिपेंडेंसी की README, या किसी अनजान व्यक्ति की लिखी टिप्पणी से आता है। पूरी संरचना में ऐसा कुछ नहीं है जो इन दोनों श्रेणियों को अलग करे, और एआई की मदद से होने वाली इंजीनियरिंग का ज़्यादातर सुरक्षा जोखिम इसी एक बात से पैदा होता है।

injection_demo.py खोलिए और चलाने वाला बटन दबाइए। यह ऐसे एजेंट की नक़ल करता है जो सार्वजनिक फ़ॉर्म से आया कोई सपोर्ट टिकट पढ़ रहा है ...