सुरक्षित YOLO मोड: Libvirt और Virsh के साथ vms में LLM एजेंट चलाना

सुरक्षित YOLO मोड: Libvirt और Virsh के साथ VMs में LLM एजेंट चलाना

सुरक्षित YOLO मोड आपको एलएलएम एजेंटों को अलग-अलग वर्चुअल मशीनों के अंदर लगभग अप्रतिबंधित निष्पादन विशेषाधिकार देने की सुविधा देता है, जो हार्डवेयर-स्तरीय वर्चुअलाइजेशन की रोकथाम की गारंटी के साथ स्वायत्त संचालन की गति को जोड़ता है। libvirt की प्रबंधन परत को virsh के कमांड-लाइन नियंत्रण के साथ जोड़कर, टीमें AI एजेंटों को इतनी आक्रामक तरीके से सैंडबॉक्स कर सकती हैं कि एक भयावह मतिभ्रम भी VM सीमा से बच नहीं सकता है।

एलएलएम एजेंटों के लिए "सुरक्षित योलो मोड" वास्तव में क्या है?

एआई टूलींग में वाक्यांश "योलो मोड" उन कॉन्फ़िगरेशन को संदर्भित करता है जहां एजेंट हर कदम पर मानव पुष्टि की प्रतीक्षा किए बिना कार्रवाई निष्पादित करते हैं। मानक परिनियोजन में, यह वास्तव में खतरनाक है - एक गलत कॉन्फ़िगर किया गया एजेंट उत्पादन डेटा को हटा सकता है, क्रेडेंशियल्स को बाहर निकाल सकता है, या सेकंड में अपरिवर्तनीय एपीआई कॉल कर सकता है। सुरक्षित YOLO मोड सुरक्षा गारंटी को एजेंट परत से बुनियादी ढांचे की परत तक स्थानांतरित करके इस तनाव को हल करता है।

मॉडल जो करना चाहता है उसे सीमित करने के बजाय, आप उसे नियंत्रित करते हैं जिसे पर्यावरण उसे प्रभावित करने की अनुमति देता है। एजेंट अभी भी शेल कमांड चला सकता है, पैकेज इंस्टॉल कर सकता है, फ़ाइलें लिख सकता है, और बाहरी एपीआई को कॉल कर सकता है - लेकिन इनमें से प्रत्येक क्रिया वर्चुअल मशीन के अंदर होती है, जिसमें आपके होस्ट नेटवर्क, आपके उत्पादन रहस्य, या आपके वास्तविक फ़ाइल सिस्टम तक लगातार पहुंच नहीं होती है। यदि एजेंट अपने वातावरण को नष्ट कर देता है, तो आप बस एक स्नैपशॉट पुनर्स्थापित करें और आगे बढ़ें।

"सबसे सुरक्षित एआई एजेंट वह नहीं है जो हर चीज़ के लिए अनुमति मांगता है - यह वह है जिसकी विस्फोट त्रिज्या को एक भी कार्रवाई करने से पहले भौतिक रूप से सीमित कर दिया गया है।"

लिबवर्ट और विरश कन्टेनमेंट परत कैसे प्रदान करते हैं?

लिबवर्ट एक ओपन-सोर्स एपीआई और डेमॉन है जो KVM, QEMU और Xen सहित वर्चुअलाइजेशन प्लेटफॉर्म का प्रबंधन करता है। Virsh इसका कमांड-लाइन इंटरफ़ेस है, जो ऑपरेटरों को VM जीवनचक्र, स्नैपशॉट, नेटवर्किंग और संसाधन सीमाओं पर स्क्रिप्ट योग्य नियंत्रण देता है। साथ में, वे सुरक्षित YOLO मोड बुनियादी ढांचे के लिए एक मजबूत नियंत्रण विमान बनाते हैं।

मुख्य वर्कफ़्लो इस तरह दिखता है:

एक आधार वीएम छवि प्रदान करें - अपने एजेंट रनटाइम को पहले से इंस्टॉल करके एक न्यूनतम लिनक्स अतिथि (उबंटू 22.04 या डेबियन 12 अच्छी तरह से काम करता है) बनाएं। सख्त सीपीयू, मेमोरी और डिस्क कोटा सेट करने के लिए कस्टम XML कॉन्फ़िगरेशन के साथ virsh डिफाइन का उपयोग करें।

प्रत्येक एजेंट के चलने से पहले स्नैपशॉट - वीएम को एजेंट को सौंपने से तुरंत पहले virsh snapshot-create-as --name Clean-state चलाएँ। यह एक रोलबैक बिंदु बनाता है जिसे आप तीन सेकंड के अंदर पुनर्स्थापित कर सकते हैं।

नेटवर्क इंटरफ़ेस को अलग करें - libvirt में केवल NAT वर्चुअल नेटवर्क कॉन्फ़िगर करें ताकि VM टूल कॉल के लिए इंटरनेट तक पहुंच सके लेकिन आपके आंतरिक सबनेट तक नहीं पहुंच सके। प्रतिबंधित ब्रिज कॉन्फ़िगरेशन के साथ virsh नेट-डिफाइन का उपयोग करें।

रनटाइम पर एजेंट क्रेडेंशियल इंजेक्ट करें - केवल कार्य की अवधि के लिए एपीआई कुंजी युक्त एक टीएमपीएफएस वॉल्यूम माउंट करें, फिर स्नैपशॉट पुनर्स्थापित करने से पहले अनमाउंट करें। कुंजियाँ कभी भी छवि में मौजूद नहीं रहतीं।

स्वचालित विच्छेदन और पुनर्स्थापना - प्रत्येक एजेंट सत्र के बाद, आपका ऑर्केस्ट्रेटर वीएम को उसकी बेसलाइन स्थिति में वापस लाने के लिए virsh snapshot-revert --snapshotname क्लीन-स्टेट को कॉल करता है, भले ही एजेंट ने कुछ भी किया हो।

इस पैटर्न का मतलब है कि एजेंट रन मेजबान के दृष्टिकोण से स्टेटलेस हैं। प्रत्येक कार्य एक ज्ञात अच्छी स्थिति से शुरू होता है और एक में समाप्त होता है। एजेंट स्वतंत्र रूप से कार्य कर सकता है क्योंकि बुनियादी ढांचा स्वतंत्रता को परिणाम-मुक्त बनाता है।

वास्तविक-विश्व प्रदर्शन और लागत ट्रेडऑफ़ क्या हैं?

पूर्ण वीएम के अंदर एलएलएम एजेंटों को चलाने से डॉकर जैसे कंटेनरीकृत दृष्टिकोण की तुलना में ओवरहेड का परिचय मिलता है। KVM/QEMU अतिथि आम तौर पर पहले बूट पर 50-150 एमएस विलंबता जोड़ते हैं, हालांकि यह प्रभावी रूप से समाप्त हो जाता है जब आप वीएम को कार्यों में चालू रखते हैं और पूर्ण रीबूट के बजाय स्नैपशॉट रिवर्ट पर भरोसा करते हैं। केवीएम त्वरण के साथ आधुनिक हार्डवेयर पर, एक ठीक से ट्यून किया गया अतिथि नंगे धातु की तुलना में 5% से कम कच्चे सीपीयू थ्रूपुट को खो देता है।

मेमोरी ओवरहेड अधिक महत्वपूर्ण है. आपके एजेंट रनटाइम लोड होने से पहले एक न्यूनतम उबंटू अतिथि लगभग 512 एमबी बेसलाइन का उपभोग करता है। दर्जनों समवर्ती एजेंट सत्र चलाने वाली टीमों के लिए, यह लागत रैखिक होती है

Related Posts

• सीएक्सएमटी मौजूदा बाजार दर से लगभग आधे पर डीडीआर4 चिप्स की पेशकश कर रहा है
• macOS का अल्प-ज्ञात कमांड-लाइन सैंडबॉक्सिंग टूल (2025)
• एचएन से पूछें: क्या अभी तक कोई एलएलएम लाइसेंस नहीं है?
• शेक्सपियर के 'टेम्पेस्ट' के लिए एक दृश्य स्रोत