Pri delu s programsko opremo, agenti umetne inteligence ali datotekami, prenesenimi z interneta, je eden najpogostejših strahov Zlom v vašem sistemu, okužba z zlonamerno programsko opremo ali uhajanje občutljivih podatkov Skoraj ne da bi se tega zavedali. Ni vam treba biti paranoičen: ena sama neuspešna izvedba lahko izbriše bazo podatkov, pokvari uvajanje ali okuži vaš sistem z zlonamerno programsko opremo.
Dobra novica je, da imate danes na voljo več načinov, kako ga ustvariti. izolirano okolje, kjer lahko preizkusite stvari brez tveganjaIn mnogi od njih so integrirani v sam operacijski sistem ali v platforme, zasnovane za kodne agente. Temu pravimo »peskovnik«: izvajanje kode znotraj nekakšnega nadzorovanega mehurčka, tako da je škoda omejena tudi, če gre kaj narobe ali je zlonamerno.
Kaj je ročno peskovnikovanje brez dodatne programske opreme?
Pri varnosti in razvoju govorjenje o peskovnikih pomeni govorjenje o ... jasno opredeliti, česa se lahko program ali agent dotakne med delovanjemNe gre le za to, da se "izvaja nekje drugje", temveč za definiranje jasnih meja: katere datoteke lahko vidi, katere procese lahko zažene, ali ima omrežje, katere poverilnice lahko uporablja, kako dolgo to okolje obstaja in kaj se zgodi z njegovim stanjem, ko se zaključi.
Razlika med "ročnim" in "brez dodatne programske opreme" je zavajajoča. V mnogih primerih se lahko zanesete na funkcije, ki so že vključene v vaš operacijski sistem ali vašo lastno razvojno platformokot so Windows Sandbox, Linux primitivi (Landlock, seccomp) ali mehanizmi macOS. Ni vam treba namestiti celotnega paketa za virtualizacijo, vendar se morate naučiti, kako aktivirati in upravljati te integrirane mehanizme da deluje kot ovira med kodo, ki jo želite preizkusiti, in dejanskim računalnikom.
Zakaj kodni agenti potrebujejo izolirana okolja?
Sodobni programski agenti niso več preprosti klepetu podobni pomočniki, ki predlagajo delčke kode: so izvedbena okolja, povezana z jezikovnim modelomLahko berejo vaše skladišče, urejajo datoteke, izvajajo terminalske ukaze, namestitev paketov, graditi zabojnike, se pogovarjajo z zunanjimi API-ji in celo odpirajo seje brskalnika.
Platforme, kot so Claude Code, nekateri LangChain "Deep Agents" ali posebni sandboxi, ki jih distribuira Docker in druga orodja, izrecno opisujejo, da ti agenti Delujejo na resničnih datotečnih sistemih, zaganjajo niti in delegirajo naloge specializiranim podagentom.Z drugimi besedami, so precej podobni mlajšim razvijalcem z dostopom do vaših orodij ... le avtomatizirani in zelo hitri.
V tem kontekstu glavno varnostno vprašanje preneha biti "Ali se dobro odziva na poziv?" in postane: "Kakšen je obseg, če je napačen, napačno poravnan ali je bil manipuliran?"Če lahko model na primer zažene pytest, namesti npm pakete, upravlja veje ali pregleda napako pri prevajanju, je le nekaj korakov stran od dotikanja skriptov za uvajanje, spreminjanja Git hookov ali izvlečenja skrivnosti v oddaljeno storitev.
Preprost odgovor je običajno zahtevati človeško odobritev za vsak ukaz. To pomaga, vendar ima ponavljajočo se težavo: utrujenost od odobravanjaV okoljih, kjer inženirji vzporedno zaženejo veliko agentov ali delovnih tokov, zaradi samega obsega zahtev pogosto pride do tega, da se skoraj vse odobri brez skrbnega pregleda. Ko se več kot 90 % zahtev za dovoljenja samodejno odobri, ta mehanizem preneha biti pristen varnostni nadzor in postane zgolj formalnost.
Zato so peskovniki tako pomembni: Ne naredijo modela nezmotljivega niti ne popravijo vbrizgavanja navodil.Vendar pa zmanjšujejo "polmer eksplozije" njegovih napak. Če umetna inteligenca naredi napako ali nekomu uspe ugrabiti njena navodila, škoda ostane omejena na izolirano okolje, namesto da bi se razširila neposredno na vaš produkcijski sistem ali prenosnik.
Glavne omejitve peskovnika kodnega agenta
Resen peskovnik za kodne agente se zanaša na več vrst meja, ne le na "drug imenik" ali "drug vsebnik". Vsaka pokriva drugačen vidik tveganja in njihovo razumevanje je bistvenega pomena za učinkovito ročno peskovnikovanje z vašimi obstoječimi viri.
Meja datotečnega sistema
Prva stvar je, da se odločimo. katero drevo imenikov lahko agent vidi in spreminjaV pravilno konfiguriranem peskovniku bi moral agent imeti možnost branja in pisanja le v delovni prostor ali nosilce podatkov, ki jih zanj izrecno ustvarite. Preostali del sistema (domači imenik uporabnika, sistemske poti, drugi projekti) mu ne bi smel biti dostopen.
Okviri agentov in platforme sandbox zelo jasno povedo: sandbox je pregrada, ki preprečuje dotikanje gostiteljskih datotek zunaj tistih, ki so v skupni rabiV modelih, ki temeljijo na microVM, je pravilo še strožje: mejo med virtualnim strojem in gostiteljem prečka samo imenik, ki ga priklopite (pogosto berete in pišete). Vse ostalo ostane nedostopno, razen če ga odprete.
Meja procesa in jedro
Druga ključna meja je tisto, kar agent vidi na ravni procesa in jedra. Če je znotraj izoliranega okolja namesti storitve, zažene vsebnike ali zažene nitiVsa ta dejanja morajo ostati enkapsulirana, brez deljenja procesov ali golega jedra z gostiteljem.
Številne robustne implementacije peskovnika se zanašajo na mikroVM-ji ali lahki virtualni stroji z lastnim Linux jedrom, okrepljenim s seccomp, cgroups, imenskimi prostori in tehnikami jail. Drugi uporabljajo plasti, kot sta gVisor ali Kata Containers, da vstavijo plast virtualizacije ali emulacije med izoliran proces in jedro vozlišča. Osnovna ideja: če nekdo izkoristi nekaj znotraj, je skok na gostitelja veliko težji kot v preprostem vsebniku z deljenim jedrom.
Meja omrežja
Agenti kode so pogosto zelo "lačni omrežja": želijo nameščati odvisnosti, pregledovati dokumentacijo, klicati LLM API-je, dostopati do oddaljenih repozitorijev ali celo brskati po spletu. Brez jasne politike lahko "izolirano" okolje postane fantastičen tunel za izkopavanje podatkov.
Zato vedno več platform zavzema stališče privzeta zavrnitev odhodnega prometaHTTP/HTTPS je blokiran, razen v določenih primerih, TCP/UDP/ICMP je omejen in, kar je zelo pomembno, dostop do zasebnih obsegov in lokalnih naslovov je prepovedan. Komunikacija je dovoljena le z gostitelji ali domenami, ki so izrecno vključene na seznam dovoljenih, in pogosto prek posredniškega strežnika, ki ga nadzoruje gostitelj.
Omejitev poverilnic
Ni smiselno imeti agenta zaklenjenega, če lahko znotraj svoje kletke bere vaše API ključe, žetone za uvajanje ali skrivnosti baze podatkov. Sodobna zasnova mnogih peskovnikov je sestavljena iz ... Nikoli ne vbrizgavajte surovih skrivnosti v izolirano okoljeNamesto tega naj posrednik na gostitelju doda poverilnice v glave zahtev HTTP, ki jih želi poslati peskovnik.
S tem pristopom se postopek znotraj peskovnika Uporablja poverilnice, vendar jih nikoli ne vidi.To močno zmanjša vpliv morebitne ugrabitve agenta. Vendar pa ta prednost izgine v trenutku, ko shranite ključ v datoteko ali okoljsko spremenljivko znotraj peskovnika: model ga lahko nato neposredno prebere in vsako vbrizgavanje ukazov mu lahko naroči, naj ga filtrira.
Meja in stanje življenjskega cikla
Končno je tu še časovna omejitev: Kaj se ohrani in kaj se uniči, ko se okolje ustaviAgenti niso enkratni procesi: berejo, prevajajo, odpravljajo napake, odpirajo več hipotez, nekatere opuščajo, druge nadaljujejo ... To zahteva izvajalno okolje, ki inteligentno upravlja stanje: hiter zagon, začasna ustavitev, posnetki, razvejanje in varno brisanje.
Nekatere platforme ponujajo posnetki pomnilnika, skupine predhodno segretih okolij in funkcije razcepitve iz določenega stanja (na primer že overjenega brskalnika ali delno razrešenega grafa odvisnosti). To loči uporabnega agenta – tistega, ki lahko interaktivno iterira – od agenta, ki potrebuje večnost, da vedno znova ponovi isto nastavitev.
Implementacije peskovnika v sistemih macOS, Linux in Windows
Poleg komercialnih izdelkov se je veliko ekip odločilo za izkoristite izolacijske primitive, ki so že prisotni v operacijskih sistemih da zgradijo lastne peskovnike kodnih agentov brez dodajanja težjih plasti. Ključno je razumevanje, kaj vsaka platforma prinaša.
Peskovnik v sistemu macOS: profili varnostnega pasu in dinamični profili
V sistemu macOS je bilo ocenjenih več modelov: App Sandbox, vsebniki, virtualni stroji in Seatbelt. Prve možnosti imajo za razvojno okolje znatne pomanjkljivosti: Sandbox aplikacij zahteva podpisovanje vsake binarne datoteke, ki jo agent lahko izvede in podeduje zaupanje podjetja, kar odpira vektorje zlorabe, če agent sam ustvari ali spremeni binarne datoteke; vsebniki so omejeni na ekosistem Linuxa; tradicionalni virtualni stroji dodajo veliko zakasnitve zagona in porabe pomnilnika.
Praktična alternativa je bila zanašanje na Varnostni pas, dostopen prek sandbox-execČeprav ga Apple že leta označuje za zastarelega, ga še vedno uporabljajo kritične aplikacije, kot je KromOmogoča vam izvajanje ukazov v profilu peskovnika, ki omejuje vedenje celotnega drevesa potomcev procesov.
Ta profil zelo podrobno določa dovoljenja: Lahko filtrira določene sistemske klice in bere ali piše v določene datoteke in imenike.z uporabo posebnega jezika pravilnikov. Obstajajo implementacije, ki ta pravilnik dinamično generirajo med izvajanjem, pri čemer združujejo konfiguracijo delovnega prostora, pravilnike skrbnika in datoteke za ignoriranje uporabnikov, tako da ima agent prostor za manevriranje, ne da bi se dotaknil nevarnih območij.
Sandboxing v Linuxu: Landlock in seccomp
Linux ponuja večjo prilagodljivost in več dela: jedro razkriva primitive, kot so Izhod na kopno in varnoVendar je odgovornost uporabniškega prostora, da jih združi v koherenten in obvladljiv peskovnik.
Namesto da bi se zanašali izključno na zunanje projekte, se nekatere ekipe odločijo za Za blokiranje sistemskih klicev, ki veljajo za nevarne, uporabite neposredno ukaz seccomp. in Landlock za omejitev dostopa do datotečnega sistema. Pogost vzorec vključuje namestitev uporabnikovega delovnega prostora na vrh prekrivnega sloja datotečnega sistema in Zamenjajte datoteke, označene kot prezrte, s posebnimi kopijami, zaščitenimi z Landlockom.tako da izolirani proces ne more prebrati ali spremeniti ničesar, kar dejansko želite skriti.
Najpočasnejši del tega pristopa je običajno iskanje in ponovno sestavljanje vseh teh datotek, saj Linux ne ponuja preprostega načina za iskanje celotne poti datoteke znotraj filtra seccomp-bpf.Kljub temu je rezultat dokaj dober peskovnik: agent lahko dela s svojim drevesom projektov, medtem ko so prepovedane poti dejansko zunaj njegovega vesolja.
Peskovnik v sistemu Windows: zanašanje na WSL2
V sistemu Windows je zgodba drugačna. Ustvarjanje splošnega izvornega peskovnika je veliko bolj zapleteno, ker Večina obstoječih izolacijskih primitivov je zasnovanih za brskalnike ali drugo zelo specifično programsko opremo.in se ne ujemajo dobro z vsestranskimi razvojnimi orodji.
Praktična rešitev je zaženite peskovnik Linux znotraj WSL2Na ta način reciklirate Linuxova orodja za izolacijo (Landlock, seccomp, imenski prostori itd.) na virtualizacijski osnovi, ki izolira razvojno sejo od gostitelja Windows. Hkrati poteka usklajeno delo z Microsoftom pri razkrivanju novih primitivov, ki bodo sčasoma omogočili bolj izvorno delovanje v peskovniku za razvojna orodja.
Peskovnik Windows: izoliran prostor, integriran v sistem
Za tiste, ki uporabljajo Windows 10 ali 11 v izdajah Pro, Enterprise ali Education, je na voljo še posebej zanimivo orodje: Peskovnik sistema WindowsGre za lahek virtualni stroj, integriran v sam sistem, ki omogoča zagon nezaupanja vrednih aplikacij ali sumljivih datotek v okolju za enkratno uporabo.
Ideja je preprosta: ko odprete Windows Sandbox, se ta zažene začasno, čisto namizje sistema Windows, kot da bi bilo na novo nameščenoVse, kar vanj kopirate ali namestite – programi, dokumenti, skripti – obstaja samo v tem primeru. Če zaprete okno, se okolje uniči: programska oprema, datoteke in stanje se zavržejo in naslednjič začnete znova.
Ključne značilnosti sistema Windows Sandbox
Ta funkcija ima več zelo uporabnih lastnosti za ročno testiranje v peskovniku brez zanašanja na orodja drugih proizvajalcev:
- Del sistema WindowsVse, kar potrebujete, je že vključeno v združljive izdaje (Pro, Enterprise, Education). Ni vam treba prenašati slik ali vzdrževati zunanjih virtualnih strojev.
- Za enkratno uporabo in brezhibnoVsak zagon je tako čist kot sveža namestitev sistema Windows. Ko zaprete okolje, se nič, kar počnete v njem, ne shrani v vašo napravo.
- Varno po zasnoviZa ločitev jedra peskovnika od gostiteljskega jedra uporablja strojno podprto virtualizacijo (Hyper-V). Za ločitev obeh svetov uporablja Microsoftov hipervizor.
- Učinkovito: zagon je hiter, v nekaj sekundah, z inteligentnim upravljanjem pomnilnika in podporo za virtualne grafične procesorje, pri čemer porabi manj virov kot tradicionalni virtualni stroj.
Tehnično gledano se obnaša tako, majhen virtualni stroj Windows za enkratno uporabo, kar je povsem veljavno za testiranje namestitvenih programov, obiskovanje dvomljivih spletnih mest ali odpiranje e-poštnih prilog, za katere ne zaupate, da se bodo izvajale v vašem resničnem sistemu.
Praktični scenariji za uporabo peskovnika Windows
Obstaja več tipičnih scenarijev, kjer se Windows Sandbox izkaže kot preprosta ročna rešitev za uporabo sandboxa:
- Poskusite neznano programsko opremoKo prenesete aplikacijo ali izvedljivo datoteko z interneta in niste prepričani o njenem izvoru, jo lahko najprej namestite v peskovnik Windows in si ogledate, kako se obnaša, ne da bi pri tem tvegali svoj računalnik.
- Varnejše brskanje po spletu: za Obisk potencialno nevarnih spletnih mest, zlonamerne programske opreme ali spletnih mest za lažno predstavljanjeBrskalnik lahko odprete znotraj peskovnika. Če gre kaj narobe, boste preprosto zaprli okno in izbrisali vse sledi.
- Odpiranje nezaupanja vrednih prilog in datotekČe prejmete sumljivo prilogo ali datoteko ZIP, ki ne vzbuja zaupanja, jo kopirate v peskovnik, jo tam odprete in po pregledu odločite, ali se splača kaj izvleči v vaš pravi sistem.
- Predstavitve in preizkusi specifičnih orodijIdealen je za ustvarjanje predstavitev programske opreme, testiranje predoglednih različic, razširitev ali dodatkov, ne da bi pri tem zapolnil glavno namestitev.
- Vzdrževanje več ločenih razvojnih okolijZa vsak jezikovni sklad ali različico lahko ustvarite ločene, izolirane prostore, na primer peskovnik za vsako različico Pythona in njegove odvisnostida poskusi ne bi motili vašega stabilnega okolja.
Zahteve in licence za uporabo sistema Windows Sandbox
Windows Sandboxa ne morejo uporabljati vsi, vendar je že na voljo v mnogih profesionalnih okoljih. Če ga želite omogočiti v računalniku, potrebujete:
- Združljiva izdaja sistema WindowsWindows 10/11 Pro, Enterprise, Pro Education/SE ali Education. Izdaja Home ni podprta.
- Podpora za virtualizacijoBistveno je imeti funkcije virtualizacije v BIOS-u/UEFI-ju (Intel VT-x, AMD-V ali enakovredno).
- Minimalna sredstva: vsaj 4 GB RAM-a (čeprav je priporočenih 8 GB), 1 GB prostega prostora na disku – po možnosti SSD – in vsaj 2 jedri procesorja (idealno 4 s hipernitnostjo).
- posodobljen operacijski sistemZačenši z določenimi gradnjami (na primer gradnja sistema Windows 10 18305 in novejšimi ter sodobnejše gradnjami sistema Windows 11). V ARM64 je združljivost prišla z novejšimi gradnjami.
Glede licenc, Izdaje Pro, Enterprise in Education vključujejo pravico do uporabe sistema Windows Sandbox. Ni vam treba plačevati dodatnih licenc za programsko opremo za virtualizacijo. Samo aktivirajte jo in pripravljeni ste.
Kako aktivirati Windows Sandbox brez dodatnih orodij
Za zagon in delovanje ne potrebujete ničesar zunaj samega sistema:
- Odprite meni Start in poiščite možnost "Vklop ali izklop funkcij sistema Windows".
- Na seznamu funkcij označite Peskovnik sistema Windows in potrdite.
- Znova zaženite računalnik, ko boste pozvani.
- Po ponovnem zagonu v meniju Start poiščite »Windows Sandbox« in ga zaženite.
Če imate raje bolj tehnični pristop, ga lahko omogočite tudi s PowerShellom z ukazom Omogoči-WindowsOptionalFeature -FeatureName »Vsebniki-DisposableClientVM« -Vse -Na spletupod pogojem, da imate skrbniške pravice. Ko je peskovnik aktiviran, bo vedno na voljo, kadar koli boste potrebovali ta varni "drugi stroj".
Datoteke za konfiguracijo in prilagajanje
Podpira Windows Sandbox preproste konfiguracijske datoteke, ki vam omogočajo prilagajanje določenih parametrov okoljaNa primer, priklop map gostitelja v načinu branja ali branja in pisanja, onemogočanje omrežja, izvajanje skriptov ob zagonu itd. Te datoteke so na voljo od določenih različic sistema Windows 10 in 11 naprej.
V praksi vam ta zmožnost pomaga ustvariti "recepte" za peskovnik: konfiguracija z onemogočenim omrežjem za odpiranje zlonamerne programske opremeDruga z mapo projekta, nameščeno v načinu samo za branje za pregledovanje datotek, ali konfiguracijo, usmerjeno v testiranje programske opreme, z določenimi orodji, ki so vnaprej nameščena v osnovni sliki.
Kako naučiti agente umetne inteligence pravilno uporabljati peskovnik
Peskovnik je resnično učinkovit le, če Agent kode sam razume okolje, v katerem deluje. in ve, kdaj lahko deluje prosto in kdaj mora zaprositi za dodatno dovoljenje ali človeško pomoč.
Da bi to dosegli, so morale številne platforme temeljito prenoviti infrastrukturo, ki opisuje orodja za model. Na primer, posodobiti opise orodij lupine, da bi jasno pojasnili:
- Katere omejitve nalaga peskovnik? (dostop do datotečnega sistema, gita, omrežja).
- Kako lahko agent zahtevajte nadgradnjo dovoljenj ko nekaj ne uspe zaradi pomanjkanja privilegijev.
- Katere vrste ukazov bodo najverjetneje blokirane?
Te spremembe se ne izidejo vedno popolnoma takoj: običajno je potrebno Obsežno ročno testiranje dejanskih potekov uvajanjaAnaliziranje, kje se pričakovanja modela kršijo, in prilagajanje pozivov in navodil. Z merjenjem vedenja s peskovnikom in brez njega v internih primerjalnih testih se prepoznajo vzorci napak, kot so agenti, ki Isti ukaz ponavljajo v zanki, ki jo peskovnik blokira. namesto da bi razumeli, da morajo zahtevati druga dovoljenja ali spremeniti svojo strategijo.
Praktična izboljšava se bo pokazala v rezultatih orodja specifičen razlog za blokado, ki jo je naložil peskovnik in celo izrecno predlagati agentu, da po potrebi zahteva povišana dovoljenja. Ta majhen namig drastično zmanjša število slepih ponovnih poskusov in izboljša okrevanje po napakah, povezanih z izolacijo, tako pri testiranju brez povezave kot pri produkciji.
Da bi zagotovili, da peskovnik ne bi poslabšal uporabniške izkušnje, so se številna podjetja odločila za uvajajte ga postopomaZbiranje notranjih in zunanjih povratnih informacij pred privzeto aktivacijo. Podatki so običajno jasni: znaten delež zahtev (na primer približno tretjina) se na koncu izvede v peskovniku na združljivih platformah, z opaznim skrajšanjem tako časa čakanja na odobritev kot tudi časa ročnega pregleda.
Modeli izolacije in lekcije o varnosti iz resničnega sveta
V praksi ni enega samega "popolnega peskovnika". Med njimi so pomembne razlike skupni vsebnik jedra, peskovnik, podoben gVisorju, mikrovirtualni stroj in polni virtuelni strojTa odtenek je pomemben, ko govorimo o tem, da agentu omogočimo zagon Dockerja, nameščanje poljubnih paketov ali celo zagon kompleksnih brskalnikov in niti.
Zgodovinski varnostni incidenti poudarjajo pomen pametne izbire: ranljivosti, kot so CVE-2019-5736 ali CVE-2024-21626, ki so omogočali skakanje iz vsebnika na gostitelja ali manipuliranje sistemskih binarnih datotek, dokazujejo, da lahko resna napaka podrene celotno oviro, kadar je vaša meja zaupanja izvajanje vsebnika v jedru gostitelja.
To postane bolj občutljivo pri kodirnih agentih, ker pogosto izvajajo nezanesljiva koda za prevajanje, gradnja slik, nameščanje odvisnosti brez revizije in na splošno obravnavajo zelo raznolike vhodne podatke. Poleg tega je pritisk, da se jim "da več moči", močan: če ne morejo uporabljati določenih orodij, pogosto ne opravijo svojih nalog.
Zato se številni sodobni modeli peskovnikov agentov nagibajo k okrepite mejo z uporabo mikro virtualnih strojev ali lahkih virtualnih strojevTo pa gre za ceno nekoliko večje kompleksnosti. Zmanjša se neposredna odvisnost od jedra gostitelja in pridobi se dodatna plast izolacije pred pobegi vsebnikov. V večnajemniških okoljih ali pri obsežnem izvajanju nezaupanja vredne kode gVisor ali Kata Container zasedata srednjo pot, pri čemer žrtvujeta združljivost za večjo izolacijo.
Človeške odobritve, politične odobritve in peskovniki: kako vse to združiti
En vzorec, ki se ponavlja povsod, je ta, Vloge za trajna dovoljenja se ne širijo dobroV predstavitvenem načinu je v redu, če agent pred dotikom datoteke zahteva dovoljenje. V produkcijskem načinu, s polavtonomnimi delovnimi procesi in številnimi majhnimi dejanji, se model »klikni V redu za vse« izkaže za sito.
Zrelejši pristop združuje več plasti:
- Močan peskovnik za zaščito gostitelja in omejitev izvajalnega okolja.
- Omejevalna omrežna politika za nadzor, s katerimi končnimi točkami se lahko agent pogovarja.
- Upravljanje poverilnic prek posrednikatako da jih model uporablja, ne da bi jih videl.
- Konfiguracije z različicami na ravni projekta (dovoljenja, kavlji, zunanji strežniki), tako da imajo ekipe en sam vir resnice v repozitoriju.
- Podagenti samo za branje za raziskovanje in načrtovanje, pri čemer se pisanje prepusti bolj nadzorovanim primerkom.
- Človeško odobravanje je rezervirano za resnično občutljiva dejanjaobjavljanje paketov, spremembe infrastrukture, rotiranje skrivnosti ali potiskanje v kritične veje.
Poleg tega je vredno razmisliti o kontrolna površina ki jih agentu posredujete skupaj s svojimi konfiguracijskimi datotekami, vtičniki in veščinami. Vodniki ponudnikov, kot je OpenAI, jasno opozarjajo, da lahko razkritje odprtih katalogov zmogljivosti ali dovoljenje komurkoli za definiranje močnih navodil znotraj repozitorija povzroči uhajanje podatkov ali uničujoča dejanja, če napadalcu uspe vstaviti zlonamerna navodila v datoteke README, težave, dokumentacijo ali vzorčne datoteke.
V dobrem načrtu se peskovnik ne obravnava kot čarobni trik, ki naenkrat odpravi varnost, temveč kot še ena meja znotraj arhitekture, ki vključuje politike, neodvisno preverjanje, skrbno upravljanje skrivnosti in preglede konfiguracijeTorej, tudi če predpostavimo, da agent nekega dne prebere zlonamerna navodila in jih uboga, je sistem zasnovan tako, da omejuje vpliv: ni neposrednega dostopa do ključev, ni odprtega omrežja in ni možnosti prikritega spreminjanja skriptov, ki jih nato zaženete na svojem pravem računalniku.
Navsezadnje postavitev dobrega ročnega peskovnika brez zanašanja na dodatno programsko opremo vključuje ... Kar najbolje izkoristite, kar vam macOS in Linux že ponujata. —Profili Seatbelt, Landlock in seccomp, Windows Sandbox in WSL2 —, v kombinaciji z jasnimi omrežnimi pravili, poverilnicami in upravljanjem življenjskega cikla okolja. Če k temu dodate agente, usposobljene za razumevanje teh omejitev, razumne politike in nekaj discipline glede tega, do česa lahko dostopajo v vašem delovnem prostoru, lahko tvegano kodo, orodja in datoteke preizkusite z veliko večjim mirom, saj veste, da bo težava, če gre kaj narobe, ostala znotraj peskovnika in ne bo uničila vašega sistema ali kritičnih podatkov. Delite informacije, da se bo o temi lahko seznanilo več uporabnikov.