A csatolmány adata nem rendszerutasítás

A melléklet szövege a feldolgozandó tartalom része. Ha azt írja, hogy a rendszer hagyja figyelmen kívül a szabályait vagy továbbítson adatot egy címre, az nem válhat új felhatalmazássá. A dokumentum szerzője nem feltétlenül az alkalmazás megbízója. Ezt a határt technikai és folyamatbeli védelemmel is meg kell tartani, nem pusztán egy általános figyelmeztető mondattal.

A feldolgozó feladat legyen szűk: például követelménylista készítése vagy számlamezők előkészítése. A melléklet tartalma ne dönthesse el, milyen más rendszerekhez fér hozzá az alkalmazás. A modell válasza is adatként kerüljön a következő lépésbe, amelyet az alkalmazás ellenőriz. Egy kinyert szöveg nem indíthat automatikusan új adatküldést vagy jogosultságmódosítást.

A fájltípus és a feldolgozási út legyen meghatározott

A rendszer csak azokat a dokumentumfajtákat fogadja automatikusan, amelyekhez kialakított és tesztelt feldolgozó út tartozik. A kiterjesztés önmagában nem elegendő a tartalom megítéléséhez. A befogadás nézze a tényleges formátumot, a méretet és a feldolgozhatóságot. Egy nem támogatott állomány kapjon érthető állapotot és szükség esetén emberi átvételt.

Az archívumok, jelszavas fájlok és beágyazott objektumok külön kezelést igényelhetnek. A rendszer ne nyisson meg vagy futtasson tetszőleges tartalmat azért, hogy mindenáron szöveget nyerjen ki. A biztonsági ellenőrzést és az AI-alapú értelmezést külön rétegként kell megtervezni. A modell nem helyettesíti a fájlvédelmi és üzemeltetési kontrollokat.

Mellékletfajtánként más jogosultság kellhet

A Microsoft Graph dokumentációja a fájlmelléklet mellett beágyazott elemet és hivatkozásos mellékletet is leír. Egy hivatkozás esetén a dokumentumhoz való hozzáférés nem következik abból, hogy a levél megérkezett. A rendszernek ellenőriznie kell, hol és milyen jogosultsággal érhető el az anyag. A hiányzó hozzáférést nem szabad a felhasználó nevében végzett megkerüléssel pótolni.

A befogadási napló mutassa meg, mely állományt milyen feldolgozó olvasta és milyen eredménnyel. A felhasználó számára ez egyszerű állapot lehet: feldolgozva, ellenőrzésre vár vagy nem támogatott. A belső részletek a megfelelő üzemeltetési nézetben maradjanak. A technikai hiba ne eredményezzen olyan ügyfélösszefoglalót, amely azt állítja, minden mellékletet áttekintettünk.

A rejtett utasításra több helyen lehet jel

A dokumentumban megjelenhet az eredeti feladathoz nem tartozó kérés, szerepváltás vagy adatküldési felszólítás. A Microsoft Prompt Shields dokumentációja a felhasználói és dokumentumalapú támadások felismerésének kérdését is tárgyalja. Egy ilyen szolgáltatás kiegészítő védelem lehet, de a vállalati alkalmazás saját jogosultsági és műveleti határait nem helyettesíti.

A detektált jelzéshez előre meghatározott viselkedés kell. A dokumentum kerülhet ellenőrzési sorba, a rendszer pedig rögzítheti a feldolgozás megszakításának okát. Ne írjuk ki a teljes gyanús tartalmat minden értesítésbe. Az ügyintézőnek azt kell tudnia, milyen anyag és milyen feladat akadt el, az érzékeny részletekhez pedig csak megfelelő hozzáféréssel jusson hozzá.

Szemléltető melléklet egy idegen adatküldési kéréssel

Egy kitalált ajánlatkérési PDF a műszaki leírás végén azt tartalmazza, hogy a feldolgozó küldje el a vállalat partnerlistáját egy megadott címre. A dokumentum eredeti feladata követelmények kiolvasása. A jó rendszer a felszólítást nem végrehajtandó lépésként értelmezi, és a feldolgozónak nincs olyan általános küldési jogosultsága, amellyel ezt megtehetné.

Az ügyintéző kap egy jelzést arról, hogy a dokumentum feladatidegen utasítást tartalmazhat. A további kezelés a cég szabályai szerint történik: kézi átvizsgálás, másik példány kérése vagy a dokumentum visszautasítása. A példában a védelem nem attól működik, hogy a modell mindig tökéletesen felismer minden támadást. A lehetséges következményt az alkalmazás felépítése is korlátozza.

A szövegkinyerésnek legyen erőforráskerete

Egy túl nagy vagy bonyolult dokumentum a modell előtt is megterhelheti a rendszert. A fájlméret, oldalszám, feldolgozási idő és memóriahasználat kapjon korlátot. A megszakadt munka legyen követhető, és ne induljon újra korlátlanul ugyanazzal a hibás bemenettel. A részleges eredményt külön kell jelölni: nem teljes dokumentum alapján készült kivonat ne tűnjön teljesnek.

A korlátot a vállalat valódi dokumentumai alapján érdemes kialakítani. Egy egyszerű számla és egy nagy műszaki dokumentáció eltérő útvonalat igényelhet. A kivételesen nagy állomány kézi vagy külön feldolgozási sorba kerülhet, megfelelő tájékoztatással. A cél nem minden fájl elutasítása, hanem az, hogy egyetlen különleges bemenet ne állítsa le a közös ügyfeldolgozást.

A kimenetet is ellenőrizni kell

A modell által előállított mezőknek legyen megengedett szerkezete és típusa. Egy partnerazonosító helyére ne kerülhessen tetszőleges végrehajtandó kód vagy új külső cím. Az alkalmazás az ismert ügyekkel és jogosultságokkal vesse össze a kimenetet. A dokumentumból kinyert URL-t sem kell automatikusan meglátogatni: az külön hálózati hozzáférési döntés.

Az ellenőrzés különítse el a formailag hibás választ és a tartalmilag bizonytalan eredményt. Az első újrafeldolgozást vagy hibaágat igényelhet, a második szakmai felülvizsgálatot. Az ismételt kérés se tágítsa automatikusan a jogosultságot. Ha a feladat a meglévő keretek között nem végezhető el, a rendszer jelezze ezt, és ne keressen megmagyarázatlan kerülőutat.

A próbában legyen szándékosan hibás bemenet

A tesztkészlet tartalmazzon jó dokumentumot és olyan változatot is, amely feladatidegen utasítást, túlméretes tartalmat vagy hibás szerkezetet tartalmaz. Figyeljük meg a teljes folyamatot, ne csak a modell szöveges válaszát. A kérdés az, történt-e nem engedélyezett művelet, elveszett-e a hiba jelzése vagy megtévesztően teljesnek látszott-e a részleges eredmény.

  • Nem támogatott formátum visszautasítása érthető állapottal.
  • Hiányzó hozzáférés jelzése jogosultságkerülés nélkül.
  • Dokumentumba írt adatküldési utasítás elkülönítése.
  • Túl nagy vagy hibás állomány korlátozott feldolgozása.
  • A kimenet szerkezeti és jogosultsági ellenőrzése.
  • Az emberi átvétel és a forrás visszakereshetősége.
Befogadási jel és rendszerhatár
HelyzetDöntési segítség
Nem támogatott fájlÉrthető visszautasítás vagy kézi út
Feladatidegen utasításNem végrehajtandó tartalomként kezelés
Túl nagy dokumentumKorlátozott feldolgozás, jelölt részleges eredmény
Kimenetben külső címKülön engedélyezés, nem automatikus lekérés

A bevezetés a lehetséges műveleteknél kezdődjön

A KOCI a melléklet-feldolgozási folyamatot a vállalat konkrét dokumentumaihoz és rendszereihez tudja illeszteni. Először azt kell eldönteni, mit olvashat a rendszer és mit tehet a feldolgozás után. A csak kivonatot készítő megoldás és a más rendszerben változtatást végző automatizálás eltérő kontrollt igényel. A hozzáférést a szükséges minimumhoz kell igazítani.

Az üzemi változások után a korábbi nehéz példákat újra érdemes futtatni. Egy új dokumentumfeldolgozó vagy modell másként viselkedhet a régi bemeneten. A biztonságos működés nem egyszeri beállítás, hanem ellenőrzött kiadások és követhető kivételek rendszere. A jó megoldás a hibát is kezelhető állapottá alakítja, ahelyett hogy minden dokumentumból feltétlenül kész eredményt ígérne.

Gyakori kérdések

Megoldja a veszélyt egy erős figyelmeztetés a promptban?

Hasznos utasítás lehet, de önmagában nem elegendő. A jogosultságokat, külső hozzáféréseket és műveleti lehetőségeket az alkalmazásnak is korlátoznia kell.

Miért kell a kimenetet ellenőrizni?

A modell válasza is feldolgozandó adat. Csak megengedett szerkezetű, az adott ügyhöz és jogosultsághoz illeszkedő érték kerülhet tovább a következő rendszerbe.

Minden gyanús fájlt törölni kell?

A kezelést a vállalat biztonsági és dokumentumkezelési rendje határozza meg. Lehet kézi vizsgálat, elkülönített tárolás vagy visszautasítás; a csendes eltüntetés helyett követhető döntés szükséges.

Források és további olvasnivaló

A cikk tájékoztató jellegű szakmai útmutató. Az említett példák szemléltető helyzetek; a saját vállalkozásodnál a konkrét adatok és a működési feltételek alapján érdemes dönteni.

Van egy hasonló feladatod?

Beszéljük át, hogyan ültethető át a gyakorlatba.

Projektet indítok

Kapcsolódó szolgáltatás: AI és automatizálás ↗