Az amerikai Gartner piackutató szerint 2028-ra a szervezetek 50%-a zéró bizalom politikát fog bevezetni az adatkezelésben a mesterséges intelligencia által generált, ellenőrizetlen adatok elterjedése miatt.
„A szervezetek már nem bízhatnak meg implicit módon az adatokban, és nem feltételezhetik, hogy azokat ember hozta létre” – mondta Wan Fui Chan, a Gartner ügyvezető alelnöke. Ahogy a mesterséges intelligencia által generált adatok áthatóvá és megkülönböztethetetlenné válnak az ember által létrehozott adatoktól, a hitelesítési és ellenőrzési intézkedéseket biztosító zéró bizalom politikája elengedhetetlen az üzleti és pénzügyi eredmények védelme érdekében” – folytatja Wan Fui Chan.
A mesterséges intelligencia által generált adatok növelik a kockázatokat
A nagy nyelvi modelleket (LLM-eket) jellemzően „webről lemásolt” adatokon és különféle forrásokon, például könyveken, kódtárházakon és kutatási cikkeken tanítják. Ezen források némelyike már tartalmaz mesterséges intelligencia által generált tartalmat, és ha a jelenlegi trendek folytatódnak, szinte mindegyiket végül mesterséges intelligencia által generált adatokkal fogják feltölteni.
Forrás: UC Best
Technológiai értelemben az LLM (Large Language Model): Mélytanuláson (deep learning) alapuló gépi tanulási modellek, amelyek valószínűségi alapon jósolják meg a következő szót, így képesek összefüggő szövegalkotásra.AI.
A Gartner 2026-os CIO és Technology Executive felmérése szerint a válaszadók 84%-a arra számít, hogy vállalata 2026-ban növeli a generációs mesterséges intelligencia finanszírozását. Ahogy a szervezetek felgyorsítják mind az MI-kezdeményezések bevezetését, mind a befektetők munkáját, az AI által generált adatok mennyisége tovább fog növekedni. Ez azt jelenti, hogy a jövőbeli LLM-generációkat egyre inkább a korábbi modellek kimenetein fogják képezni, ami növeli a „modell összeomlásának” kockázatát, ahol a mesterséges intelligencia eszközeinek válaszai már nem feltétlenül tükrözik pontosan a valóságot.
„Ahogy a mesterséges intelligencia által generált tartalom egyre elterjedtebbé válik, a „mesterséges intelligencia által generált” adatok ellenőrzésére vonatkozó szabályozási követelmények várhatóan szigorodni fognak bizonyos régiókban” – mondta Chan.
Stratégiai menedzsment intézkedések
A Gartner szerint az aktív metaadat-kezelési gyakorlatok kulcsfontosságú megkülönböztető tényezővé válnak, lehetővé téve a szervezetek számára, hogy elemezzék, riasztásokat küldjenek és automatizálják a döntéshozatalt az adatvagyonukon. A vállalat azt javasolja, hogy a vállalkozások számos stratégiai intézkedést fontoljanak meg az ellenőrizetlen adatok kockázatainak kezelésére, például:
- MI-irányítási vezető kinevezése
- A funkciók közötti együttműködés elősegítése
- A meglévő irányítási szabályzatok kihasználása
- Aktív metaadat-kezelési gyakorlatok bevezetése
Forrás: securityworldmarket.
