Ki áll a tartalom mögött? Hogyan azonosíthatók az AI által létrehozott tartalmak?

A mesterséges intelligencia néhány év alatt a vállalati működés természetes részévé vált. Marketinganyagok, jelentések, képek, videók és ügyfélszolgálati válaszok készülnek AI segítségével nap mint nap. A technológia fejlődésével azonban egyre fontosabb kérdéssé válik: vajon tudjuk-e még, hogy egy tartalmat ember vagy mesterséges intelligencia hozott létre?

Az Európai Unió AI Act rendelete erre a kihívásra is választ kíván adni. Az egyik legfontosabb átláthatósági követelmény az AI által generált tartalmak jelölésének kötelezettsége, amelyet gyakran „vízjelezési kötelezettségként” emlegetnek.

Bár első hallásra technikai részletkérdésnek tűnhet, valójában a digitális bizalom egyik alapkövéről beszélünk.

Miért van szükség az AI-tartalmak azonosítására?

A generatív mesterséges intelligencia mára olyan szintre jutott, hogy egy jól megírt szöveg, egy professzionális kép vagy akár egy hangfelvétel esetében sokszor már nem lehet egyértelműen megállapítani, hogy ember vagy algoritmus készítette-e.

Ez számos kockázatot hordoz magában:

• félrevezető marketingkommunikáció;
• megtévesztő vagy manipulált médiatartalmak;
• hamis hang- és videófelvételek;
• a szerzőiség és a felelősség kérdésének elmosódása;
• a digitális tartalmakba vetett bizalom csökkenése.

Az AI Act célja nem az AI-jal létrehozott tartalmak használatának korlátozása, hanem az, hogy a felhasználók megfelelő információ birtokában dönthessenek arról, hogyan értékelnek egy adott tartalmat. A szabályozás alapgondolata egyszerű: ha egy tartalom létrehozásában mesterséges intelligencia vett részt, annak felismerhetőnek kell lennie.

Mit ír elő az AI Act?

Az AI Act 50. cikke az általános célú AI-rendszerek és generatív AI-megoldások átláthatósági kötelezettségeit szabályozza. A rendelet előírja, hogy az AI-rendszerek szolgáltatóinak olyan technikai megoldásokat kell alkalmazniuk, amelyek lehetővé teszik az AI által generált tartalmak felismerését és azonosítását.

A követelmény különösen fontos az olyan széles körben használt rendszerek esetében, mint például a ChatGPT, a Claude, a Gemini, a Microsoft Copilot, a Midjourney és más generatív AI-megoldások. A szabályozás mögött egyértelmű jogalkotói szándék áll: a felhasználók számára láthatóvá kell tenni, amikor egy tartalom mögött nem emberi szerző áll.

Mit jelent a „vízjel” a gyakorlatban?

A közbeszédben gyakran vízjelként hivatkozunk erre a követelményre, azonban a rendelet nem egyetlen konkrét technológiai megoldást ír elő. A lényeg nem maga a módszer, hanem az eredmény: az AI által generált tartalomnak felismerhetőnek kell lennie.

Látható jelölések

A legegyszerűbb megoldás, amikor az AI-rendszer közvetlenül feltünteti, hogy a tartalom mesterséges intelligencia segítségével készült.

„A tartalom mesterséges intelligencia támogatásával készült.”

Ez a megközelítés könnyen érthető, ugyanakkor önmagában nem nyújt védelmet a jelölés eltávolításával szemben.

Digitális vízjelek

Fejlettebb megoldás a digitális vízjelezés, amikor a tartalomba olyan információ kerül beágyazásra, amely a felhasználó számára nem feltétlenül látható, de speciális eszközökkel később ellenőrizhető.

Ez a megközelítés különösen képek, videók és hanganyagok esetében terjed. Előnye, hogy a tartalom eredetére vonatkozó információ nem kizárólag egy látható címkétől függ, hanem technikai szinten is hordozható.

Metaadat-alapú azonosítás

A tartalom eredetére vonatkozó információk a fájl metaadataiban is tárolhatók. Ilyen adatok lehetnek például:

• a generálás időpontja;
• az alkalmazott AI-rendszer neve;
• a modell verziója;
• az előállítás technikai körülményei.

Ezek az információk fontos szerepet játszhatnak egy későbbi vizsgálat vagy hitelesség-ellenőrzés során.

A C2PA szabvány szerepe

Az AI-tartalmak eredetének igazolásában egyre nagyobb jelentőséget kap a C2PA, vagyis a Coalition for Content Provenance and Authenticity szabvány.

A C2PA egy nyílt iparági specifikáció, amely a digitális tartalmak eredetének és hitelességének igazolását támogatja. A kezdeményezés mögött olyan globális technológiai szereplők állnak, mint az Adobe, a Microsoft, a Google, az Intel vagy a Sony.

A szabvány célja, hogy egységes módon lehessen nyomon követni egy digitális tartalom eredetét és módosításainak történetét. Ez azért különösen fontos, mert az AI Act ugyan kötelezettségeket ír elő, de a gyakorlati megvalósításhoz iparági szabványokra is szükség van.

A jelenlegi trendek alapján jól látható, hogy az európai szabályozás és a nemzetközi technológiai kezdeményezések egy irányba mutatnak: az AI által generált tartalmak átláthatóbbá tétele felé.

Milyen kérdések maradtak nyitva?

Bár a szabályozási cél egyértelmű, a gyakorlati megvalósítás még számos kihívást tartogat. Továbbra sem teljesen tisztázott például:

• hogyan maradnak meg az azonosító információk különböző platformok között;
• miként kezelhetők egységesen a szövegek, képek, videók és hangfelvételek;
• mennyire lesznek ellenállók a rendszerek a manipulációs kísérletekkel szemben;
• hogyan ellenőrizhető a megfelelőség globális digitális környezetben.

A következő évek várhatóan nemcsak a technológia, hanem az ellenőrzési és megfelelőségi gyakorlatok fejlődéséről is szólnak majd.

Mit jelent ez az AI-fejlesztők és szolgáltatók számára?

A megfelelésre való felkészülést nem érdemes az utolsó pillanatra hagyni. A tartalmak azonosíthatóságát támogató megoldások kialakítása várhatóan az AI-rendszerek alapvető követelményévé válik.

Az AI-fejlesztőknek és szolgáltatóknak ezért nemcsak azt kell vizsgálniuk, hogy a rendszer milyen tartalmat képes előállítani, hanem azt is, hogy az előállított tartalom eredete később hogyan igazolható, ellenőrizhető és dokumentálható.

Mit jelent ez az AI-t alkalmazó vállalatok számára?

Az AI-megfelelőség egyre kevésbé kizárólag informatikai kérdés. A jogi, minőségirányítási, adatvédelmi és compliance területek együttműködése válik szükségessé.

Ezért a szervezeteknek célszerű átgondolniuk:

• milyen AI-rendszereket használnak;
• milyen tartalmak készülnek AI támogatásával;
• szükséges-e belső szabályozás vagy jelölési gyakorlat kialakítása;
• hogyan biztosítható a transzparens kommunikáció az ügyfelek és partnerek felé;
• képesek-e a beszállítók és AI-szolgáltatók a szükséges átláthatósági követelmények teljesítésére.

Mit jelent ez a vezetők számára?

A mesterséges intelligencia használatának átláthatósága egyre inkább reputációs kérdéssé is válik. Azok a szervezetek, amelyek nyíltan és felelősen kommunikálnak az AI alkalmazásáról, hosszú távon nagyobb bizalmat építhetnek ügyfeleik és partnereik körében.

Az AI által létrehozott tartalmak jelölése ezért nem pusztán jogszabályi megfelelési feladat. Egyben üzleti és bizalmi kérdés is: a vállalatnak tudnia kell, mikor, hol és milyen módon használ mesterséges intelligenciát a kommunikációjában és működésében.

Határidők és felkészülés

Az AI Act új átláthatósági követelményei fokozatosan lépnek hatályba. Az újonnan piacra kerülő általános célú AI-modelleknek már 2025. augusztus 2-tól, a korábban forgalomba hozott modellek szolgáltatóinak pedig legkésőbb 2027. augusztus 2-ig kell megfelelniük az előírásoknak.

Az EU digitális szabályozási csomagja, az úgynevezett Digital Omnibus alapján ugyanakkor egyes határidők módosulhatnak. A generatív AI-tartalmak megjelölésére vonatkozó határidő a jelenlegi tervek szerint 2026. december 2. lehet.

Az AI-val előállított tartalmak azonosíthatóságának biztosítása nem csupán technológiai kérdés, hanem szabályozási, irányítási és reputációs feladat is. Azok a vállalatok, amelyek jelenleg is használnak generatív AI-megoldásokat, nem várhatnak a határidőkig: fel kell térképezniük az AI-használatukat, ki kell alakítaniuk a szükséges belső szabályozásokat, és meg kell győződniük arról, hogy beszállítóik és AI-szolgáltatóik is képesek lesznek megfelelni az új követelményeknek.

A megfelelés nem a határidők napján kezdődik, hanem a felkészülés első lépésével.

Az időben megkezdett felkészülés nemcsak a megfelelőségi kockázatok csökkentését szolgálja, hanem hozzájárul a szervezet hitelességének és az AI használatába vetett bizalom erősítéséhez is.