Mi történik, ha az AI hibázik és ki viszi el a balhét?

Amíg minden jól működik, az AI használata szinte észrevehetetlen. Segít automatizálni, dönteni és hatékonyabbá tesz folyamatokat. Egy idő után teljesen természetes lesz az alkalmazása minden területen. Egyre nagyobb bizalmat élveznek, ezzel együtt pedig egyre nagyobb döntési jogot is kapnak. Pont ezért fontos az a kérdés, mi történik, ha egyszer nem működik jól?

Sokan a mesterséges intelligencia névből adódóan valamilyen önálló intelligenciára gondolnak, azonban ez koránt sincs így. Az AI megoldások nem önállóan működnek, minden feladatra ember készíti fel, a betáplált adatokon tanulnak, előre meghatározott mintákat követnek. Azonban míg egy emberi hibát könnyebb visszakövetni, addig egy MI esetében sokkal nehezebb a felelősségi kört megtalálni. Ha egy kolléga hibázik, általában egyértelmű, hogy ki és mi alapján hozta meg a döntést és az is világos, hogy hogyan lehet korrigálni azt. Ha pedig egy MI rendszer ad egy javaslatot, amire valaki reagálva hoz döntést, abban az esetben utólag már nehéz megmondani, hogy valójában ki is döntött. Ez az úgynevezett felelősségi rés. Van következménye, de nincs egyértelmű felelőse.

Sok cég hivatkozik ilyen esetekben arra, hogy az „MI csak segített”, de a szabályozási logika nem így működik. Az AI Act azért jött létre, hogy az ehhez hasonló helyzetekben is tisztán lássuk a határokat, kereteket. Ebben az esetben pedig az egyik alapelve szerint, nem az számít, hogy a rendszer végső döntést hoz vagy sem, hanem az, hogy érdemben befolyásolja-e a döntést. Ha pontoz, rangsorol, előszűr, ajánl, akkor már hatással van a végkimenetelre, még akkor is, ha papíron egy ember hozza meg a döntést. Fontos ugyanakkor tisztázni, hogy az AI Act elsősorban azt szabályozza, kinek milyen kötelezettsége van a rendszer körül, a tényleges kártérítési felelősség kérdését jórészt a nemzeti jogra és a termékfelelősségi szabályokra hagyja.

Itt kezd érdekesebbé válni a kérdés, hogy ki viszi el a balhét?

Az AI Act nevén nevezi, hogy kire milyen felelősség hárul, a rendelet ugyanis szétszedi a szereplőket. Van, aki fejleszti a rendszert és a saját neve alatt piacra dobja, őt hívjuk szolgáltatónak. Van, aki ezt a kész rendszert nap mint nap használja a saját folyamataiban, ő az alkalmazó. A kettő között pedig felelősségi különbségek vannak, amelyeket a szabályozás pontosan megfogalmaz.

A szolgáltatónak amellett, hogy biztosítania kell a rendszer megfelelő működését, bizonyítania kell, hogy tesztelte, dokumentálta, végiggondolta a lehetséges eshetőségeket. Az alkalmazó felelőssége a rendszer használatánál kezdődik, hogy hogyan alkalmazza, biztosít-e emberi felügyeletet, betartja-e a használati útmutatót, tájékoztatja-e az érintetteket.

A szolgáltató és az alkalmazó a két főszereplő, de a lánc ennél hosszabb és egy kicsit bonyolultabb. Kiegészülhet forgalmazóval, aki a kész rendszert továbbadja, anélkül, hogy belenyúlna a rendszerbe. Az ő felelőssége ugyan korlátozottabb, de nem nulla, neki is meg kell győződnie arról, hogy a termék dokumentációja rendben van. Ha a rendszer esetleg az unión kívülről érkezik egy újabb szereplő lép elő, az importőr, akinek ellenőriznie kell, hogy a gyártó elvégezte a rá háruló megfelelési tevékenységet mielőtt a termék piacra kerül. A rendelet tehát nem egyetlen felelőst keres, hanem végig követi a rendszer útját a fejlesztéstől a tényleges használatig és minden állomáshoz rendel egy szereplőt.

A felelősségi rés, ami elsőre feloldhatatlannak tűnt, valójában csak látszólagos, amikor probléma adódik, valami félresiklik, a felelősség nem tűnik el a gép mögött, hanem szétoszlik a szereplők között. A fejlesztő – szolgáltató – akkor felel, ha a rendszer nem úgy működött, ahogy ígérte, vagy ha hiányos volt a dokumentációja. Az alkalmazó akkor, ha nem biztosított valódi emberi felügyeletet, vagy nem rendeltetésszerűen használta a rendszert. A „balhé” nem tűnik el, szétoszlik ugyan, de mindig van gazdája.

Sok cég esetében előfordul, hogy kiegészítő eszközként tüntetik fel a mesterséges intelligenciát. Ez azonban csak akkor állja meg a helyét az AI Act szerint, ha a rendszer nem rangsorol, pontoz, előszűr, vagy befolyásolja a végkimenetelt. Az emberi felügyelet nem szabad, hogy formaság legyen, a szabályozás pontosan azt várja el, hogy legyen valaki, aki ténylegesen felül tudja bírálni a rendszert, le tudja állítani, ha kell.

A másik oldalon pedig ott van az, akit az egész érint. Az AI Act nem csak a cégekre gondolt, hanem annak is jogot ad, aki a döntés végén áll. Ha valakit egy hátrányos döntés ér, kérhet felülvizsgálatot, magyarázatot arról, mi alapján született meg a döntés. Amennyiben ez nem elégséges panaszt is tehet a felügyeleti hatóságnál.

A mesterséges intelligencia rendszerek attól lesznek igazán megbízhatóak, hogy amikor hibáznak, van kihez fordulni. A balhét nem a gép viszi el, mögötte mindig ott áll valaki, aki döntött arról, hogy fejleszti, használja vagy rábízza magát. Talán épp ez a lényeg, az AI Act nem azt ígéri, hogy a rendszerek sosem hibáznak, hanem azt, hogy a felelősség nem tűnik el a gép mögött.