Gondolkodik-e a gép, avagy az MI-rendszer fogalmának egyes szempontjai

A mesterséges intelligencia (MI), illetve az Európai Parlament és a Tanács azt átfogóan szabályozni kívánó 2024/1689. sz. rendelete (MI rendelet) igazi hot topic-ként az utóbbi hónapokban megkerülhetetlen tényezőjévé váltak a vállalati párbeszédnek. Rengeteg előadás, workshop, tréning, tudományos értekezés és cikk látott és lát napvilágot a témában. Kifejezetten az MI rendelet gyakorlati alkalmazásával kapcsolatos iránymutatásokban azonban még adósnak tekinthető a jogi szakma. Önmagában ugyanis a jogszabály szövegének pontos ismerete nem elegendő ahhoz, hogy megállapítsuk, hogyan értelmezendő az MI-rendszer fogalma, milyen kockázati besorolású egy adott rendszer, milyen jogi státusszal bír az MI fejlesztésével és/vagy használatával érintett szervezet az értékláncban, ennélfogva pedig milyen konkrét kötelezettségek terhelik, valamint a gyakorlat szintjén mit kell tennie ahhoz, hogy megfeleljen a kötelező szabályozásnak.

Annak érdekében, hogy az MI-t érintő szabályozásokat, így különösen az MI rendeletet a gyakorlat számára közelebb hozzuk, elsősorban a gyakorlati megfelelés egyes kérdéseire fókuszáló cikksorozatot indítunk. Ennek keretében az írás az MI rendeleten kívüli egyéb soft law dokumentumokra is utal helyenként, reményeink szerint ilyen módon hasznos információkat szolgáltatva a megfelelni kívánó piaci szereplők részére. A cikksorozat megindításakor fontos szempont volt számunkra az, hogy a cikkek minél inkább megfeleljenek a közérthetőség kívánalmainak, és minél több a gyakorlati példával alátámasztva mutassuk be ezen komplex jogszabályi környezetet.

A cikksorozat első részében az MI rendelet egyik legfontosabb fogalmát, az MI-rendszer definícióját járjuk körül. Bemutatjuk, mit ért a jogalkotó MI-rendszer alatt, milyen technológiák és megoldások tartozhatnak ebbe a körbe, és miért kulcsfontosságú a pontos értelmezés a jogi megfelelés biztosítása során. Ehhez elsősorban az Európai Bizottság által közzétett, az MI rendelet szerinti MI-rendszer definíciójára vonatkozó iránymutatást elemezzük (Iránymutatás), nem szem elől tévesztve azt, hogy a tárgybéli fogalom jelentős részben az OECD és az Európa Tanács MI-rendszer fogalmain alapul.

Az MI rendelet 3. cikk (1) bekezdésének 1. pontjában meghatározott komplex MI-rendszer definíció alapvetően 7 fő komponensre osztható:

• Egy gépi alapú rendszer,
• amelyet különböző autonómia szinteken történő működésre terveztek,
• amely a bevezetését követően alkalmazkodóképességet tanúsíthat,
• és amely a kapott bemenetből explicit vagy implicit célok érdekében
• kikövetkezteti miként generáljon olyan kimeneteket,
• mint például előrejelzéseket, tartalmakat, ajánlásokat vagy döntéseket,
• amelyek befolyásolhatják a fizikai vagy a virtuális környezetet.

A definíció ún. életciklus-központú megközelítést alkalmaz, ez alapján pedig az MI-rendszer működése két fő fázisra bontható: (i) „építési”, vagy tanítási fázis, (ii) „használati” fázis. Ennélfogva a definícióban foglalt egyes elemek csak az egyik fázisban értelmezhetőek, így pl. a (2) kritérium szükségképpen az „építési”, míg a (6) kifejezetten a „használati” fázisra utal, míg az (5) mindkettőben megjelenik.

Talán az (1) kritérium szorul a legkevesebb magyarázatra: egy MI-rendszer minden esetben gépi alapú rendszer. A „gép” a rendszer hardveres (pl. fizikai megjelenés, memóriakapacitás, bemeneti és kimeneti interfészek) és szoftveres (pl. programok, kódsorozatok) beágyazottságára utal. A „gépi rendszer” kifejezés értelmében az MI-rendszereknek számítástechnikai úton vezéreltnek és gépi műveleteken alapulónak kell lenniük.

A (2) kritérium az egyik legfontosabb, ugyanis az MI-rendszerek lényeges megkülönböztető jegye az autonóm működés képessége, vagyis, hogy képesek bizonyos mértékben emberi közreműködés, beavatkozás nélkül a külső környezetükkel interakcióba lépni. Az autonómia szintjét az emberi beavatkozás mértéke (lehetősége) határozza meg, amely alapvetően meghatározza az MI-rendszer kapcsán alkalmazandó kockázatcsökkentési intézkedéseket is, valamint az emberi felügyelet kialakításának lehetőségét.

Nagy előnye lehet az MI-rendszereknek az alkalmazkodóképesség: vagyis, ahogyan az MI rendelet (12) preambulumbekezdése is hangsúlyozza, az a szempont, hogy mennyire képes az adott rendszer a saját működéséből „tanulni”, a működése során tovább fejlődni. Ahogyan az Iránymutatás is hangsúlyozza, a (3) kritérium megléte, azaz egy rendszer azon képessége, hogy a kezdetben betáplált adatokból a konkrét utasításoktól eltérően új következtetéseket vonjon le fakultatív, és nem döntő feltétele annak, hogy MI-rendszernek minősül-e vagy sem, erre utal az MI rendelet fogalmának „alkalmazkodóképességet tanúsíthat” (feltételes mód) fordulata is.

Mint minden rendszernek egy MI-rendszernek is kellenek működési célok, amelyek elérése érdekében működik. A (4) kritériumot elemezve különbséget kell tennünk explicit és implicit célok között: előbbit a fejlesztő előre meghatározza és a rendszerbe kódolja; míg utóbbiak azt írják elő, hogy egy adott helyzetben milyen döntéseket hozzon a rendszer. Így például egy közösségi média hírfolyamot rendező MI-rendszer explicit célja lehet az, hogy mutassa meg a felhasználónak a legfrissebb bejegyzéseket; implicit cél viszont az lehet, hogy a felhasználó minél több időt töltsön az alkalmazásban. Ahogyan az OECD is rámutat, az implicit célok a tanító adatokban is megjelenhetnek – ebben az esetben a fejlesztő előre nem definiál implicit célt, hanem az MI-rendszer a tanító adatokból jön rá maga, hogy mit kell elérnie – erre kiváló példa egy olyan arcfelismerő MI-rendszer esete, amelyet sok ezer olyan arcképpel tanítanak, ahol minden képhez hozzá van rendelve az, hogy ki látható rajta, de a rendszerbe nincs az betáplálva, hogy fel kell ismerni az embereket, azonban a tanító adatokból megtanulja, hogy azonosítani kell az arcokat. Ugyanígy az MI-rendszer használata során is kialakulhatnak újabb, előre nem teljesen ismert működési célok: mint például egy streamingplatform ajánlórendszere esetében, amely nem tudja pontosan, hogy a felhasználó mitől elégedett, de a használat során folyamatosan tanulja az adott felhasználó filmes ízlését, így egyre pontosabb célokat határoz meg és kimeneteket generál. Azt is fontos megemlíteni, hogy az MI-rendszer által megvalósítani kívánt célok nem ekvivalensek feltétlenül az eredeti felhasználási céllal, amely utóbbit az MI rendelet értelmében szűkebben, az MI-rendszer szolgáltatója által meghatározott felhasználási módként kell értelmezni.

Az MI-rendszer egyik legfontosabb fogalmi eleme a következtető képessége (5). Ez a képesség az MI rendelet (12) preambulumbekezdése meghatározása szerint egyfelől arra utal, hogy a rendszer mennyiben képes kimeneteket előállítani, másfelől pedig, hogy bemenetekből vagy adatokból algoritmusokat vagy modelleket levezetni. Alapvetően ezen képesség határozza meg az adott MI-modell, illetőleg összességében az MI-rendszer fejlettségi szintjét is. A következtetési módszer vonatkozásában két fő megközelítés különíthető el, az egyik a gépi tanulási megközelítés: ebben az esetben adatokból „tanulja meg” az MI-rendszer, hogy miként lehet elérni bizonyos célkitűzéseket; a másik a logikai és tudásalapú megközelítés: ebben az esetben az MI-rendszerek kódolt ismeretek vagy a megoldandó feladat szimbolikus ábrázolása alapján következtetnek. A gépi tanulási megközelítés egyes fajtáit ismerteti az Iránymutatás, ezek közül az alábbiakat emeljük ki:

• Felügyelt tanulás (supervised learning): A felügyelt tanulás során az MI-rendszer annotált (címkézett) adatokból tanul, ahol a bemeneti adatokhoz hozzá vannak rendelve a helyes kimenetek, az MI-rendszer pedig ezeket az annotációkat használja fel arra, hogy megtanulja a bemenetek és kimenetek közötti összefüggéseket, majd általánosítsa azokat új, nem látott adatokra. Így például egy e-mail spam szűrő rendszer, ahol az e-mailek „spam”, „nem spam” címkékkel vannak ellátva, ez alapján a rendszer megtanulja ezek ellenzőit és a jövőben önállóan képes lesz a beérkező e-maileket osztályozni.
• Felügyelet nélküli tanulás (unsupervised learning): Ennek a módszernek a lényege az, hogy az MI-rendszer „nyers”, címkézetlen adatokat kap, és különböző technikákat alkalmazva önmaga talál mintákat, struktúrákat azokban. Ezt a módszert gyakran alkalmazzák pl. gyógyszerkutatásokban, ahol az MI-rendszer egyes kémiai vegyületek hasonlóságait elemezve javasol új kezelési lehetőségeket a kutatóknak.
• Félig felügyelt tanulás (self-supervised learning): A felügyelet nélküli tanulás alcsoportjának tekintendő. Ebben az esetben az MI-rendszer címkézetlen adatokból tanul felügyelt módon, az adatokat felhasználva saját címkéket vagy célokat hoz létre. Erre kiváló példa azon képfelismerő rendszer, amely megtanulja az objektumok felismerését azáltal, hogy előre jelzi a hiányzó pixeleket egy képen.
• Megerősítéses tanulás (reinforcement learning): Ez a módszer az MI-rendszer saját tapasztalataira épít egy „jutalom” függvény beiktatásával: azaz a rendszer nem kap címkéket, hanem a saját hibáira kapott külső visszajelzések alapján finomítja működését. Így például egy MI-vezérelt robotkar, amely tárgyak megragadására hivatott, folyamatosan próbálkozik a művelet végrehajtásával a környezetéből adott visszajelzések alapján.
• Mélytanulás (deep learning): A mélytanulás a gépi tanulás részhalmazának tekintendő, amely rétegezett architektúrákat (neurális hálózatokat) használ a tanuláshoz. A mélytanulás elérése érdekében az MI-rendszer több réteggel működik együtt a hálózatban, egyre magasabb szintű kimeneteket nyerve ki. A mélytanuláson alapuló MI-rendszerek a leggyakoribbak közé tartoznak és képesek nagy pontossággal mintákat felismerni és előrejelzéseket készíteni (például kép- és beszédfelismerésben).

Nem csupán a gépi tanuláson, hanem logikai, tudásalapú megközelítésen alapuló rendszerek is minősülhetnek MI-rendszereknek. Ezek a rendszerek nem adatokból tanulnak, hanem emberi szakértők által a rendszerbe kódolt szabályokból, tényekből és kapcsolatokból dolgoznak, ezek alapján logikai úton vonnak le következtetéseket. Kiváló példa erre a természetes nyelvi feldolgozást (NLP) alkalmazó rendszer, amely nyelvtani tudáson és logikai szemantikán alapul, és a nyelv szerkezetét, a mondatok szintaktikai, grammatikai elemeit azonosítja ahhoz, hogy meghatározza egy adott szöveg jelentését (pl. fordításban alkalmazzák). Kitér arra is az Iránymutatás, hogy az olyan rendszerek, amelyek bár rendelkeznek következtetési képességgel, de kizárólag előre meghatározott utasításokat hajtanak végre (így például standard táblázatkezelő szoftverek, adatbázis-kezelő szoftverek, amelyek csak adatokat rendeznek vagy szűrnek előre meghatározott kritériumok alapján), vagy statisztikai módszereket alkalmaznak adatok összegzésére vagy megjelenítésére – de nem ajánlanak fel javítási lehetőségeket, nem tanulnak az adatokból, és nem hoznak döntéseket – nem fognak MI-rendszereknek minősülni. Ugyanígy, egy olyan sakkprogram sem fog MI-rendszernek minősülni, amely csak előre beprogramozott szabályok alapján, minden lépés esetében mechanikusan elemez minden egyes kimenetelt, de mintázatokat nem ismer fel, nem alkalmazkodik az ellenfél játékához és nem is tanul a játszmákból.

A (6) kritériumot röviden elemezve nagyon fontos az MI-rendszer meghatározásakor az, hogy egy adott kimenetet (output-ot) generál. Az egyik leggyakoribb output az előrejelzés, vagyis a rendszerbe betáplált, meghatározott inputból egy bizonytalan jövőbeli helyzetre vonatkozó becslés (pl. az autókban működő vezetéstámogató rendszerek esetében grafikus és hangjelzés, amennyiben az autó előtt kis távolságban gyalogost észlel a jármű az úton). A tartalom valamely MI-rendszer előállított új anyagra utal (pl. a GPT modellek esetében egy chatbot által a felhasználó részére válaszként írt szöveg). Az ajánlások potenciális döntési lehetőségeket foglalnak magukban, míg a döntések azon következtetéseket, választásokat, amelyeket maga az MI-rendszer hozott meg.

Az utolsó, (7) jellemző arra utal, hogy az MI-rendszer nem passzív szereplő, hanem aktívan lehet képes befolyásolni a környezetét, mind fizikai mind virtuális értelemben.

Az Iránymutatásnak nem (és nem is lehet) célja, hogy minden konkrét MI-rendszert (vagy azok felhasználási módját) érintse, vagy, hogy teljeskörű felsorolást adjon az egyes MI-rendszerekről. Ezért minden gazdasági szereplő részéről egyedi mérlegelést igényel, hogy az általa fejlesztett, szolgáltatott, forgalmazott, importált, vagy alkalmazott rendszer MI-rendszernek minősül-e vagy sem, azaz, alkalmazni kell-e rá az MI rendeletet, így az abban foglalt kötelezettségeket is. Ez a mérlegelés minden további jogi megfelelés alapja és az esetek jelentős részében az MI-megfelelésre irányuló projektek egyik első lépése.

Végezetül, a jogi megfelelés az MI-rendszerek vonatkozásában messze túlmutat az MI rendelet szabályainak betartásán: az esetek legjelentősebb részében felmerülnek ugyanis egyéb jogterületekre tartozó kötelezettségek is, így különösen a fogyasztóvédelem, kiberbiztonság, adatvédelem és adott esetben szektorális jogszabályoknak való megfelelés, nem is szólva a klasszikus polgári jogi felelősségi kérdésekről. A megfelelés biztosítása tehát komplex, sokrétű szaktudást és az egyes területek (pl. informatika, beszerzés, jog) közötti együttműködést igénylő feladat.

A fenti blogbejegyzés megjelent a Jogászvilág szeptemberi számában.

dr. Kovács Ábel Bulcsú, ügyvédjelölt

Amennyiben a fentiekkel kapcsolatban bármilyen kérdése merülne fel, kérjük, forduljon szokásos kapcsolattartó partneréhez, illetve dr. Dékány Csilla (e-mail: csilla.dekany@pwc.com) szenior irodai tag, ügyvédhez vagy dr. Csenterics András (e-mail: andras.csenterics@pwc.com) irodai tag, ügyvédhez.