Az MI árnyoldalai: manipulatív és kizsákmányoló gyakorlatok

Cikksorozatunk következő részeiben a mesterséges intelligencia (MI) használatának tiltott eseteit elemezzük. A tilalom célja a kizsákmányoló, manipulatív, társadalmi ellenőrzésre vagy megfigyelésre irányuló MI megoldások piacra kerülésének megakadályozása. Az MI rendelet így tiltja az európai uniós értékeket, például a szabadságot, egyenlőséget, demokráciát, a jogállamiságot vagy az olyan emberi jogokat sértő MI gyakorlatokat, mint az emberi méltóság, a magánélethez való jog vagy a véleménynyilvánítás szabadsága.

Az MI rendelet szerit tilos az általános célú MI modellek és MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, ha azok tiltott gyakorlatokat alkalmaznak. Így például egy munkáltató nem használhat a munkavállalója érzelmi állapotát monitorozó MI-rendszert (orvosi vagy biztonsági okokból történő felhasználás kivételével) – a tiltott gyakorlat pedig attól függetlenül megvalósul, hogy a szolgáltató és a munkáltató közötti szerződés megengedte-e az ilyen célú felhasználást vagy sem.

A tilalom vonatkozik az EU-n kívül letelepedett szolgáltatóra is, ha az MI-rendszert a saját neve, védjegye alatt az EU területén forgalmazza, vagy ott helyezi üzembe. Ugyanígy EU-n kívüli személyek is alkalmazónak minősülnek, ha az általuk használt MI-rendszer által előállított eredmény (kimenet) az EU-n belül kerül felhasználásra. Így a tilalom rájuk is vonatkozik.

Az MI-rendszerek fejlesztése során tehát a szolgáltatók akkor járnak el a legnagyobb gondossággal, ha a rendszereken az ésszerűen előre látható rendellenes használati módokat is elemzik: azaz végig gondolják, hogy a felhasználók feltehetően milyen célból fogják használni a terméket.

Az MI rendelet szerinti tilalom nem alkalmazandó semmilyen, az MI-rendszerekkel vagy MI-modellekkel kapcsolatos kutatási, tesztelési és fejlesztési tevékenységre azt megelőzően, hogy azokat forgalomba hozzák vagy üzembe helyezik. Ez biztosítja, hogy a potenciálisan tiltott gyakorlatok az MI-rendszer tesztelése során detektálhatóak és eliminálhatóak legyenek.

Az MI rendelet nem vonatkozik továbbá a személyes, nem szakmai használatra sem. Például, ha valaki az otthonában használ arcfelismerő rendszert annak érdekében, hogy csak ő tudjon belépni a házába, nem fogják terhelni az MI rendeletből adódó kötelezettségek. Azonban más jogszabályok, például a képmáshoz fűződő jogot védő szabályok, az ilyen magáncélú felhasználásra is vonatkozhatnak.

A továbbiakban két, az MI rendelet által tiltott gyakorlatot elemzünk: a károsan manipulatív gyakorlatokat és a sebezhetőséget kihasználó technikákat.

A károsan manipulatív gyakorlatok szubliminális, célzottan manipulatív vagy megtévesztő technikákat alkalmaznak. A sebezhetőségeket kihasználó technikák pedig személyeknek vagy személyek csoportjának az életkor, fogyatékosság, illetve egyedi szociális vagy gazdasági helyzet miatt fennálló valamilyen sebezhetőségét használják ki.

Ezen gyakorlatokat abban az esetben tiltja az MI rendelet, ha azok célja, hogy lényegesen torzítsák egy személy vagy egy csoport magatartását, és a gyakorlat ténylegesen jelentős károsodást okoz vagy valószínű, hogy ilyen károsodást okozhat. Például ha egy MI-rendszer gyors képvillanásokat használ a vásárlási döntések befolyásolására, akkor a manipuláció tudatalatti jellege miatt az előbbi, ezzel szemben egy olyan MI-rendszer, amely időseket céloz meg biztosítási ajánlatokkal a csökkent kognitív képességeik kihasználásával, az utóbbi kategóriába eshet.

Ahogyan az MI rendelet is kiemeli, a károsan manipulatív gyakorlatok úgy ássák alá vagy csorbítják a személy autonómiáját, döntéshozatalát, szabad választását, hogy annak az ember nincs is tudatában, vagy ha tudatában van, az alkalmazott technika megtéveszti, azt nem képes irányítani, annak ellenállni.

Ezek a technikák sokféleképpen megvalósulhatnak: például egy MI-rendszer olyan vizuális vagy hanghatásokat alkalmaz, amelyet tudatosan nem érzékelünk, de mégis közvetlenül hat a viselkedésünkre azzal, hogy egy konkrét termékre, gondolatra tereli a figyelmünket. A célzottan manipulatív technikák esetében az ember tudatában lehet a befolyásolásnak, de annak hatására olyan döntést hoz meg, amelyet saját akaratából nem tenne. Az MI-rendszerek alkalmazkodóképességüknek köszönhetően képesek reagálni az egyén körülményeire, sebezhetőségeire, így exponenciálisan növelhetik a manipuláció hatékonyságát is. Ugyanígy az is elképzelhető, hogy a szolgáltatónak nem áll szándékában egy manipulatív rendszer fejleszteni, azonban az azzá válik, például azért, mert a szolgáltató olyan adatkészleten tanította, ami a manipulációs technikák alkalmazásának irányába hatott.

A megtévesztő technikákra példaként említhető az olyan deep fake megoldást alkalmazó telefonáló chatbot, amellyel szintetizálható egy közeli barátunk, csaláldtagunk hangja. Az ilyen megoldásnak könnyen áldozatává válhatunk, és az csalásokra, visszaélésekre is felhasználható.

Az MI rendelet ugyan nem definiálja a sebezhetőség fogalmát, azonban a tilalom hatálya alá tartozó személyek körét azokra korlátozza, akiket életkoruk, fogyatékosságuk vagy társadalmi-gazdasági helyzetükből adódóan korlátozottabb képességgel rendelkeznek az MI manipulatív vagy kizsákmányoló gyakorlatainak felismerésére vagy azzal szemben ellenállás tanúsítására, ennélfogva fokozott védelemre szorulnak.

Ezen tilalmak az EU Alapjogi Chartájában rögzített alapjogok érvényesülését is szolgálják: így a gyermekek mindenek fölött álló érdekét, az idősek jogait, valamint a fogyatékkal élő személyek beilleszkedését. Az EU Bizottság iránymutatása számos példát hoz az egyes sebezhetőségeket kihasználó MI-rendszerekre, így például egy egyén szociális, gazdasági helyzetéből – például menekültstátuszából – eredő sebezhetőségét használja ki egy olyan MI alapú chatbot, amely felismeri ezen tulajdonságot, majd az egyén által megadott bemenetekre adott válaszaival szélsőséges ideológiák elsajátítására, majd a népességgel szembeni erőszakos tettek megvalósítására tereli őt.

Azt, hogy az előbbiekben ismertetett technikák vajon lényegesen torzítják-e személyek vagy csoportok magatartását, egy átlagos felhasználó szemszögéből kiindulva, mindig az adott ügy konkrét jellemzőit vizsgálva lehet megállapítani. A lényeges torzításra vonatkozó cél egyfajta szándékosságot feltételez: azaz kifejezetten az a gyakorlat célja, hogy torzítson; míg a hatás esetében a célzatnak nem kell fennállnia, elegendő azt kimutatni, hogy a gyakorlat objektív értékelése alapján képes aláásni az egyén autonómiáját.

A torzításnak emellett lényegesnek kell lennie, amely túlmutat a kisebb vagy elhanyagolható hatásokon: a szabad döntéshozatalra gyakorolt jelentős torzítást vagy akadályozást kell megvalósítania, amely magában foglal bizonyos fokú kényszerítést, manipulációt vagy megtévesztést, és egyben túlmutat a jogszerű gyakorlatokon. Ilyen jogszerű gyakorlatra példa egy olyan MI-rendszer, amely személyre szabott ajánlásokat küld átlátható algoritmusok és a felhasználói preferenciák, valamint beállítások alapján, és ezzel meggyőző kommunikációt folytat, de nem alkalmaz tudatalatti manipulációs, vagy a felhasználók sebezhetőségét kihasználó technikákat. A meggyőzés jogszerűségének vizsgálata során kiemelt figyelmet kell fordítani különösen az adatvédelmi és fogyasztóvédelmi normáknak történő megfelelésre is, emellett pedig a felhasználó hozzájárulása is döntő szempont lehet. Így például egy olyan MI-rendszer, amely szubliminális technikákkal segíti a felhasználót a nyelvtanulásban, nem minősül egyben károsan manipulatív technikának abban az esetben, ha transzparensen és a felhasználó előzetes, önkéntes és tájékozott hozzájárulása alapján működik. Ezenfelül a tilalmak nem érintik a gyógykezelés (például egy mentális betegség pszichológiai kezelése) során alkalmazott jogszerű gyakorlatokat sem, amennyiben azokat a más jogszabályokkal és az orvosi etikai normákkal összhangban végzik.

Végül, a tilalom fontos feltétele, hogy az MI gyakorlat jelentős károsodást okozzon vagy észszerű valószínűséggel okozhasson. Az okozott károk köre mind a pszichikai, pénzügyi, gazdasági, szociális károkat és ezek kombinációját is felölelik. Egy károkozás jelentős voltának megállapítása során figyelemmel kell lenni a kár súlyosságára, vagy annak lehetőségére, a lehetséges kumulatív hatásokra, az érintett csoportokra és sérülékenységükre, valamint a károk tartósságára és helyrehozhatóságára. A kár okozása, vagy észszerű valószínűséggel okozhatósága behatárolja az MI-rendszer szolgáltatójától és alkalmazójától elvárt intézkedések körét, illetőleg az okozati összefüggés határait. Nem várható el ugyanis ezen szereplőktől az, hogy minden lehetséges kimenetelt előzetesen feltárjanak. Ami viszont elvárható a szereplőktől az az, hogy minél transzparensebben működjenek, a jogszabályoknak és iparági sztenderdeknek megfeleljenek, valamint – az MI-rendelet által bizonyos esetekben kötelezően előírt – alapjogi hatásvizsgálatot folytassanak le.

Az európai jogalkotó tehát kiemelt figyelmet fordít az MI használatából származó kockázatok kezelésére, különösen azokra, amelyek manipulatívak vagy kiszolgáltatott helyzet kihasználására irányulnak. Az MI szolgáltatóinak és alkalmazóinak különös gondossággal kell eljárniuk a tiltott gyakorlatok elkerülése érdekében, így az MI-rendszerek nyújtotta lehetőségek mellett tekintettel kell lennünk azok lehetséges etikai és jogi kihívásaira egyaránt.

A cikksorozat következő részében újabb tiltott gyakorlatokat, köztük az ún. társadalmi pontozást (social scoring) is elemezni fogjuk.

Kovács Ábel Bulcsú, ügyvédjelölt

Amennyiben a fentiekkel kapcsolatban bármilyen kérdése merülne fel, kérjük, forduljon szokásos kapcsolattartó partneréhez, illetve dr. Dékány Csilla (e-mail: csilla.dekany@pwc.com) szenior irodai tag, ügyvédhez vagy dr. Csenterics András (e-mail: andras.csenterics@pwc.com) irodai tag, ügyvédhez.