A Deloitte már tizennegyedik éve elemzi a technológiai szektor globális fejlődését. A Deloitte Tech Trends a következő évek fejlődési irányait meghatározó, piacot formáló aktuális trendjeit tartalmazza. A 2023-as kiadvány egyik kiemelt trendje a mesterséges intelligenciával ellátott rendszerek bizalmi kérdéseivel foglalkozik.

A számítástechnika már rég túlmutat azokon a kezdetleges megoldásokon, amelyek egyszerű, logikai feltételek kiértékelése által segítik a döntéstámogatást. A mesterséges intelligencia a megfelelő minőségű adatbázisok felhasználásával az emberi agy számára is gyakran értelmezhetetlen összefüggések felderítése révén, komplex, kognitív képességeket igénylő feladatok megoldását kínálja – ilyen a képfeldolgozás pl. az önvezető autóknál, vagy a nyelvi elemek feldolgozása a chatbotoknál.

„Az MI-vel vezérelt rendszerek egyik megkerülhetetlen hátránya, hogy a rendszer kimenetei gyakran csak nagy erőfeszítésekkel visszakövethetők, ráadásul sokszor bizonyulhatnak helytelennek.” – mondta Dr. Barta Gergő, a Deloitte Magyarország kockázatkezelési tanácsadás üzletágának szenior menedzsere.

A piacon napi szinten több száz új MI megoldás érhető el, és a legnagyobb szolgáltatók MI rendszerei között csak minimális teljesítménybeli különbség van. A legprofibb nyelvi alkalmazások ma már mind a GPT-3 modellt alkalmazzák, tehát jogosan merülhet fel a kérdés, hogy ki tudja az MI-ben rejlő erőt a leghatékonyabban kihasználni. A Deloitte kutatása szerint ma már a kielégítő teljesítményt nem is maga az algoritmus/modell határozza meg, hanem az, hogy a végfelhasználók értik-e és egyetértenek-e az MI döntéseivel.

„Emberi sajátosság, hogy nem fogadjuk el azt, amit nem értünk, így a legerősebb eszköz is egy egyszerű kőbalta egy bizalmatlan munkatárs kezében. A jövő sikeres mesterséges intelligenciájának létrehozását az ösztönzi majd a legnagyobb mértékben, hogy a fejlesztőcégek azt transzparens és megmagyarázható módon adják-e oda a felhasználók kezébe. Ha a felhasználók bizalmatlanok és nem hiszik, hogy az MI támogatja őket a mindennapi teendőikben, akkor nem fogják az MI-t használni, és annak bevezetése nem fog megtérülni.” – tette hozzá Kiss Dániel, a Deloitte Magyarország technológiai tanácsadás üzletágának partnere.

Gondoljunk úgy az MI-re, mint egy új munkatársra! Egy csapatot csak egy olyan új kolléga tud hatékonyan támogatni, aki nyitott, képes az őszinte kommunikációra, hajlandóságot mutat a visszajelzésekre a teljesítmény növelése érdekében, és így tovább. Ha az új MI munkatárs transzparens, könnyen megérthető, rugalmas és megbízható, akkor a munkafolyamatok természetes szereplőjévé válhat, egy frissen felvett kollégához hasonlóan. A Deloitte elemzése alapján három jól meghatározható pilléren alapszik a megbízható MI.

Transzparens adatgyűjtés

A transzparens adatgyűjtés lehetőséget biztosít az érintettek számára, hogy megértsék, miért van szükség bizonyos adatok felhasználására és hogy azok milyen módon kerülnek feldolgozásra. A felhasználók így megfelelően kontrollált környezetben hozhatnak megalapozott döntéseket arról, hogy az MI eszköz valós értéket tud-e a számukra létrehozni.

Megmagyarázhatóság

Az MI egyik legnagyobb kihívása a fekete-doboz jellegéből adódik. Ez azt jelenti, hogy számos algoritmus-család csak nagyon nagy erőforrás-ráfordítással válik értelmezhetővé, mely természetes bizalmatlanságra ad okot. A fekete-dobozokat azonban lehet fehéríteni, ha a végfelhasználók már a probléma definiálásánál jelen vannak és a rendszer fejlesztésében is részt vesznek – sőt, saját szakértői véleményt szolgáltatnak az egyes feladatok megoldásánál, azt tesztelik, majd értelmezik az egyes kimeneteket.

A tökéletes nem létezik

A napi munka során hozzászokhattunk, hogy az általunk használt alkalmazások többé-kevésbe úgy működnek, ahogy azokat alapjaiban el is várjuk. A CRM rendszerben felvett új szállító például már megjelenik a képernyőn a következő számlázáskor, vagy a helyesen beírt jelszó után hozzáférhetünk a vállalati erőforrásokhoz. Az MI esetén a legtöbb esetben valószínűségekkel fogunk találkozni, ezért a kérdés az, hogy egy adott MI modell milyen pontossággal tud választ adni egy adott problémára – ez pedig csak nagyon ritka esetben lesz 100%-os. Az MI esetén ugyanis nincs hibás döntés, csak historikus adat alapján történő becslés, amit a felhasználóknak kell értelmezniük. Az MI egyelőre nem döntéshozó, hanem döntéstámogató: ezt a felhasználóknak is meg kell érteniük, és ennek szellemében használniuk az MI-t.

“Az MI-vel ellátott alkalmazások és technológiák olyan feltörekvő képességek birtokában vannak, melyekről a legtöbb felhasználó úgy gondolja, hogy azok az emberek kizárólagos felségterületébe tartoznak. Ahogy a szervezetek ezen képességeket implementálják, kiemelten fontos, hogy már a tervezési fázisban körültekintően kitérjenek a felhasználókkal történő interakciókra és arra, hogy felmérjék, hogy milyen hatással lesznek az intelligens alkalmazások a bizalomra. Számos vállalat számára az MI gyökeres pozitív változást, és így bevételnövekedést vagy költségcsökkentést eredményezhet, a bizalom hiánya azonban akadályt gördíthet az ambiciózus projektek elé.” – mondta Dr. Barta Gergő.