AI: Spustil ChatGPT lavinu, kterou už nezastavíme?
5. 6. 2023
Již nějakou dobu na půdě EU vzniká evropský zákon o umělé inteligenci – AI Act, který je zároveň prvním zákonem tohoto směru ve světě vůbec. Zároveň jsme zejména v posledních měsících v souvislosti s rozvojem ChatGPT mohli pozorovat stále aktivnější debaty v tomto směru, kdy některé země dokonce přistoupily k zákazu této aplikace. Jaký by mohl být další vývoj v této oblasti. A jak jej vnímá regulátor a banky? Na to se teď podíváme.
Správa finančních produktů vyžaduje řadu úkonů, které jsou často opakované a berou v úvahu spoustu faktorů na straně klienta i banky. Jedná se o úpravy produktů vyvolané změnami na straně klienta v důsledku životních situací, jako je narození dítěte, změna zaměstnání, příjmu a podobně, či o různé bezpečnostní procedury při autorizaci transakcí nebo třeba i interní procesy řízení rizik za použití ekonomických modelů. Správné stanovení ceny bankovních produktů je tak velmi komplexní cvičení. Kombinace různých faktorů vyžaduje typicky úsudek nad velkým množstvím dat. Prozatím však, jak upozorňuje František Nonnemann, který je v projektu Partners banky odpovědný za compliance a nastavení systému pro řízení operačních rizik, modely rozhodování vytvářeli a validovali jen lidé. „AI má výhodu, že se samostatně dokáže nejen z dat naučit správné postupy a následně je uplatňovat, ale hlavně se učit i z vlastních chyb a nezapomínat precedenty. Dnes se často stává, že s odchodem klíčového odborníka zmizí i kus firemního know-how, jak řešit některé situace. S AI se to stávat nebude. Finanční sektor bude určitě průkopníkem v zodpovědném zavádění AI, např. v oblasti individualizace cen. Očekávám, že jednotná evropská legislativa sjednotí postupy pro správné využívání AI a nebude naopak jejich brzdou.“
Ačkoli ale AI Act vzniká a poměrně hodně se o něm mluví, jak upozornila ČNB, úvodem je třeba říci, že v současnosti není k dispozici konečné znění návrhu. „Jeho finální posouzení proto není možné učinit. Obecně lze nicméně říci, že o přínosnosti současného znění návrhu AI Actu (AIA) pro finanční sektor máme pochyby, protože v již nyní přísně regulované oblasti, jakou je poskytování finančních služeb, existuje řada pravidel s obdobným účelem (například v oblasti jednání s klienty, v rámci řízení operačních rizik vč. IT rizik, ale platí i zákaz diskriminace spotřebitele). Nařízením AIA dotčené subjekty na finančním trhu, aktuálně zejm. úvěrové instituce a pojišťovny, tak možná budou muset plnit další specifické povinnosti vyplývající z AIA, aniž by to mělo větší praktický přínos, a ony i ČNB jen budou zatíženy další regulací. Za problematické považujeme i příliš široké vymezení AI v původním návrhu Komise, které zahrnovalo zcela běžně připoužívané statistické metody. ČNB se proto od počátku vyjednávání stavěla negativně k tomu, aby návrh AIA jakkoli dopadal na regulované subjekty na finančním trhu, neboť pro to neshledávala přesvědčivé důvody.“
To potvrzuje také František Nonnemann: „Návrh AI Actu je už nějakou dobu diskutován v Evropském parlamentu. Jeho projednání trochu zbrzdilo prudké rozšíření ChatGPT a podobných aplikací, které otázku umělé inteligence zasadily do reálných kontextů a zkušeností. Každopádně v červnu tohoto roku by mělo být o AI Actu hlasováno na plenárním zasedání. Pokud ho europarlament schválí, začne vyjednávání s Komisí a Radou a hledání kompromisu mezi jejich variantami a připomínkami. S ohledem na složitost celé otázky se obávám, že tato jednání mohou zabrat klidně další rok. Což s ohledem na to, jak technologie rychle postupují kupředu, nepovažuji za dobrou variantu.“
Návrh samotný pak zaměstnává také banky. „AI Act sledujeme a věnujeme se mu, avšak v tuto chvíli pouze okrajově. Primárně je totiž tento návrh zaměřený na generativní a obecné AI modely, zatímco umělá inteligence, kterou využíváme v bance, funguje na jiném principu. Nevylučujeme, že v budoucnu začneme používati jiné modely umělé inteligence, které budou více regulované, v tuto chvíli je však ještě příliš brzy na to říct, co konkrétně to bude znamenat,“ uvedl Jiří Suchý, ředitel divize Produkty a inovace v Air Bank. A podobně k tomu přistupují i ostatní, kteří přípravy nové legislativy sledují.
ChatGPT nemusí být revolucí
Jak už bylo naznačeno na začátku, poměrně hodně se mluví o ChatGPT. Ale může být tato technologie něčím, co změní finanční sektor? Podle Michala Skalického, který má v Partners bance na starost denní bankovnictví a vývoj depozitních produktů, samotný Chat- GPT zřejmě v tuto chvíli mnoho nezmění, protože do něj banky nemohou nahrávat uživatelská data a zároveň je služba na samotném začátku. „Ostatně, jak přiznává samotný Sam Altman (CEO OpenAI – firma stojící za ChatGPT a DALL-E), i poslední verze (ChatGPT 4) je stále velmi pomalá a obsahuje pořád mnoho chyb. To ovšem neznamená, že by to novější verze nebo další odvozeniny zaměřené přímo na banky nemohly změnit. Již nyní je možné v bankách AI využít, např. pro hromadnou, avšak maximálně personalizovanou komunikaci s klienty. Teoreticky se pak otevírají možnosti pro návrh investičního portfolia nebo pro automatické vyrovnávání hotovosti daného klienta tak, aby měl dostatek peněz na běžném účtu, adekvátní finanční rezervu na spořicím účtu a přebytky rozumně zainvestované. A to vše přesně na míru chování a potřeb konkrétní osoby a jejích blízkých.“
Na druhou stranu na ChatGPT je postavena už řada aplikací. Například Finchat.io, aplikace určená ke zjišťování relevantních a aktuálních informací o vybraných společnostech. „Ve finančním sektoru toho lze samozřejmě využít mnohem více, při obsluze klientů, řízení rizik atd. Pro analytické účely je AI rozhodně cestou, kterou do budoucna půjdeme. Klíčovou otázkou a rizikem, které je nutno řešit, je otázka ochrany informací a fakt, že většina AI služeb pracuje jen v cloudu,“ dodal Michal Skalický.
AI – revoluce, nebo hrozba?
Ačkoli na jednu stranu přináší nasazení umělé inteligence ve finančních službách obrovské možnosti, na druhou stranu spolu s nimi přicházejí, jak upozorňuje ČNB, také rizika. „Oblast nasazení AI technologií v bankovnictví je poměrně široká a jako nová technologie přináší AI nová rizika i pro klienty bank. Rizika se však liší podle toho, kde konkrétně je v bankovních službách AI aplikována. Obecně může použití umělé inteligence v bankách přinášet rizika informační bezpečnosti IT infrastruktury, na kterých je AI provozována. Dále se může jednat o chyby a nesprávná rozhodnutí, která mohou být způsobena nepřesnými daty při učení, či nedostatek transparentnosti pro kontrolu celého procesu člověkem. Dle aktuálních regulatorních požadavků jsou banky povinny rizika v ICT analyzovat a zmírňovat. V případě, že i po nasazení opatření je riziko příliš velké, je nutno aplikaci nové technologie přehodnotit a případně její spuštění posunout do doby, než budou vyvinuty nástroje pro efektivní zmírnění rizik,“ uvedla ČNB.
Podle Františka Nonnemanna pak nástroje využívající umělou inteligenci mohou představovat řadu rizik jak ve finančním sektoru, tak ve všech ostatních oblastech. „Kromě možného úniku nebo neoprávněného využití klientských dat hrozí i riziko pro další důvěrné informace, např. kódy bankovních systémů a aplikací, detailní popisy procesů, finanční data, způsob a faktické řízení kapitálu, likvidity či rizik, pokud budou k jejich přípravě, kontrole či zpracování využívány nástroje s AI. Spoléhání se na nástroje s AI v oblasti IT a informační bezpečnosti může vést k tomu, že si finanční instituce do svého prostředí zanese chyby, bezpečnostní nedostatky či slabiny (backdoors). K využití takovýchto nástrojů by proto banky i další subjekty měly přistupovat opatrně, obezřetně, vyhodnotit si související rizika, přijmout opatření k jejich zmírnění a využívání těchto nástrojů důsledně monitorovat. Další rizika můžeme spatřovat ve využití AI k útokům na finanční instituce i na klienty, například ve formě automatizovaných a více věrohodných phishingových či vishingových kampaní, obcházení bezpečnostních opatření bank pro přístup do internetového či mobilního bankovnictví nebo při potvrzování plateb. I s těmito riziky by banky měly počítat a přizpůsobit jim svoje postupy pro ochranu klientů, komunikaci s klienty atd.“
ChatGPT řeší už i EU
Jak už bylo řečeno, v některých zemích byl ChatGPT zakázán, zejména z důvodu ochrany osobních údajů, proto na úrovni Evropského sboru pro ochranu osobních údajů ale byla ustanovena „akční skupina“ (task force), která má ChatGPT řešit. Úřad pro ochranu osobních údajů jako člen Evropského sboru pro ochranu osobních údajů (EDPB) podpořil vznik zvláštní pracovní skupiny pro podporu spolupráce a výměnu informací o možných donucovacích opatřeních prováděných orgány pro ochranu osobních údajů v souvislosti s aplikací ChatGPT. Cílem činnosti pracovní skupiny je podpora spolupráce a výměny informací o možných kontrolních akcích dozorových úřadů ve vztahu k aplikaci ChatGPT. Nicméně svého zástupce v akční skupině ÚOOÚ nemá.
Podle vyjádření úřadu pak přístup k ochraně osobních údajů u zavádění nových technologií musí být založen na principu předběžné opatrnosti. „Lze totiž předpokládat, že takto pokročilé technologie mohou představovat rizika nekontrolovaného využívání, případně i zneužití osobních údajů a informací. Je také důležité vzít v úvahu, že kompetence jednotlivých dozorových úřadů (úřadů pro ochranu osobních údajů) nemají ‚globální‘ charakter, a je proto nejen technicky, ale i právně komplikované ‚zakazovat‘ určité služby na internetu,“ uvedl úřad ve svém prohlášení.
Zároveň, jak dodal František Nonnemann, i když ChatGPT v Itálii dočasně zakázali, společnost OpenAI do konce dubna splnila podmínky, které jí italský úřad pro další dostupnost ChatGPT v Itálii uložil, zejména v oblasti ověřování věku uživatelů a větší transparentnosti při zpracování osobních údajů, včetně jejich využití pro další rozvoj aplikace. „I když jsou tyto připomínky a požadavky důležité, nemyslím si, že zákazy jsou správnou cestou k nastavení pravidel pro využití umělé inteligence. Dají se obejít, samy o sobě neřeší problémy, které umělá inteligence skutečně může znamenat, a navíc aplikacím a nástrojům s umělou inteligencí dávají punc něčeho zakázaného, tajemného. A tím mohou v důsledku přispět k tomu, že je bude využívat ještě více lidí a o ochranu svých dat, nebo obecně práv a zájmů, se budou starat ještě méně,“ uzavírá.
Zdroj: časopis Bankovnictví
