Studie IBM: Osm z deseti podniků v Evropě eskaluje incidenty související s umělou inteligencí představenstvu nebo vrcholovému vedení, zatímco agenti AI testují správu a řízení

IBM

80 % dotázaných manažerů v regionech Evropy a krajin Blízkého východu uvádí, že incident související s umělou inteligencí se v uplynulém roce dostal k jejich představenstvu nebo vrcholovému vedení, přičemž pouze 40 % z nich v reakci na…

• 75 % respondentů očekává, že agenti AI budou mít do roku 2027 určitou míru autonomie, pokud jde o rozhodování, ale pouze 37 % uvádí, že jejich správa a řízení je navržena tak, aby se dala škálovat s agentním nasazením AI.

• Pokud chtějí dotázané organizace nasadit AI rychleji, než je na to připraveno, téměř 60 procent (56 %) pokračuje v rámci dohodnutých limitů rizik, dokud se správa a řízení nepřizpůsobí; třetina (33 %) odkládá nasazení, dokud nebude správa a řízení připraveno.

• Pouze 37 % respondentů má formální, představenstvem posouzenou kvantifikaci finančních rizik způsobených mezerami v jejich správě a řízení AI.

Londýn – 16. října 2026: Nový výzkum společnosti IBM (NYSE: IBM) zjistil, že incidenty související s umělou inteligencí se dostávají do představenstev organizací v celé Evropě a na Blízkém východě, ale schopnosti správy a řízení a odpovědnost za rizika nedrží krok s přijetím této technologie.

Osm z deseti dotázaných manažerů uvedlo, že incident související s umělou inteligencí – včetně selhání agenta, úniku dat, chyby v rozhodování způsobené umělou inteligencí nebo narušení bezpečnosti umělé inteligence – se v uplynulém roce dostal k jejich představenstvu nebo vrcholovému vedení. Přesto méně než polovina (40 %) těchto organizací uvádí jako reakci změnu politiky nebo rámce správy a řízení umělé inteligence.

Když tempo zavádění umělé inteligence překročí připravenost rámců správy a řízení a dodržování předpisů, většina (56 %) dotázaných manažerů uvádí, že místo pozastavení, dokud se správa a řízení nepřizpůsobí, pokračuje v rámci dohodnutých limitů rizika. Pouze třetina z nich odkládá nasazení zcela, dokud nebude jejich správa a řízení připraveno.

Průzkum mezi více než 3 200 vrcholovými manažery v organizacích v osmi zemích Evropy a Blízkého východu naznačuje, že politiky správy a řízení budou dále testovány, protože agenti umělé inteligence budou přebírat autonomnější práci. Třicet pět procent respondentů uvádí, že v současné době provozují agentní umělou inteligenci v produkčním prostředí, ale tři čtvrtiny očekávají, že agenti umělé inteligence budou mít do roku 2027 určitou míru autonomie v rozhodování. Pouze 37 % uvádí, že jejich současný systém řízení je navržen tak, aby se dal škálovat s nasazením agentní umělé inteligence.

Ana Paula Assis, senior viceprezidentka společnosti IBM a předsedkyně představenstva IBM pro Evropu, Blízký východ a Afriku uvedla: „Debata o umělé inteligenci se přesunula od zavádění k řízení a odpovědnosti. S tím, jak se organizace posouvají od asistentů umělé inteligence k autonomním agentům, řízení již nelze považovat za úkol dodržovat předpisy. Stalo se z něj obchodní požadavek a nástroj umožňující tvorbu hodnot.

Podniky, které dokáží škálovat umělou inteligenci s odpovědností a důvěrou, budou v pozici, kdy budou moci realizovat obchodní hodnotu. To znamená, že řízení musí být součástí způsobu, jakým agenti fungují, s jasnými hranicemi toho, co mohou dělat, jasnou odpovědností v případě problémů a kontrolními mechanismy, které fungují v reálném čase.“

Rozdíl v odpovědnosti a ručeníTéměř všichni dotázaní manažeři (98 %) formálně přidělili odpovědnost za rizika spojená s umělou inteligencí na úrovni představenstva, včetně 26 % s vyhrazeným výborem pro umělou inteligenci na úrovni představenstva. Výzkum však nenalezl jasnou shodu ohledně odpovědnosti za nepříznivé výsledky agentů umělé inteligence. CIO nebo CTO organizace byl nejčastěji uváděnou rolí s přidělenou odpovědností za nepříznivé výsledky agentů umělé inteligence.

Názory respondentů na právní odpovědnost v případě, že systém umělé inteligence způsobí značnou škodu, byly rovněž rozděleny: 20 % uvádí, že by měla být rozdělena proporcionálně mezi provozovatele a dodavatele, 19 % uvádí, že by měl existovat regulační rámec, který dosud adekvátně neexistuje, a 14 % uvádí, že by ji měl nést dodavatel umělé inteligence nebo poskytovatel technologie.

Aby bylo možné do roku 2027 zvládnout stále více autonomních agentů umělé inteligence, kteří se v každém kroku rozhodují bez lidského souhlasu, očekávají manažeři potřebu formálních právních nebo smluvních rámců definujících odpovědnost dodavatele umělé inteligence za selhání agentů (33 %), definovaných prahových hodnot pro eskalaci s lidským přístupem (32 %), monitorování a auditní záznamy rozhodnutí a akcí agentů v reálném čase (30 %) a schopnost okamžitě zastavit činnost agentů v celém podniku (29 %).

Mezi další klíčová zjištění patří:Měření finančních rizik je méně etablované: Více než polovina (54 %) dotázaných manažerů řídí generativní nástroje umělé inteligence a systémy agentní umělé inteligence jako samostatné kategorie rizik se samostatnými rámci řízení a dalších 38 % uplatňuje stejný základní rámec, ale s dodatečnými kontrolami pro agentní umělou inteligenci. Měření finančních rizik z mezer v řízení umělé inteligence je méně pokročilé: pouze 37 % má formální, představenstvem přezkoumanou kvantifikaci finančního rizika vytvořeného mezerami v jejich řízení umělé inteligence.

Riziko dodavatelského řetězce: 54 % všech respondentů vnímá mezery nebo omezení v tom, jak jejich rámec řízení zahrnuje systémy a modely umělé inteligence používané klíčovými dodavateli, technologickými partnery a účastníky dodavatelského řetězce. Pouze 21 % průběžně monitoruje rizika spojená s umělou inteligencí třetích stran a 13 % uplatňuje požadavky na nezávislé ověřování nebo certifikaci.

Regulace utváří tempo v regionu: V EU 41 % dotázaných vedoucích pracovníků zrychluje investice do správy a řízení před vstupem vysoce rizikových povinností podle zákona EU o umělé inteligenci v prosinci 2027 a dalších 35 % je na dobré cestě se strukturovanými plány dodržování předpisů. Ve Spojeném království jsou očekávání regulačních orgánů v daném odvětví nejčastěji uváděným faktorem investic do správy a řízení umělé inteligence (27 %), zatímco v Saúdské Arábii a Spojených arabských emirátech vedou požadavky na národní strategii pro umělou inteligenci (61 %).

Metodika studie

Výzkum pro společnost IBM provedla agentura Censuswide mezi 3 221 respondenty z řad vrcholového vedení (včetně členů nejvyššího vedení – tzv. C-level) v organizacích s 1 000 a více zaměstnanci ve Spojeném království, Francii, Německu, Itálii, Španělsku, Nizozemsku, Saúdské Arábii a SAE. Sběr dat probíhal v období od 14. do 24. září 2026.

Zdroj: IBM