Umělá inteligence se posunula za hranice laboratoří a stala se každodenním nástrojem v podnicích. Nejvýznamnější kvalitativní skok v posledních měsících však nespočívá ve schopnosti generovat text nebo obrázky, ale v možnosti systémů jednat autonomně, činit rozhodnutí a provádět úkoly bez neustálých pokynů. Toto je známé jako agentní umělá inteligence, paradigma, které nově definuje, jak organizace chápou své procesy, své týmy a především své právní a etické povinnosti.
Rozdíl mezi chatbotem a agentem s umělou inteligencí je podstatný. Zatímco první se omezuje na odpovídání na otázky nebo provádění vyhledávání, druhý může plánovat, koordinovat a provádět složité akce jménem osoby nebo společnosti. Tato autonomie otevírá řadu příležitostí ke zlepšení efektivity, ale také vyvolává nebývalé otázky o tom, kdo je zodpovědný, když se něco pokazí, jak je zajištěna transparentnost a jaké limity by měly být stanoveny na schopnosti těchto strojů. V této souvislosti se ve Španělsku i ve zbytku Evropy objevují obchodní iniciativy a regulační rámce, které se snaží tyto výzvy řešit.
Od konzultace k akci: změna paradigmatu
Po léta byl vztah k umělé inteligenci založen na jednoduchém modelu: uživatel zadá požadavek a systém poskytne odpověď. U agentní umělé inteligence je tento model obrácený. Agent obdrží cíl, identifikuje potřebné nástroje, provede mezikroky a v mnoha případech se z výsledků učí pro budoucí použití. Tento posun není jen technický, ale i kulturní, protože nutí společnosti přesně definovat, co lze automatizovat, co by mělo být ponecháno na lidském zásahu a jaké kontrolní mechanismy jsou potřebné k prevenci chyb nebo zneužití.
Transformace na agentickou umělou inteligenci znamená, že organizace musí rozumět svým procesům na úrovni detailů, která dříve nebyla nutná. Nedávná studie Kellogg School of Management, publikovaná Think with Google, zdůrazňuje, že mnoho společností má jasnější představu o svém organizačním schématu než o skutečném pracovním postupu. Vědí, kdo komu podává zprávy, ale nevědí, jak informace proudí mezi odděleními nebo kde se skutečně činí rozhodnutí. Aby bylo možné využít potenciál agentů, je nezbytné studovat procesy od začátku do konce, identifikovat body, kde jsou klíčové tiché znalosti zaměstnanců, a definovat objektivní kritéria, která umožňují bezpečnému provozu stroje.
Zkušenosti z jiných oborů ukazují, že automatizace neodstraňuje úsudek, ale spíše jej přenáší. Například zavedení asistentů s umělou inteligencí v centrech zákaznických služeb ukázalo, že méně zkušení pracovníci zvyšují svou produktivitu až o 14 %, zatímco postupy zkušenějších zaměstnanců jsou integrovány do systému a prospívají celému týmu. Agenti jdou s touto logikou ještě o krok dál, protože mohou zasahovat do delších a složitějších procesů, jako je analýza konkurence nebo příprava zpráv, za předpokladu, že někdo předem definoval, co představuje spolehlivá data, kdy si změna zaslouží pozornost a kolik nejistoty je přijatelné.
Výzva tedy není jen technologická. Zavedení agentní umělé inteligence vyžaduje přepracování pracovních procesů, které cení znalostí zaměstnanců a schopnost managementu stanovit jasné hranice. Nestačí agentovi pouze dávat pokyny; musí být navržen celý pracovní postup, definována potřebná oprávnění pro každou akci a zavedeny kontrolní mechanismy, které zaručí kvalitu a bezpečnost výsledků. Tento úkol, který někteří odborníci nazývají „návrh práce“, se stává jednou z nejžádanějších dovedností v oblasti řízení podniku.
Odpovědnost a regulace: právní rámec se přizpůsobuje
Jedním z nejcitlivějších aspektů agentní umělé inteligence je připisování odpovědnosti, když agent udělá chybu nebo způsobí újmu. Paradigmatický případ se odehrál v roce 2024, kdy se kanadská letecká společnost Air Canada pokusila bránit argumentem, že její chatbot je samostatný subjekt, a proto je zodpovědný za své vlastní jednání. Soud tento argument zamítl a stanovil, že společnost je odpovědná za informace, které poskytuje na svých webových stránkách, ať už jsou generovány osobou nebo strojem. Toto rozhodnutí, ačkoli je skromné, co se týče odměny, stanovilo důležitý precedens: autonomie agentů nezbavuje organizace jejich odpovědnosti.
Na evropské úrovni regulace postupuje stabilně, i když pomalu. Nařízení o umělé inteligenci, které je již v platnosti, zavádí klasifikaci rizik a povinností pro systémy umělé inteligence bez ohledu na jejich obchodní označení. Dále tzv. nařízení Digital Omnibus odložilo některé povinnosti pro vysoce rizikové systémy, ale zachovává zákazy praktik považovaných za nepřijatelné a zdůrazňuje, že veškeré zpracování osobních údajů i nadále podléhá GDPR. Nová směrnice o odpovědnosti za vadné výrobky, jejíž transpozice musí být dokončena do prosince 2026, výslovně zahrnuje software a systémy umělé inteligence, což bude od výrobců vyžadovat, aby zaručili bezpečnost a sledovatelnost svých součástí.
Judikatura tuto problematiku také osvětluje. Rozhodnutí Evropského soudního dvora v případu SCHUFA stanovilo, že rozhodnutí lze považovat za automatizované, pokud hraje rozhodující roli posouzení stroje, a to i v případě, že jej osoba následně formalizuje. Toto kritérium zavazuje společnosti k navržení účinných systémů dohledu, v nichž má agent jasnou představu o tom, co může dělat, co vyžaduje schválení a co je technicky zakázáno. Pouhé umístění člověka na konec procesu jako validátora nestačí; lidský zásah musí být skutečný a musí mít schopnost zastavit nebo upravit jednání agenta.
Zákazník-stroj: nová ekonomika „zákaznických robotů“
Agent AI také mění vztah mezi podniky a jejich zákazníky. Spotřebitelé stále častěji využívají agenty k porovnávání cen, změně dodavatele nebo zpracování vrácení zboží. Tento trend, známý jako „ekonomika zákaznických robotů“, nabízí jasné výhody z hlediska efektivity a snížených nákladů na vyhledávání, zejména pro lidi s menším časem nebo odbornými znalostmi. Představuje však také značná rizika z hlediska hospodářské soutěže a ochrany spotřebitelů.
Britský úřad pro hospodářskou soutěž (CMA) již varoval, že agenti mohou posílit kupní sílu uživatelů, ale také přesunout moc na ty, kteří ovládají data a operační systémy. Pokud se agent rozhodne, které poskytovatele prozkoumat, které funkce porovnat a které alternativy zavrhnout, vliv tohoto výběru na konečná rozhodnutí je obrovský. Společnosti budou muset přizpůsobit své digitální strategie tak, aby byly viditelné a srozumitelné jak pro lidi, tak pro systémy, které jednají jejich jménem, a transparentnost ohledně toho, kdo je zodpovědný za agenta, se stane klíčovým prvkem důvěry.
V tomto scénáři se lidský dohled stává nezbytným. Evropské předpisy vyžadují, aby spotřebitelé věděli, kdy interagují se systémem umělé inteligence, ale toto pravidlo neřeší problém technické identifikace mezi agenty. Index agentů umělé inteligence, projekt, který analyzuje systémy nasazené po celém světě, potvrzuje, že většině agentů ve výchozím nastavení chybí identifikační mechanismy a nezveřejňují informace o bezpečnostním testování. Tento nedostatek transparentnosti brání odpovědnosti a zvyšuje nedůvěru, takže společnosti, které chtějí působit na evropském trhu, by měly tyto standardy předvídat a od samého začátku zavádět ověřovací a registrační opatření.
Vniknutí agentů do obchodních procesů
V praxi již agentická umělá inteligence dělá první kroky v široké škále odvětví. Akce pořádaná společností Revista Emprendedores v Madridu za účasti společností jako Sage, HappyRobot a Maisa ukázala, že integrace agentů do obchodních procesů je realitou. Například v oblasti lidských zdrojů platforma Orbio využívá hlasové agenty a umělou inteligenci k prověřování životopisů, správě smluv a vedení individuálních rozhovorů se zaměstnanci, čímž osvobozuje personalisty od opakujících se úkolů a umožňuje jim soustředit se na činnosti s větší strategickou hodnotou.
Automatizace opakujících se úkolů nemusí nutně znamenat rušení pracovních míst, ale spíše předefinování rolí. Zaměstnanci se často stávají „strážci výjimek“, kteří jsou zodpovědní za dohled nad případy, které systém nedokáže zvládnout, a za přijímání složitých rozhodnutí, která vyžadují úsudek a zkušenosti. Tato změna rolí vyžaduje průběžné školení a kulturní změnu, kterou mnoho organizací dosud nepřijalo, ale která je nezbytná pro využití plného potenciálu agentní umělé inteligence bez kompromisů v kvalitě služeb.
Finanční a pojišťovací sektor je dalším sektorem, který projevuje o tuto technologii velký zájem. Valencijský startup Maisa, který v těchto oblastech působí, se zasazuje o používání deterministických modelů namísto modelů s velkými jazyky, aby se zajistila sledovatelnost a reprodukovatelnost výsledků. Tento postoj je v kontrastu s postojem jiných společností, které upřednostňují hraniční modely, ale odráží skutečné obavy z rizik tzv. „halucinací“ umělé inteligence, které mohou mít ve vysoce regulovaném prostředí velmi vážné právní a provozní důsledky.
Správa a bezpečnost: klíče k zodpovědnému nasazení
Vzhledem k tomuto scénáři se správa umělé inteligence stala prioritou jak pro podniky, tak pro veřejnou správu. Gartner, jedna z nejvlivnějších konzultačních firem na světě, označila agentní umělou inteligenci za nejrelevantnější trend v modernizaci veřejného sektoru. Podle jejích analytiků budou muset vlády automatizovat rozhodování, urychlit vývoj softwaru a zlepšit zkušenosti občanů, ale vždy v rámci jasného rámce správy a řízení, který definuje digitální identity, autorizační procesy a kontrolní mechanismy.
Kybernetická bezpečnost je dalším závažným problémem, protože agentní umělá inteligence může být zneužita i ke zlým úmyslům. Nástroj Google AI Threat Tracker zdokumentoval, jak kyberšpionážní skupiny integrují agenty umělé inteligence do svých útoků, od výzkumu cílů až po provádění automatizovaných útoků. Byly také zjištěny kampaně krádeže přihlašovacích údajů využívající multiagentní architektury, což dokazuje, že stejná technologie, která zlepšuje produktivitu podniků, může být použita k nelegitimním účelům.
V této souvislosti již lidský dohled není jen etickým požadavkem, ale provozní nutností. Agenti potřebují limity oprávnění, protokoly aktivit a mechanismy pro zastavení v reálném čase. Španělský úřad pro ochranu osobních údajů (AEPD) doporučuje, aby žádný agent neměl současný přístup k nedůvěryhodnému obsahu, citlivým datům a možnost jednat bez autorizace, protože kombinace těchto tří faktorů transformuje škodlivý pokyn na spustitelný příkaz. Spotřeba energie datových center podporujících umělou inteligenci navíc exponenciálně roste, takže společnosti budou muset stanovit výpočetní rozpočty a rezervovat nejvýkonnější modely pro úkoly, které je skutečně vyžadují.
Stručně řečeno, agentní umělá inteligence není budoucím příslibem, ale realitou, která mění způsob, jakým pracujeme a konkurujeme. Společnosti, které dokážou tyto agenty integrovat do svých procesů, jasně definovat limity jejich činnosti a zajistit efektivní lidský dohled, budou mít lepší pozici k využití svých výhod a minimalizaci rizik. Klíč nespočívá v samotné technologii, ale ve schopnosti organizací přizpůsobit se novému prostředí, kde odpovědnost, transparentnost a důvěra budou stejně důležité jako efektivita a inovace.