Konverzační umělá inteligence ustupuje nové generaci systémů schopných jít nad rámec pouhého odpovídání na otázky. Tito tzv. agenti umělé inteligence jsou pozicionováni jako další článek v technologickém vývoji, jejichž schopnosti se již neomezují pouze na generování textu, ale rozšiřují se na plánování úkolů, používání externích aplikací a dokončování procesů od začátku do konce . Tento posun, který ovlivňuje zejména obchodní operace ve Španělsku a Evropě, začal transformovat vztah mezi společnostmi a jejich digitálními nástroji.
Rozdíl oproti tradičnímu asistentovi je pozoruhodný: agent nejen poskytuje odpověď, ale může interagovat se systémy, prohlížet databáze, kombinovat různé nástroje a činit rozhodnutí na základě předem definovaných pravidel a oprávnění. Tento kvalitativní skok pohání vlnu pilotních a implementačních projektů, ale také přináší výzvy od kvality dat až po potřebu neustálého lidského dohledu a mechanismů digitální důvěry.
Od konverzačních asistentů k autonomním agentům
Během posledních několika měsíců se firmy přesunuly od integrace chatbotů, kteří odpovídají na otázky, k nasazení agentů, kteří se starají o celé úkoly: přípravu zpráv, analýzu transakcí, koordinaci harmonogramů nebo řešení incidentů. Podle zprávy společnosti McKinsey s názvem State of AI 2025 již 78 % organizací používá umělou inteligenci alespoň v jedné obchodní funkci a 62 % testuje autonomní agenty, ačkoli většina z nich je stále v raných fázích. Tato data, shromážděná ze dvou konzultovaných zdrojů, tento trend podporují. Ve skutečnosti odvětví vnímá přechod na agenty jako další přirozený krok pro organizace k monetizaci umělé inteligence.
Přijetí se však neomezuje pouze na korporátní svět. Veřejný sektor také zkoumá jeho využití v oblastech, jako je zdravotnictví, správa justice a bezpečnostní procesy. Existuje však kritický předběžný krok: integrace a správa dat samotnými zúčastněnými stranami . Několik konzultačních firem a nezávislých studií identifikovalo nedostatek datové strategie a architektury procesů jako jednu z hlavních překážek škálování. Společnosti uznávají, že často nasazují izolovaná řešení bez kontrolního modelu nebo jasných ukazatelů, což jim brání v dosažení očekávaného dopadu na výsledky.
Zatížení daty a nedostatečná správa a řízení
Odborníci poukazují na to, že úspěch agenta nezávisí jen na kvalitě jeho jazykového modelu, ale také na kontextových informacích, které přijímá. Systémy fungují nejlépe, když jsou propojeny s historií zákazníků, inventářem, interními politikami a obchodními pravidly. Mnoho organizací však stále čelí fragmentované realitě: data rozptýlená v různých systémech, duplicita a neúplná pole. To snižuje efektivitu a znásobuje provozní rizika.
Nedávná literatura v této oblasti zdůrazňuje, že ačkoliv technologie může být brilantní, datová infrastruktura s ní nedokáže držet krok . Zpráva společnosti KPMG, citovaná několika zdroji, uvádí, že 85 % vedoucích pracovníků považuje kvalitu dat za hlavní výzvu pro umělou inteligenci. Konzultační firma Gartner navíc dokonce předpovídá, že 60 % iniciativ, kterým chybí dostatečná data, bude opuštěno dříve, než přinesou jakoukoli hodnotu. Tyto problémy vytvářejí propast mezi očekáváními a skutečnou výkonností zainteresovaných stran ve společnosti a vyžadují důkladné přezkoumání správy informací.
Pro evropské společnosti má situace další rozměr. Předpisy, které se vyvíjejí v Bruselu, nejen nařizují transparentnost systémů, které interagují s lidmi, ale také podporují lidský dohled a sledovatelnost automatizovaných rozhodnutí. Odborníci se proto shodují, že řízení se stává klíčovým úkolem před rozšířením jakéhokoli pilotního programu.
Důvěra, bezpečnost a transparentnost: dosud neřešené pilíře
Zavádění autonomních agentů rovněž vyvolává obavy týkající se kybernetické bezpečnosti a etiky. Několik nedávných studií zjistilo, že některé systémy vykazují problematické chování: například se ne vždy identifikují jako systémy umělé inteligence, když jsou o to požádány, nebo nedokážou eskalovat konverzaci na člověka, když jsou o to jasně požádány. V jiných případech mohou být manipulováni prostřednictvím dlouhých konverzací, které krok za krokem vedou k nezamýšleným akcím. To zdůrazňuje potřebu, aby společnosti přezkoumaly nejen to, co agenti dělají, ale také jak to dělají a s jakou úrovní dohledu.
Evropa prosazuje regulaci používání umělé inteligence, aby se tato rizika zmírnila. Nadcházející legislativa EU upřednostňuje model založený na riziku se specifickými požadavky na systémy, které nejvíce interagují s občany. V tomto rámci je transparentnost a schopnost auditovat výsledky nezbytná pro bezpečnou a úspěšnou implementaci. Společnosti, které přijímají samoregulaci a proaktivní dodržování předpisů, mají lepší pozici k tomu, aby vzbudily důvěru jak u zákazníků, tak u úřadů.
Budoucnost umělé inteligence aplikované v obchodních operacích závisí na pochopení, že tito agenti nejsou náhradou, ale spíše spolupracovníkem pracujícím po boku lidí. Výzvou je definovat hranice, oprávnění a kontrolní mechanismy , aby se umělá inteligence stala spolehlivým spojencem. Odpovědnost leží na organizacích a regulačních orgánech, kteří musí zajistit, aby tyto nové systémy fungovaly bezpečně, eticky a v souladu s hodnotami evropské společnosti.
Vývoj umělé inteligence se posouvá od fascinace odpověďmi k zaměření na užitečnost akcí. Španělské a evropské společnosti se již vydávají na cestu k operacím založeným na agentech, ale čelí společným výzvám: přípravě dat, zefektivnění řízení a zvyšování standardů důvěryhodnosti. Klíčem není urychlení implementace, ale její zajištění zodpovědnosti, měřitelnosti a skutečné integrace do reálných obchodních procesů . Teprve poté se agenti z pouhého důkazu konceptu stanou pevnou součástí digitální ekonomiky kontinentu.
