AI agenti jsou v digitálním světě jako švýcarské nože. Umí číst, psát, propojovat data, posílat upozornění, automatizovat pracovní postupy… pokud je správně nastavíte, nezapomenou ani na narozeniny vašeho šéfa. 

Ale co když se dostanou do nesprávných rukou nebo nebudou pod kontrolou? Mohly by omylem prozradit citlivé informace, upravit nesprávný záznam nebo spustit proces, který ještě neměl být spuštěn. Jejich nasazení může být buď výhrou, nebo časovanou bombou.  

Podívejme se společně na to, kde mají agenti s umělou inteligencí smysl a kde je naopak lepší se jim vyhnout. 

Obsah   

• Co je třeba vědět, než je nainstalujete do systému?
• Kde mají AI agenti smysl
• Kde je třeba nasadit umělou inteligenci agenta pryč
• Praktické rady
• Správně uchopte AI agenta

Co je třeba vědět, než je nainstalujete do systému? 

Představte si agenta umělé inteligence jako kolegu, který je technicky zdatný, spolehlivý a má velkou kapacitu. To vše zní skvěle, ale pokud s tímto kolegou nezacházíte tak, jak se patří, může přinést více škody než užitku. 

1. Agent není obyčejný chatbot 

Na rozdíl od běžných chatbotů, které vám pomohou najít odpověď na otázku, kde co najít, AI agent jde ještě dál. Nejenže odpovídá, ale také jedná. Umí vytvářet záznamy, měnit stavy, má přístup k dokumentům a může odesílat e-maily. A právě proto musí mít jasně definovaná oprávnění.  

2. Přístupová práva jsou základem 

Pokud je agent jako váš interní kolega (jen bez emocí), měl by mít stejné nebo dokonce ještě omezenější práva. Přístup k datům by neměl být chráněn heslem “Dejme mu všechno, ať máme klid.”. Nastavení oprávnění je základní věc, kterou byste měli mít pod kontrolou, a ne se s nimi jen seznámit.   

• Může váš agent nahlížet do dokumentů týkajících se personálních změn? – Neměl by, obsahuje je příliš mnoho citlivých údajů.  

• Má agent možnost zaznamenávat údaje? – Pouze pokud je to nezbytné a pod dohledem. 

• Umí agent číst vaše zprávy v Teams? – Měl by to vůbec dělat? 

Tip: Pokud byste přístup neschválili stážistovi, neschvalujte ho ani agentovi AI.  

3. Auditovatelnost a záznamy 

Každý krok agenta by měl být: zaznamenané, dohledatelné a zpětně analyzovatelné. Pokud si nevíte odpovědět na otázku “Co přesně dnes ten agent udělal?” máte problém, ne kontrolu. Představte si například, že se agent rozhodne pomoci a na základě soukromé konverzace začne uzavírat nesprávné úkoly, které ještě nejsou vyřešeny. 

Kde mají AI agenti smysl? 

• Opakující se úkoly, které nikdo nechce dělat 
  Typicky: přenos dat mezi systémy, třídění požadavků, oznámení o stavu projektů. 

• Asistence ve firmě 
  Agenti v SharePointu nebo Teams pomáhají najít správný dokument, shrnout jednání nebo generovat odpovědi v systémech pro správu ticketů. 

• Analýza dat pro management 
  Agent provede předběžný výběr dat, upozorní na nesrovnalosti a připraví podklady pro rozhodování (např. že oddělení X překračuje rozpočet – ještě dříve, než to zachytí Excelový kouzelník). 

Kde je třeba AI agenta omezit? 

• Rozhodování s právním nebo etickým rozměrem 
  Agent neví, co je spravedlivé propuštění nebo férové rozdělení bonusů. Tady musí stále zasáhnout člověk. 

• Prostředí s citlivými údaji bez ochrany 
  Někdy stačí jediná chyba a máte na krku incident. Bez protokolů, bez stop. 

• Situace, kdy se kontext rychle mění 
  Agenti neumí číst mezi řádky. Pokud nevědí, že “plán se po včerejší poradě změnil”, mohou pokračovat podle starého scénáře. A to není dobré. 

Praktické rady  

Podívejme se, jak nastavit AI agenty bezpečně a rozumně. 

1. Začněte v v testovacím prostředí – přece nechcete, aby vám smazal celou databázi. 

2. Nastavte minimální požadovaná oprávnění – čím méně vidí, tím méně toho pokazí. 

3. Definujte mu hranice – Agent umělé inteligence nemá intuici, potřebuje jasná pravidla, co smí a co ne 

4. Aktivovat protokolování a monitorování – bez záznamů nemáte možnost zpětné kontroly 

5. Zaškolte zaměstnance jak by měli komunikovat s agentem – nesprávná otázka = nesprávná odpověď 

Správně uchopte AI agenta 

Špatně nastavení AI agenti vám dokážou pořádně zkazit den, ale i časově náročnou práci. Stačí jeden špatně nastavený požadavek nebo nesprávný přístup a je z toho pořádný zmatek. Správné nasazení je klíčové. Pokud si dáte tu práci a stanovíte jasné hranice, vyplatí se vám to. Zrychlí práci, sníží náklady a zvýší efektivitu firmy.  

Důležité však je vědět, co agent může a co nemůže dělat. Není to nástroj, kterému svěřujete vše a doufáte, že to zvládne. Důležité je udržet nad ním kontrolu. Rozhodně byste mu neměli umožňovat volný přístup k citlivým informacím, když jim nerozumí.  

Ať agent zůstane tam, kde má: v roli rychlého pomocníka, nikoli samostatného člena. Praktický, bezpečný a spolehlivý. Ale hlavně pod kontrolou.