Zásady používání umělé inteligence (AI governance)
Negotiq nechává za firmy vyjednávat software — agenty. Tento dokument vysvětluje, jak agenti fungují, kde používáme generativní umělou inteligenci, jak zajišťujeme lidský dohled a jak plníme nařízení (EU) 2024/1689 o umělé inteligenci (dále jen „AI Act“). Pojmy s velkým počátečním písmenem mají význam podle Obchodních podmínek.
1. Přehled systémů
| Systém | Co dělá | Technologie |
|---|---|---|
| Nákupní agent | vyjednává za kupujícího v mezích podepsaného mandátu: úvodní nabídka, protinabídky, výzva k dorovnání konkurence, výběr balíčku, hodnocení nabídek podle priorit kupujícího | deterministická pravidla (stejné zadání = stejný výsledek), bez strojového učení |
| Dodavatelský agent | odpovídá za dodavatele v mezích jeho pravidel (nejvyšší sleva, minimální objednávka, dodací oblasti) | deterministická pravidla |
| Párování a hledání | přiřazení položek ceníku k produktům, návrh kategorie CPV, vyhledávání | pravidla, shoda identifikátorů (EAN, kód výrobce), vektorová podobnost textu počítaná lokálně |
| Import ceníků ze souborů, e-mailu, ERP a feedů | čte soubory CSV, XLSX, XML exporty z ERP a produktové feedy a mapuje sloupce na položky | deterministický převod formátů, bez generativní AI |
| Převod nestrukturovaných ceníků | z PDF nebo volného textu vytvoří tabulku položek | generativní model Claude (Anthropic); výsledek vždy kontroluje člověk před tím, než se položky začnou nabízet |
| Vypořádání dohod (AP2) | po uzavření dohody vytvoří Záznamy AP2 (IntentMandate, CartMandate, PaymentMandate) a platební instrukce | deterministické záznamy podepsané klíčem Platformy, bez AI |
Generativní AI nikdy nevyjednává, nerozhoduje o ceně, neuzavírá dohody ani neschvaluje úhrady. Záznamy AP2 pouze zaznamenávají výsledek deterministického jednání a rozhodnutí Kupujícího; na tom nic nemění.
2. Zařazení podle AI Act
- Deterministické agenty, které jen provádějí pravidla nastavená lidmi, nemusí podle pokynů Komise k definici systému AI (2025) vůbec spadat pod pojem „systém AI“ podle čl. 3 bodu 1 AI Act. Níže uvedené zásady přesto uplatňujeme na všechny systémy v tabulce.
- Platforma nepoužívá žádné zakázané praktiky (čl. 5 AI Act) a není vysoce rizikovým systémem podle přílohy III (neslouží k hodnocení fyzických osob, úvěruschopnosti, zaměstnání apod.).
- Transparentnost (čl. 50): každá strana jednání ví, že na druhé straně jedná automatizovaný agent. Kola jednání jsou označena jako jednání agentů a jsou viditelná oběma stranám, Potvrzení dohody tuto skutečnost výslovně uvádí a karta agenta (Agent Card) v rozhraní A2A deklaruje agenta jako automatizovaný software jednající za Organizaci.
- Generativní model používáme jako zavádějící subjekt (deployer); povinnosti poskytovatele modelu nese jeho poskytovatel. Výstup modelu (návrh tabulky ceníku) se nezveřejňuje jako obsah a před použitím jej kontroluje člověk.
- Gramotnost v oblasti AI (čl. 4): zajišťujeme, aby lidé, kteří Platformu provozují, rozuměli fungování a omezením agentů; uživatelům tento dokument a nápověda vysvětlují, co agent smí a nesmí.
3. Lidský dohled a hranice agentů
- Hranice určuje člověk: kupující nastavuje strop ceny, termín, místo dodání a priority; dodavatel nastavuje nejvyšší slevu a podmínky dodání. Agent je nikdy nepřekročí — ověřujeme to automatickými testy na tisících scénářů při každé změně.
- Mandát je podepsaný: podmínky poptávky jsou elektronicky podepsané a po spuštění je nelze změnit; podpis lze kdykoli ověřit.
- Schválení člověkem: výchozí nastavení předkládá vítěznou nabídku ke schválení. I při automatickém přijetí agent sám nepřijme nabídku, která je o víc než 5 % nad obvyklou cenou na trhu.
- Důvěrnost: strop kupujícího a minimum dodavatele se protistraně nesdělují, ani nepřímo v textu kol.
- Odolnost vůči manipulaci: agenti nečtou obsah ceníků, specifikací, příloh ani e-mailů jako pokyny; text typu „ignoruj předchozí instrukce“ nemá na jednání vliv.
- Agenti třetích stran: Organizace mohou k Platformě připojit vlastní nebo cizí agenty (A2A, MCP), kteří mohou využívat i generativní AI. Takový agent jedná jménem Organizace, jejíž API klíč používá, a podléhá stejným mezím (podepsaný Mandát, Pravidla agenta); za jeho výběr a nastavení odpovídá Organizace.
- Auditovatelnost: každé jednání, schválení, změna pravidel a úkon ve Vypořádání se zapisuje do neměnného Auditního řetězce; strany dostávají elektronicky podepsané Potvrzení dohody a Záznamy AP2.
4. Data
- Údaje zákazníků nepoužíváme k trénování modelů umělé inteligence; poskytovatel generativního modelu je podle smluvních podmínek k trénování také nepoužívá.
- Do generativního modelu posíláme jen text ceníku, který má být převeden, a jen když tuto funkci uživatel použije. Ceníky přijaté e-mailem nebo z napojených systémů zpracováváme deterministicky; do generativního modelu se dostanou jen tehdy, když uživatel sám zvolí převod nestrukturovaného ceníku.
- Tržní srovnání (obvyklé ceny) počítáme z anonymizovaných dohod alespoň dvou různých dodavatelů, aby nebylo možné zjistit podmínky konkrétní firmy.
5. Kvalita a omezení
- Agenti jednají jen o ceně a o podmínkách z ceníku a pravidel (balíček, dodací lhůta, splatnost, doprava). Neposuzují, zda zboží odpovídá specifikaci — to je na dodavateli a kupujícím.
- Odhad cla a ceny dodané na místo je orientační (sazby TARIC, údaje stran).
- Kvalitu vyjednávání průběžně měříme sadou evaluací (dodržení stropu a minima, férovost, odolnost proti ukotvení cenou, konzistence měn) a výsledky zveřejňujeme v dokumentaci projektu.
6. Incidenty a kontakt
Chování agenta, které považujete za chybné nebo neférové, nám prosím nahlaste na inquiry@negotiq.synqflows.com s odkazem na poptávku nebo jednání. Hlášení prošetříme z auditních záznamů, odpovíme a v případě chyby ji opravíme a informujeme dotčené strany. Tento dokument revidujeme nejméně jednou ročně a při každé podstatné změně agentů.