Bezpečné používání AI

Z Helpdesk

Při práci s nástroji umělé inteligence (AI) je důležité dodržovat zásady bezpečnosti, ochrany dat a akademické integrity.

AI nástroje mohou výrazně pomoci při studiu i práci, jejich výstupy je však vždy nutné kriticky posuzovat a ověřovat.

Základní pravidla

Při práci s AI:

  • ověřujte správnost výstupů
  • používejte důvěryhodné zdroje
  • nepřebírejte výstupy bez kontroly
  • uvádějte použití AI, pokud je to požadováno

Rychlá doporučení

Nevkládejte do AI nástrojů:

  • osobní údaje (jména, rodná čísla, kontakty, studijní výsledky apod.)
  • neveřejné a interní dokumenty univerzity
  • citlivé nebo důvěrné informace
  • data chráněná autorským právem (bez patřičného oprávnění)

Důležité upozornění pro práci s platformou: Tato pravidla platí bez výjimky nejen pro přímé textové zadání (prompty), ale také pro veškeré nahrávané přílohy (PDF, DOCX, TXT) a trvalé kolekce ukládané do Znalostí v Chatovací platformě ZČU.

Vždy zvažte:

  • odkud data pocházejí
  • jaký mají charakter (veřejná / interní / citlivá)
  • zda je vhodné je do nástroje vložit

Typické situace

  • studijní materiály (veřejné) → obvykle vhodné
  • vlastní poznámky a koncepty → vhodné
  • interní dokumenty a směrnice → používejte s velkou opatrností (pouze veřejně dostupné části)
  • osobní údaje (např. seznamy studentů, zápisy ze zkoušek) → nikdy nevkládejte

Rozdíly mezi AI nástroji na ZČU

AI platforma ZČU (Open WebUI)

  • přístup pomocí Orion loginu
  • rozhraní, historie konverzací a Znalosti jsou uloženy na infrastruktuře ZČU
  • samotné AI modely zpracovávají dotazy u externích poskytovatelů (např. OpenAI, Anthropic, Google) prostřednictvím služby OpenRouter
  • určeno jako primární nástroj pro práci s AI na ZČU

Vhodné pro:

  • běžnou práci s AI a testování různých modelů
  • práci s dokumenty a bázemi znalostí (s přísným ohledem na jejich charakter)
  • kombinaci více funkcí (chat, dokumenty, web search)

Externí nástroje (Microsoft, Google)

  • přístup pomocí univerzitního Orion loginu
  • provoz mimo prostředí ZČU (cloudová centra externích poskytovatelů)
  • odlišné podmínky a pravidla zpracování dat

Vhodné pro:

  • doplňkové použití k AI platformě ZČU
  • práci v konkrétních aplikacích a službách (např. M365 nebo Google Workspace)

Ochrana dat a soukromí

AI nástroje dostupné v rámci ZČU (AI platforma ZČU, Microsoft 365, Google Workspace) využívají režimy určené pro organizace a instituce.

To znamená, že:

  • data a dotazy zadané uživateli nejsou využívány pro trénování modelů – u AI platformy ZČU to zajišťuje nastavení služby OpenRouter, přes kterou platforma modely používá
  • dotazy a přiložené soubory zpracovává poskytovatel zvoleného modelu pouze za účelem vytvoření odpovědi
  • nahrané soubory a Znalosti v AI platformě ZČU slouží pouze jako kontext pro vaše dotazy a nejsou sdíleny s ostatními uživateli

AI platforma ZČU nenabízí modely poskytovatelů, před kterými varují bezpečnostní autority (viz Bezpečnostní upozornění a externí zdroje).

Přesto platí zásada minimalizace: s daty zacházejte vždy obezřetně a do nástrojů nevkládejte data, která by neměla být zpřístupněna třetím osobám.

Omezení AI nástrojů

AI modely jsou pravděpodobnostní systémy a mohou:

  • generovat věcně nepřesné, vymyšlené nebo zavádějící informace (halucinace)
  • poskytovat neaktuální odpovědi (pokud není aktivní Web Search)
  • nesprávně interpretovat složité zadání nebo kontext nahraných dokumentů

Výstupy AI je proto nutné vždy kriticky hodnotit a ověřovat z primárních zdrojů.

Etika a akademická integrita

Při využívání AI ve studiu, výuce a tvůrčí činnosti:

  • respektujte pokyny vyučujícího daného předmětu
  • transparentně deklarujte využití AI v souladu s pravidly fakulty či univerzity
  • používejte AI jako asistenta a podporu vlastní práce, nikoli jako náhradu za vlastní myšlení a studium

Další informace a doporučení

Rozdělení AI nástrojů na ZČU podle míry rizika (podporované / se souhlasem CIV / zakázané).

Bezpečnostní upozornění a externí zdroje

Související témata