DeepSeek: Revoluce v AI nebo bezpečnostní riziko? Blokace přibývají, dorazí i k nám?

Čínská aplikace DeepSeek je novým hráčem v oblasti umělé inteligence, který slibuje bezplatný a neomezený přístup k pokročilému chatbotu podobnému ChatGPT. Díky otevřenému modelu umožňuje široké veřejnosti generovat texty, odpovídat na otázky a simulovat inteligentní konverzace bez nutnosti placeného předplatného.

S tímto „volným přístupem“ však vyvstává zásadní otázka – jak je zajištěna ochrana osobních údajů a jaká data aplikace shromažďuje či kam putují?

Svět zpřísňuje pravidla

DeepSeek se dostává pod drobnohled regulačních orgánů kvůli rizikům spojeným s ochranou dat a kybernetickou bezpečností. Některé státy již aplikaci zakázaly nebo omezily její používání:

• Itálie: Úřad pro ochranu osobních údajů (Garante) zablokoval přístup k DeepSeek kvůli obavám ze zpracování osobních údajů bez dostatečné transparentnosti.
• Austrálie: Zakázala používání DeepSeek na všech vládních zařízeních z bezpečnostních důvodů.
• USA: Zvažují legislativu, která by mohla aplikaci zakázat ke stažení na americkém trhu.
• Jižní Korea: Ministerstvo průmyslu dočasně zablokovalo přístup k DeepSeek pro státní instituce.

Jaká jsou hlavní bezpečnostní rizika?

1. Sběr a přenos osobních údajů – DeepSeek provozuje čínská společnost (stejnojmenný čínský start-up), která podle tamních zákonů musí sdílet data se státními orgány.
2. Nejasné podmínky ochrany dat – Dosud není jasné, jak DeepSeek nakládá s uživatelskými daty.
3. Možná cenzura nebo ovlivňování obsahu – Aplikace může být nastavena tak, aby filtrovala obsah podle čínských „regulačních standardů“, což může mít dopad na objektivitu odpovědí.

Jaká je situace v ČR?

V České republice zatím nebyla přijata žádná oficiální regulace týkající se DeepSeek. Nicméně NÚKIB již dříve vydal varování před aplikací TikTok, která je rovněž čínského původu a představuje riziko pro kybernetickou bezpečnost. Pokud by se DeepSeek ukázal jako hrozba, mohl by zasáhnout ÚOOÚ nebo NÚKIB, kteří by mohli vydat varování nebo doporučení k jeho omezení. Rizika spojená s využitím DeepSeek ostatně dotčené orgány již bedlivě monitorují.

Co mohou organizace udělat už nyní?

Nezávisle na tom, zda bude v ČR DeepSeek regulován, je důležité, aby organizace i jednotlivci zvážily jeho využívání v pracovním prostředí. AI nástroje mohou být přínosné, ale přinášejí i značná bezpečnostní a právní rizika.

• Prověřte, zda zaměstnanci používají AI nástroje a jaká data do nich zadávají.
• Aktualizujte interní směrnice pro využívání AI – doporučuje se omezit vkládání citlivých nebo firemních údajů do neověřených nástrojů.
• Zvažte technická opatření, například blokaci přístupu k rizikovým aplikacím na pracovních zařízeních.
• Školte zaměstnance o bezpečném používání AI nástrojů a kybernetických hrozbách.

Vzhledem k rostoucímu počtu omezení DeepSeek ve světě je možné, že se v budoucnu otázka jeho regulace otevře i v České republice. Do té doby je na organizacích, aby chránily svá data a nastavily jasná pravidla pro používání AI v pracovním prostředí.

Ochrana dat a informací je klíčová. Má Vaše organizace pravidla pro používání AI nástrojů? Pokud ne, je nejvyšší čas je zavést! A to nejen proto, aby se aplikace typu DeepSeek neproměnily v Deepfake …

Autor:
Mgr. Lenka Lelitovská, LL.M.
Mgr. David Mareš, Ph.D.