Umělá inteligence: chytrý pomocník, nebo hrozba?

Povinnost informovat spotřebitele o tom, že nabízený produkt obsahuje AI, bude nezbytné zakotvit do právního řádu. Foto: Shutterstock

Umělá inteligence je vzhledem k expanzi do různých oborů lidské činnosti srovnávána s průmyslovou revolucí. Může se však stát také nástrojem k ovlivňování zákazníků, představuje i značné bezpečnostní riziko. 

Už dnes působí umělá inteligence (AI) v řadě produktů, jsou to virtuální asistenti, chatboty nebo systémy, které hodnotí stávající či potenciální klienty. Pro spotřebitele se tudíž stávají rizika hmatatelná, musí zbystřit a na existenci AI se připravit a umět na ni odpovídajícím způsobem reagovat, nenabízet jí soukromé informace „na stříbrném podnose“.

Skrytý zloděj

S umělou inteligencí se totiž pojí dost bezpečnostních rizik, na něž mohou právě spotřebitelé doplatit. Jde například o sběr a třídění dat k marketingovým účelům. Obchodníci včetně takzvaných šmejdů získají cenné informace o zákaznících, jejich historii vyhledávání na internetu a aktivit na sociálních sítích budou mít jako na dlani. Bez práce, bez jakékoliv investice je budou moct využít k manipulaci spotřebitelů v jejich nákupním chování a ke svým obrovským ziskům. Bez pochyby můžeme brzy očekávat vzestup personalizovaných slevových a cenových nabídek nebo recenzí, které nás jako spotřebitele budou utvrzovat v nákupu výrobků hledaných na internetu. Pro spotřebitele tedy jde naléhavě o ochranu osobních údajů, kterou může AI prolomit.

Umělá inteligence se stává součástí chytrých telefonů. Foto: Shutterstock

Nejen manipulace

Ovlivňování spotřebitelského chování je pouze malá výseč možností AI. Další nebezpečí spočívá například v pravidelných aktualizacích modemů, WiFi routerů, mobilních telefonů a počítačů. Problém pro spotřebitele tkví v tom, že hackeři budou mít s využitím virů s prvky umělé inteligence velmi snadnou cestu k napadení těchto zařízení phishingovými (útok, jímž se pokouší ukrást vaše peníze či identitu) a jinými útoky, s jednoznačným cílem ukrást data nebo identitu a pak s nimi dál ve svůj prospěch a ke škodě spotřebitelů pracovat. Spotřebitelé si tedy budou muset být vědomi těchto rizik a postavit se jim, přinejmenším informace ověřovat z více zdrojů. A úplně nejdůležitější bude víc než kdy dřív být obezřetní při sdílení osobních a citlivých údajů.

Klamavá obchodní sdělení

V platném právu neexistuje výslovná povinnost informovat spotřebitele o umělé inteligenci, ale zatajení informace může být kvalifikováno jako klamavá obchodní praktika podle § 5 odst. 1 zákona č. 634/1992 Sb., o ochraně spotřebitele. Tento zákon charakterizuje klamavou obchodní praktiku, pokud obsahuje věcně nesprávnou, nepravdivou informaci, což vede nebo může vést spotřebitele k rozhodnutí ohledně koupě výrobku nebo služby, které by bez takového nasměrování jinak neučinil.

Pro marketingové účely je umělá inteligence dokonalým nástrojem. Foto: Shutterstock

Pozor, i pravdivá informace může být klamavá, a to tehdy, jestliže může vést spotřebitele k rozhodnutí ohledně koupě, které by rovněž jinak neučinil, pokud je tato informace způsobilá jej uvést v omyl ohledně skutečností uvedených v zákoně. A jsme u podstaty: Aby mohla být obchodní praktika klamavá, musela by být informace o využití umělé inteligence pro spotřebitele natolik zásadní, že by ho ovlivnila ohledně koupě produktu.

Zdravotní aplikace shromažďují o pacientovi citlivá data. Foto: Shutterstock

Regulace umělé inteligence

Vzhledem k tomu, že tak razantně už nyní a daleko důsledněji v nejbližší budoucnosti bude zasahovat do života spotřebitelů, je na Evropské unii zasadit AI do práva. Evropská komise a Evropský parlament zatím navrhují přijetí předpisů, které by zakotvily informační povinnosti vůči spotřebiteli, a to nikoliv obecně, ale ve specifických případech. Například už nyní by se neposkytnutí informace o umělé inteligenci dalo považovat za protiprávní, pokud by ovšem naplňovalo podmínky klamavé obchodní praktiky. Klamavé je i tvrzení, že produkt prvky umělé inteligence obsahuje, přestože by tyto vlastnosti neměl.

S umělou inteligencí pracuje i internetový vyhledávač Google. Foto: Shutterstock

Povinnosti vůči spotřebiteli mohou zahrnovat informace o tom, zda a jakým způsobem je AI využívána, například ke zpracování dat spotřebitele, při koupi zboží a vytváření navazujících cílených nabídek. Vedle těchto povinností se ale nabízí další opatření, která teoreticky řeší rizika spojená s užíváním umělé inteligence. Může to být zákaz použití podoby či hlasu reálných osobností bez jejich souhlasu, označení každého obsahu generovaného umělou inteligencí či povinnost informovat spotřebitele o tom, že komunikuje s umělou inteligencí, a možnost řešit věc s živou osobou. V návrzích se hovoří o vytvoření standardizovaných ikon, jež by mohly být používány, pokud by systémy se zapojením umělé inteligence byly složité nebo mohly činit rozhodnutí, která mají významný dopad na život spotřebitelů.

Text: Táňa Pikartová, foto: Shutterstock

Umělá inteligence: chytrý pomocník, nebo hrozba?