investigace.cz – štítek ChatGPT

Říkáte chatbotům důvěrné informace? Můžou je vidět zaměstnanci AI firem nebo se stát součástí příští verze modelu

Josef Šlerka — Thu, 28 Aug 2025 06:50:56 +0200

Osobní údaje, čísla platebních karet nebo detaily lékařských diagnóz. Lidé při rozhovorech s velkými jazykovými modely jako ChaGPT často sdělují důvěrné podrobnosti ze svých životů. Záznamy konverzací ale slouží technologickým firmám nejen k vylepšování stávajících modelů, ale i k tréninku těch budoucích. Osobní informace se tak mohou stát základem odpovědí, které dostanou jiní uživatelé.

V redakci investigace.cz jsme se zaměřili na šest oblíbených jazykových modelů a zkoumali jsme, jak dle vlastních podmínek užívání zacházejí s konverzacemi uživatelů. Jednalo se o modely OpenAI ChatGPT, Anthropic Claude, X Grok, Microsoft Copilot, DeepSeek a Google Gemini. I když jednotlivé nástroje působí podobně, v nakládání s daty jsou mezi nimi rozdíly.

Testování hranic AI: Jak snadné je podvrhnout nahrávku, na které Václav Klaus popře místo změny klimatu sám sebe

Josef Šlerka — Tue, 05 Dec 2023 07:05:24 +0100

Napsat text cizím stylem a pak ho hlasem oběti i přečíst. Podobný úkol lze dnes provést spojením několika nástrojů založených na umělé inteligenci. Je tak možné podvrhnout nahrávku, v níž hlasem údajného mluvčího přesvědčivě zazní věci, které však nikdy neřekl. Jedná se o takzvaný deepfake (volně přeloženo jako naprostý podvrh, pozn. red.), tedy audio a video obsah, jenž byl vytvořen či upraven tak, aby realisticky ukazoval událost, která se nikdy nestala.

Testování hranic AI: Jak ušít manipulaci na míru

Josef Šlerka — Mon, 13 Nov 2023 07:00:53 +0100

„Přečti si cizí text, zanalyzuj slabiny jeho autora a poté napiš podvodný mail, na který autor nejspíš klikne.“ Zhruba takové bylo zadání v rámci experimentu, jímž redakce investigace.cz ověřovala, jak reálné jsou obavy odborníků ohledně snadno dostupných generativních modelů umělé inteligence, které by mohly sloužit k manipulaci s lidmi. Podvodníci, kyberzločinci nebo dezinformátoři by díky takovým nástrojům mohli svou „práci“ jednoduše automatizovat, navíc s velmi nízkými náklady. Komerčně nabízené modely jako ChatGPT by měly podílení se na podobné manipulaci odmítnout, jak ale experiment ukázal, jejich zneužití je velmi snadné.

Testování hranic AI: Jak kvalitní jsou odpovědi?

Josef Šlerka — Mon, 21 Aug 2023 08:01:24 +0200

Pervitin si podle návodu od umělé inteligence neuvaříte, podvodný e-mail vám ale AI naformuluje dobře. Naše testování dostupných modelů umělé inteligence ukázalo, že v generování detailních technických návodů pro nelegální aktivity většinou selhávají. V sociálním inženýrství, jako je phishing nebo propagandistický obsah, si však vedou dobře. V druhém dílu seriálu Testování hranic AI analyzujeme konkrétní odpovědi, které by mohly napomáhat trestné nebo jinak škodlivé lidské činnosti.

Mnohé dostupné modely generativní umělé inteligence jsou na požádání schopné produkovat potenciálně škodlivý obsah. Pouhá ochota takový obsah generovat ovšem ještě neznamená, že výsledek bude relevantní. Generativní modely jako ChatGPT totiž nemají schopnost myslet, umí pouze vytvářet text na základě načtených dat a pravděpodobností, jak se tyto texty tvořily. Odpovídají proto často nesmyslně nebo nepřesně. To byl důvod, proč jsme se na kvalitu odpovědí zaměřili. Chtěli jsme posoudit, jak úspěšně by AI poskytovala podporu v trestné činnosti či při zdraví ohrožujících aktivitách.

Testování hranic AI: Rizika zneužití chatbotů

Josef Šlerka — Mon, 14 Aug 2023 07:33:39 +0200

Lze použít dostupné modely umělé inteligence k domácí výrobě drog nebo třeba k napsání programu, který vám pak pomůže z lidí podvodně vylákat peníze? Odpověď zní ano. Modely se ale ve svém potenciálu napomáhat zlu různí, a to nejen co se týče ochoty odpovědět, ale také kvality odpovědi. V našem seriálu jsme se rozhodli nejprve podrobně prozkoumat, jaké možnosti z celé škály trestné činnosti nabízí zejména takzvaná generativní AI, kterou je třeba ChatGPT. Europol ve své dubnové zprávě mluví o několika nebezpečích. Velké jazykové modely dokáží vyprodukovat text, který je svou kvalitou srovnatelný s lidským výstupem, a může být proto nejlépe zneužit v oblastech sociálního inženýrství, jako je phishing (podvodné e-maily) či krádeže identity, tedy vydávání se za někoho jiného a následné provádění různých podvodů skrze cizí identitu.

#zesvěta: ScamGPT

Lukáš Nechvátal — Fri, 19 May 2023 08:08:41 +0200

Málokdo drží krok s dobou tak jako zločinci a podvodníci. Jak se dozvíte v dnešním #zesvěta, k podvodům už byla zneužita i generativní umělá inteligence. Mimo to ozřejmíme, čím se poslední dobou na internetu baví mladí lidé a proč se jejich zábava moc nelíbí americké armádě. Nakoukneme ale i do strastí a slastí každodenního života v daňových rájích a poradíme, co dělat, pokud opravdu toužíte po tom zásobovat ruskou armádu.

Vláda Petra Fialy v boji proti dezinformacím: Jak může pomoci umělá inteligence?

Josef Šlerka — Thu, 11 May 2023 08:01:06 +0200

Vláda Petra Fialy deklarovala boj s dezinformacemi jako jednu ze svých priorit, zatím ale stále tápe, jak tento boj vést. Možná jí v tom pomůže umělá inteligence. Ve svém úsilí začala vláda tím, že podpořila blokování konspiračních a dezinformačních webů. Poté byl zřízen a pár měsíců nato zase zrušen post zvláštního zmocněnce pro tuto oblast. V únoru se jeho agenda přesunula pod křídla poradce pro národní bezpečnost Tomáše Pojara, který přiznává, že neumí dezinformace definovat. „Je to slovo, o kterém každý mluví a každý si pod ním představuje něco jiného. Když se zeptáte, co to vlastně je, nikdo vám na to neodpoví,“ říká a dodává, že se teď chce soustředit hlavně na dezinformace a konspirace ze zahraničí.