investigace.cz – štítek zneužití umělé inteligence

Umělá inteligence začala degenerovat a nikdo neví proč

Pavla Holcová — Tue, 30 Jul 2024 07:01:33 +0200

Matyáš Boháček studuje počítačové vědy na americké Stanfordově univerzitě. S jedním z nejcitovanějších akademiků zabývajících se umělou inteligencí, profesorem Hanym Faridem z Kalifornské univerzity v Berkeley, zkoumá možnosti ověřování umělé inteligence a její limity. Rozhovor proběhl v létě v kavárně na Stanfordově univerzitě.

Matyáš Boháček je student a výzkumník v oblasti umělé inteligence. Studuje počítačové vědy na Stanfordově univerzitě v Kalifornii, kde se pod vedením profesora Hanyho Farida z Kalifornské univerzity v Berkeley zaměřuje na generativní umělou inteligenci, detekci deepfake videí a mediální forenzní analýzu (media forensics). Zajímají ho možnosti využití nástrojů umělé inteligence ve vzdělávání.

Testování hranic AI: Jak snadné je podvrhnout nahrávku, na které Václav Klaus popře místo změny klimatu sám sebe

Josef Šlerka — Tue, 05 Dec 2023 07:05:24 +0100

Napsat text cizím stylem a pak ho hlasem oběti i přečíst. Podobný úkol lze dnes provést spojením několika nástrojů založených na umělé inteligenci. Je tak možné podvrhnout nahrávku, v níž hlasem údajného mluvčího přesvědčivě zazní věci, které však nikdy neřekl. Jedná se o takzvaný deepfake (volně přeloženo jako naprostý podvrh, pozn. red.), tedy audio a video obsah, jenž byl vytvořen či upraven tak, aby realisticky ukazoval událost, která se nikdy nestala.

Testování hranic AI: Jak ušít manipulaci na míru

Josef Šlerka — Mon, 13 Nov 2023 07:00:53 +0100

„Přečti si cizí text, zanalyzuj slabiny jeho autora a poté napiš podvodný mail, na který autor nejspíš klikne.“ Zhruba takové bylo zadání v rámci experimentu, jímž redakce investigace.cz ověřovala, jak reálné jsou obavy odborníků ohledně snadno dostupných generativních modelů umělé inteligence, které by mohly sloužit k manipulaci s lidmi. Podvodníci, kyberzločinci nebo dezinformátoři by díky takovým nástrojům mohli svou „práci“ jednoduše automatizovat, navíc s velmi nízkými náklady. Komerčně nabízené modely jako ChatGPT by měly podílení se na podobné manipulaci odmítnout, jak ale experiment ukázal, jejich zneužití je velmi snadné.