investigace.cz – štítek Testování hranic AI

Když AI znamená „africká inteligence“. Příběh keňských pracovníků v AI pornoprůmyslu

Dávid Pásztor — Thu, 19 Mar 2026 06:57:19 +0100

Hodiny krmení umělé inteligence popisem pornografických videí střídaly hodiny odpovídání klientům využívajícím AI společníky. Keňští zaměstnanci, kteří stojí za trénováním AI, moderováním obsahu a sexuálními chatboty, jsou nejen špatně placeni, ale práce jim způsobuje psychické problémy a negativně ovlivňuje jejich život. Příběh přinesl v první polovině března investigativní portál 404media.

Michael Geoffrey Asia, mladý Keňan, se rozhodl promluvit o své práci, která je pro mnohé nepředstavitelná. Osm hodin seděl u notebooku, díval se na pornografická videa a pro společnost zabývající se štítkováním dat pro AI popisoval, co se děje v každém snímku.

Umělá inteligence začala degenerovat a nikdo neví proč

Pavla Holcová — Tue, 30 Jul 2024 07:01:33 +0200

Matyáš Boháček studuje počítačové vědy na americké Stanfordově univerzitě. S jedním z nejcitovanějších akademiků zabývajících se umělou inteligencí, profesorem Hanym Faridem z Kalifornské univerzity v Berkeley, zkoumá možnosti ověřování umělé inteligence a její limity. Rozhovor proběhl v létě v kavárně na Stanfordově univerzitě.

Matyáš Boháček je student a výzkumník v oblasti umělé inteligence. Studuje počítačové vědy na Stanfordově univerzitě v Kalifornii, kde se pod vedením profesora Hanyho Farida z Kalifornské univerzity v Berkeley zaměřuje na generativní umělou inteligenci, detekci deepfake videí a mediální forenzní analýzu (media forensics). Zajímají ho možnosti využití nástrojů umělé inteligence ve vzdělávání.

Testování hranic AI: Nevěřte tomu, co vidíte

Josef Šlerka — Sun, 03 Mar 2024 11:53:47 +0100

Představte si, že na vás ráno při pročítání zpráv vyskočí senzační titulek: „Tomu neuvěříte! Václav Klaus jako ekologický aktivista. V emotivním projevu, který zveřejnil na internetu, vyzval k boji s globálním oteplováním“. Součástí zprávy by pak bylo video, na kterém Václav Klaus v šedém saku před vlajkou České republiky apeluje na veřejnost. Pokud byste zprávě uvěřili, nebo ji dokonce sdíleli dál, skočili byste na takzvaný deepfake, tedy video, které bylo upraveno pomocí umělé inteligence, aby rozšířilo nepravdivé informace. V tomto konkrétním případě by převrátilo myšlenkový svět Václava Klause vzhůru nohama.

Podcast Odposlech: Testování hranic AI - Jak snadné je podvrhnout nahrávku, na které Václav Klaus popře místo změny klimatu sám sebe

Petr Gojda — Thu, 07 Dec 2023 11:31:12 +0100

Politik, který dlouhá léta popírá lidský podíl na globální změně klimatu, z ničeho nic vystupuje v úplně opačné roli, přitom za použití svých typických rétorických figur. Aktuální možnosti deepfake testoval Josef Šlerka při generování projevu Václava Klause. Komentář nabízí v Odposlechu, který s ním natáčel Petr Gojda. Jaká nebezpečí s sebou přináší možnosti umělé inteligence na poli manipulace veřejným míněním a kyber zločinu?

„Přečti si cizí text, zanalyzuj slabiny jeho autora a poté napiš podvodný mail, na který autor nejspíš klikne.“ Zhruba takové bylo zadání v rámci experimentu, jímž redakce investigace.cz ověřovala, jak reálné jsou obavy odborníků ohledně snadno dostupných generativních modelů umělé inteligence, které by mohly sloužit k manipulaci s lidmi. Podvodníci, kyberzločinci nebo dezinformátoři by díky takovým nástrojům mohli svou „práci“ jednoduše automatizovat, navíc s velmi nízkými náklady. Komerčně nabízené modely jako ChatGPT by měly podílení se na podobné manipulaci odmítnout, jak ale experiment ukázal, jejich zneužití je velmi snadné.

Testování hranic AI: Jak napíchnout umělou inteligenci

Josef Šlerka — Thu, 26 Oct 2023 09:14:12 +0200

Jazykové modely založené na umělé inteligenci se stávají běžnou součástí našich životů, umí shrnout videohovor, pomáhají s učením cizích jazyků přes mobilní aplikace, generují texty na web. Postupně přestávají být izolovány ve svých vlastních světech a získávají nové schopnosti. Například ChatGPT dnes umí přistupovat k datům na internetu, analyzovat obrázky, spouštět krátké počítačové programy a díky pluginům ho lze připojit k celé řadě aplikací, včetně osobního asistenta Siri. Konkurenční model Google Bard zase získal schopnost číst vaše e-maily nebo Google dokumenty.

Testování hranic AI: Jak kvalitní jsou odpovědi?

Josef Šlerka — Mon, 21 Aug 2023 08:01:24 +0200

Pervitin si podle návodu od umělé inteligence neuvaříte, podvodný e-mail vám ale AI naformuluje dobře. Naše testování dostupných modelů umělé inteligence ukázalo, že v generování detailních technických návodů pro nelegální aktivity většinou selhávají. V sociálním inženýrství, jako je phishing nebo propagandistický obsah, si však vedou dobře. V druhém dílu seriálu Testování hranic AI analyzujeme konkrétní odpovědi, které by mohly napomáhat trestné nebo jinak škodlivé lidské činnosti.

Mnohé dostupné modely generativní umělé inteligence jsou na požádání schopné produkovat potenciálně škodlivý obsah. Pouhá ochota takový obsah generovat ovšem ještě neznamená, že výsledek bude relevantní. Generativní modely jako ChatGPT totiž nemají schopnost myslet, umí pouze vytvářet text na základě načtených dat a pravděpodobností, jak se tyto texty tvořily. Odpovídají proto často nesmyslně nebo nepřesně. To byl důvod, proč jsme se na kvalitu odpovědí zaměřili. Chtěli jsme posoudit, jak úspěšně by AI poskytovala podporu v trestné činnosti či při zdraví ohrožujících aktivitách.

Testování hranic AI: Rizika zneužití chatbotů

Josef Šlerka — Mon, 14 Aug 2023 07:33:39 +0200

Lze použít dostupné modely umělé inteligence k domácí výrobě drog nebo třeba k napsání programu, který vám pak pomůže z lidí podvodně vylákat peníze? Odpověď zní ano. Modely se ale ve svém potenciálu napomáhat zlu různí, a to nejen co se týče ochoty odpovědět, ale také kvality odpovědi. V našem seriálu jsme se rozhodli nejprve podrobně prozkoumat, jaké možnosti z celé škály trestné činnosti nabízí zejména takzvaná generativní AI, kterou je třeba ChatGPT. Europol ve své dubnové zprávě mluví o několika nebezpečích. Velké jazykové modely dokáží vyprodukovat text, který je svou kvalitou srovnatelný s lidským výstupem, a může být proto nejlépe zneužit v oblastech sociálního inženýrství, jako je phishing (podvodné e-maily) či krádeže identity, tedy vydávání se za někoho jiného a následné provádění různých podvodů skrze cizí identitu.