investigace.cz – štítek GPT

Testování hranic AI: Jak kvalitní jsou odpovědi?

Josef Šlerka — Mon, 21 Aug 2023 08:01:24 +0200

Pervitin si podle návodu od umělé inteligence neuvaříte, podvodný e-mail vám ale AI naformuluje dobře. Naše testování dostupných modelů umělé inteligence ukázalo, že v generování detailních technických návodů pro nelegální aktivity většinou selhávají. V sociálním inženýrství, jako je phishing nebo propagandistický obsah, si však vedou dobře. V druhém dílu seriálu Testování hranic AI analyzujeme konkrétní odpovědi, které by mohly napomáhat trestné nebo jinak škodlivé lidské činnosti.

Mnohé dostupné modely generativní umělé inteligence jsou na požádání schopné produkovat potenciálně škodlivý obsah. Pouhá ochota takový obsah generovat ovšem ještě neznamená, že výsledek bude relevantní. Generativní modely jako ChatGPT totiž nemají schopnost myslet, umí pouze vytvářet text na základě načtených dat a pravděpodobností, jak se tyto texty tvořily. Odpovídají proto často nesmyslně nebo nepřesně. To byl důvod, proč jsme se na kvalitu odpovědí zaměřili. Chtěli jsme posoudit, jak úspěšně by AI poskytovala podporu v trestné činnosti či při zdraví ohrožujících aktivitách.

Testování hranic AI: Rizika zneužití chatbotů

Josef Šlerka — Mon, 14 Aug 2023 07:33:39 +0200

Lze použít dostupné modely umělé inteligence k domácí výrobě drog nebo třeba k napsání programu, který vám pak pomůže z lidí podvodně vylákat peníze? Odpověď zní ano. Modely se ale ve svém potenciálu napomáhat zlu různí, a to nejen co se týče ochoty odpovědět, ale také kvality odpovědi. V našem seriálu jsme se rozhodli nejprve podrobně prozkoumat, jaké možnosti z celé škály trestné činnosti nabízí zejména takzvaná generativní AI, kterou je třeba ChatGPT. Europol ve své dubnové zprávě mluví o několika nebezpečích. Velké jazykové modely dokáží vyprodukovat text, který je svou kvalitou srovnatelný s lidským výstupem, a může být proto nejlépe zneužit v oblastech sociálního inženýrství, jako je phishing (podvodné e-maily) či krádeže identity, tedy vydávání se za někoho jiného a následné provádění různých podvodů skrze cizí identitu.

Proč začínají velké jazykové modely „myslet“ a proč je to třeba dávat do uvozovek

Josef Šlerka — Thu, 20 Apr 2023 09:14:00 +0200

Jak fungují velké jazykové modely a jak je sladit se zájmy člověka? To je hlavní téma nejnovějšího dílu podcastu DataBoutique, v němž zpovídáme odborníka na umělou inteligenci z Centra teoretických studií Univerzity Karlovy Jana Kulveita. V podcastu se mimo jiné dozvíte, proč dnes už nemůžeme jednoduše mluvit o programování pokynů pro AI a místo toho čím dál častěji hovoříme o tzv. „AI Alignment“ (sladění AI s lidmi). Kulveit také vysvětluje, proč sice víme, jak je systém naprogramován, ale nevíme, co všechno umí.