Americká nezisková společnost OpenAI vytvořila generátor textu ovládaný údajně revoluční umělou inteligencí. Nyní se rozhodla detaily nezveřejňovat, protože se obává zneužití technologie. Ta by mohla být využita například k šíření dezinformací a konspiračních teorií.
OpenAI je výzkumný institut podporovaný Elonem Muskem a dalšími významnými tvářemi Silicon Valley. Společnost nyní vyvinula nový model umělé inteligence nazvaný GPT2, který je podle ní natolik dobrý, že by se v nepovolaných rukou mohl stát nebezpečným. Proti zvyklostem se tak OpenAI rozhodla tentokrát celý výzkum nezveřejnit.
GPT2 je vlastně generátor textu. Stačí, aby mu uživatel předložil kus vlastního textu - ať už několik slov, nebo celých stránek - na jehož základě pak umělá inteligence vytvoří svůj vlastní. Podobné projekty se již objevily, tento je však podle autorů výjimečný.
Deník Guardian zmiňuje dvě hlavní oblasti, v nichž nový produkt posouvá dosavadní hranice. První je kvalita vyprodukovaného textu. GPT2 je schopný generovat souvislý text, který i stylisticky odpovídá dané předloze. Na rozdíl od mnoha dalších podobných generátorů nevytváří tolik chyb, přestože se jich nedokáže úplně vyvarovat.
Druhou takovou oblastí je šíře záběru a objem dat, s nimiž pracuje. Použité „modely byly dvanáctkrát větší a datasety patnáctkrát rozsáhlejší,“ než u předchozích podobných projektů s umělou inteligencí, sdělil Dario Amodei, ředitel výzkumu v OpenAI.
Společnost použila k trénování systému více než 10 milionů článku. Aby zajistila určitou kvalitu, využívala k vyhledávání odkazů stránku Reddit, kde mohou jejich kvalitu jednotlivý uživatelé hodnotit. OpenAI používala jen ty odkazy, které kladně označili minimálně tři jednotlivci, čímž prý výrazně zvýšila kvalitu výstupu GPT2.
A právě kvalita produkovaných textů nakonec údajně společnost donutila nezveřejnit svůj výzkum, přinejmenším tedy v nejbližší budoucnosti. „Musíme provést pokusy a zjistit, co by s touto technologií mohli provést zlomyslní uživatelé,“ sdělil Jack Clark z OpenAI. „Pokud nedokážete předpovídat všechny schopnosti daného modelu, musíte ho prozkoumat a zjistit, co dovede. Na světe je mnoho zlomyslnějších lidí, než jsme my, kteří dokáží lépe vymyslet, jak (GPT2) zneužít,“ dodal.
Společnost se obává, že by technologie mohla být zneužita například k vytváření a šíření konspiračních teorií a dezinformací.
Témata: umělá inteligence (AI), počítače, technologie, USA, internet
Související
10. června 2025 19:37
10. května 2025 16:41
18. února 2025 15:01
29. ledna 2025 8:53
28. ledna 2025 13:25
