reklama

OpenAI je výzkumný institut podporovaný Elonem Muskem a dalšími významnými tvářemi Silicon Valley. Společnost nyní vyvinula nový model umělé inteligence nazvaný GPT2, který je podle ní natolik dobrý, že by se v nepovolaných rukou mohl stát nebezpečným. Proti zvyklostem se tak OpenAI rozhodla tentokrát celý výzkum nezveřejnit.

GPT2 je vlastně generátor textu. Stačí, aby mu uživatel předložil kus vlastního textu - ať už několik slov, nebo celých stránek - na jehož základě pak umělá inteligence vytvoří svůj vlastní. Podobné projekty se již objevily, tento je však podle autorů výjimečný.

Deník Guardian zmiňuje dvě hlavní oblasti, v nichž nový produkt posouvá dosavadní hranice. První je kvalita vyprodukovaného textu. GPT2 je schopný generovat souvislý text, který i stylisticky odpovídá dané předloze. Na rozdíl od mnoha dalších podobných generátorů nevytváří tolik chyb, přestože se jich nedokáže úplně vyvarovat.

Druhou takovou oblastí je šíře záběru a objem dat, s nimiž pracuje. Použité „modely byly dvanáctkrát větší a datasety patnáctkrát rozsáhlejší,“ než u předchozích podobných projektů s umělou inteligencí, sdělil Dario Amodei, ředitel výzkumu v OpenAI.

Společnost použila k trénování systému více než 10 milionů článku. Aby zajistila určitou kvalitu, využívala k vyhledávání odkazů stránku Reddit, kde mohou jejich kvalitu jednotlivý uživatelé hodnotit. OpenAI používala jen ty odkazy, které kladně označili minimálně tři jednotlivci, čímž prý výrazně zvýšila kvalitu výstupu GPT2.

A právě kvalita produkovaných textů nakonec údajně společnost donutila nezveřejnit svůj výzkum, přinejmenším tedy v nejbližší budoucnosti. „Musíme provést pokusy a zjistit, co by s touto technologií mohli provést zlomyslní uživatelé,“ sdělil Jack Clark z OpenAI. „Pokud nedokážete předpovídat všechny schopnosti daného modelu, musíte ho prozkoumat a zjistit, co dovede. Na světe je mnoho zlomyslnějších lidí, než jsme my, kteří dokáží lépe vymyslet, jak (GPT2) zneužít,“ dodal.

Společnost se obává, že by technologie mohla být zneužita například k vytváření a šíření konspiračních teorií a dezinformací.