Rozbíjející tokeny v ChatGPT

Root.cz - zprávičky 20.02.2023 02:30 Výzkumníci objevili, že populární software ChatGPT se začne chovat velmi podivně, pokud se mu na vstup napíšou konkrétní zdánlivě nesmyslná sousloví: SolidGoldMagikarp , TheNitromeFan, attRot a další. Buď si je poplete s úplně nesouvisejícím slovem, nečekaně skončí, nebo začne generovat nesmysly. Stejná chyba postihuje i starší verze GPT-3 a GPT-2. Ve veřejných instancích provozovaných společností OpenAI byla ale již záplatována, takže si to tam nezkusíte.