Označovanie údajov
Vyšetrovanie časopisu TIME odhalilo, že na vybudovanie bezpečnostného systému proti toxickému obsahu (napr. sexuálne zneužívanie, násilie, rasizmus, sexizmus atď.) spoločnosť OpenAI využívala externých kenských pracovníkov s príjmom menej ako 2 doláre za hodinu na označovanie toxického obsahu. Tieto označenia boli použité na trénovanie modelu na detekciu takéhoto obsahu v budúcnosti. Externí pracovníci boli vystavení takému toxickému a nebezpečnému obsahu, že túto skúsenosť opísali ako „mučenie“. Outsourcingovým partnerom spoločnosti OpenAI bola spoločnosť Sama, spoločnosť zaoberajúca sa tréningovými dátami so sídlom v San Franciscu v Kalifornii.
Útek z väzenia
ChatGPT sa pokúša odmietnuť výzvy, ktoré môžu porušovať jeho obsahovú politiku. Niektorým používateľom sa však začiatkom decembra 2022 podarilo jailbreaknúť ChatGPT pomocou rôznych techník inžinierstva výziev, aby obišli tieto obmedzenia, a úspešne oklamali ChatGPT, aby poskytol pokyny na výrobu Molotovovho koktailu alebo jadrovej bomby, alebo aby generoval argumenty v štýle neonacistov. Reportér Toronto Star mal nerovnomerný osobný úspech v tom, aby ChatGPT vydal provokatívne vyhlásenia krátko po spustení: ChatGPT bol oklamaný, aby podporil ruskú inváziu na Ukrajinu v roku 2022, ale aj keď bol požiadaný, aby sa pridal k fiktívnemu scenáru, ChatGPT sa zdráhal generovať argumenty, prečo je kanadský premiér Justin Trudeau vinný zo zrady. (wiki)
Čas uverejnenia: 18. februára 2023