Dôsledky ChatGPT

V kybernetickej bezpečnosti

Check Point Research a ďalší poznamenali, že ChatGPT bol schopný písaťphishinge-maily amalvér, najmä v kombinácii sKódex OpenAI.Generálny riaditeľ OpenAI napísal, že pokrokový softvér by mohol predstavovať „(napríklad) obrovské riziko kybernetickej bezpečnosti“ a tiež pokračoval v predpovedi „mohli by sme sa dostať k skutočnému AGI (umelá všeobecná inteligencia) v nasledujúcom desaťročí, takže toto riziko musíme brať mimoriadne vážne“.Altman tvrdil, že zatiaľ čo ChatGPT „očividne nemá blízko k AGI“, človek by mal „dôverovaťexponenciálny.Plochý pohľad dozadu,vertikálny pohľad dopredu.“

Na akademickej pôde

ChatGPT môže písať úvodné a abstraktné časti vedeckých článkov, čo vyvoláva etické otázky.Niekoľko článkov už uviedlo ChatGPT ako spoluautora.

InAtlantikčasopis,Stephen Marchepoznamenal, že jeho vplyv na akademickú obec a najmäaplikačné esejeje ešte potrebné pochopiť.Kalifornský stredoškolský učiteľ a autor Daniel Herman napísal, že ChatGPT by ohlásil „koniec stredoškolskej angličtiny“.VPrírodaChris Stokel-Walker poukázal na to, že učitelia by sa mali zaujímať o to, aby študenti používali ChatGPT na externé písanie, ale že poskytovatelia vzdelávania sa prispôsobia, aby zlepšili kritické myslenie alebo uvažovanie.Emma Bowman sNPRnapísal o nebezpečenstve, že študenti plagujú prostredníctvom nástroja AI, ktorý môže vydávať neobjektívny alebo nezmyselný text s autoritatívnym tónom: „Stále existuje veľa prípadov, keď mu položíte otázku a dá vám veľmi pôsobivo znejúcu odpoveď, ktorá je úplne zlá.“

Joanna Stern sThe Wall Street Journalopísal podvádzanie v americkej stredoškolskej angličtine s týmto nástrojom odoslaním vygenerovanej eseje.Profesor Darren Hick zFurmanská univerzitaopísal, že si všimol „štýl“ ChatGPT v príspevku, ktorý predložil študent.Online detektor GPT tvrdil, že papier je na 99,9 percent pravdepodobne vytvorený počítačom, ale Hick nemal žiadny pevný dôkaz.Dotyčný študent sa však priznal k používaniu značky GPT, keď bol konfrontovaný, a v dôsledku toho kurz zlyhal.Hick navrhol politiku poskytovania ad-hoc individuálnej ústnej skúšky na tému papiera, ak je študent silne podozrivý z predloženia práce vytvorenej AI.Edward Tian, ​​starší vysokoškolský študent naPrincetonská univerzita, vytvoril program s názvom „GPTZero“, ktorý určuje, koľko textu vygeneruje AI, čo sa dá použiť na zistenie, či je esej napísaná človekom na bojakademický plagiát.

Od 4. januára 2023 ministerstvo školstva v New Yorku obmedzilo prístup k ChatGPT z internetu a zariadení verejných škôl.

V zaslepenom teste bol ChatGPT posúdený ako absolvent postgraduálnych skúšokUniversity of Minnesotana úrovni študenta C+ a naWharton School na Pensylvánskej univerzites triedou B až B.(Wikipedia)

Nabudúce budeme hovoriť o etických obavách ChatGPT.