Istraživačka laboratorija OpenAI objavila je potpunu verziju sistema veštačke inteligencije za generisanje teksta iako je prethodno izjavila da bi to bilo suviše opasno. Iako stručnjaci tvrde da bi moglo da dođe do njegove zloupotrebe, laboratorija tvrdi da „ne postoje čvrsti dokazi“ da bi nešto tako moglo da se dogodi. U februaru ove godine, institut je objavio da je napravio sistem koji je nazvao GPT-2 , ali nije dao punu verziju programa strahujući da bi mogao biti iskorišćen za širenje lažnih vesti, neželjenih poruka elektronske pošte i dezinformacija. Od tada su objavljivane kraće i manje kompleksne verzije GPT-2 i laboratorija je pratila kako su te verzije prihvaćene. Drugi su kopirali rad. Ove nedelje, laboratorija je na svom blogu izjavila da „ne postoje čvrsti dokazi zloupotrebe programa“ i zbog toga je odlučila da model objavi u celosti.
GPT-2 predstavlja deo nove generacije sistema za generisanje teksta koji su ostavili snažan utisak na stručnjake zbog mogućnosti da generišu jasan i povezan tekst kad im se daju minimalni podsticaji. Sistem je obučavan na osam miliona tekstova koji su prikupljeni sa interneta i odgovaraju odlomcima tekstova koje su postavili korisnici. Ako u sistem unesete, recimo, lažni naslov članka, napisaće ceo novinski članak. Ako sistemu date prvi stih neke pesme, napisaće celu strofu.
Teško nam je da vam prenesemo koliko su rezultati sistema GPT-2 dobri, ali model veoma često proizvodi suvisle i uverljive tekstove iza kojih izgleda da stoji inteligencija (ipak, ne želimo da kažemo da u procesu koji obavlja GPT-2 možemo da prepoznamo bilo šta kognitivno). Ako se zabavljate sa sistemom dovoljno dugo, njegova ograničenja se jasno uočavaju. Posebnih poteškoća ima sa dugotrajnom koherentnošću tekstova u kojima počinje neprestano da koristi imena i atribute likova u priči или se vezuje za jednu jedinu temu u novinskom članku.
Najbolji način da sami procenite mogućnosti sistema GPT-2 je da pristupite njegovoj verziji na internetu na sajtu TalkToTransformer.com i unesete sopstveni tekst или rečenicu. („Transformer“ je komponenta arhitekture mašinskog učenja koja je korišćena za stvaranje modela GPT-2 i njemu sličnih.)
Osim njegovih sirovih sposobnosti, model je izazvao živu stručnu diskusiju u vezi sa odgovornošću stručnjaka za veštačku inteligenciju u smislu ublažavanja posledica koje mogu izazvati svojim radom. Stručnjaci su istakli da bi od otvorenog pristupa vrhunskim alatkama veštačke inteligencije mogli da imaju koristi i zlonamerni korisnici, što smo već imali prilike da vidimo. Zbog toga je u početku laboratorija i ograničila verziju koju je objavila.
Takvim postupkom nisu bili svi oduševljeni. Mnogi stručnjaci su kritikovali takav pristup tvrdeći da je na taj način laboratorija ograničila obim istraživanja za sve one koji su mogli da ublaže negativne posledice modela i da je tako još više naglasila moguće opasnosti koje sa sobom nosi veštačka inteligencija.
U svojoj objavi ove nedelje da će pružiti model u potpunosti, laboratorija OpenAI navela je da bi model GPT-2 mogao biti zloupotrebljen i ponovila reči istraživača treće strane da bi sistem mogao da pomogne u stvaranju „sintetičke propagande“ za ekstremne ideološke pozicije. Priznala je da se pribojava da će sistem biti iskorišćen za stvaranje ogromne količine suvislih neželjenih poruka elektronske pošte i preoptereti sistem informacija kao što su društvene mreže.
Laboratorija je istakla da su njeni istraživači napravili automatski sistem koji može da prepozna proizvode modela GPT-2 sa uspešnošću od 95 procenata, ali da ta brojka nije dovoljno velika za „nezavisnu detekciju“, što znači da svaki sistem koji se koristi za prepoznavanje lažnog teksta treba da dobije ljudsku podršku. To, naravno, nije neuobičajeno za takve zadatke koji se uglavnom oslanjaju na ljude koji treba da uoče lažne slike или video-sadržaje.
Laboratorija kaže da će pratiti kako zajednica i javnost koriste model GPT-2 i da će i dalje razvijati svoje postupke koji će doprineti odgovornom objavljivanju istraživanja u oblasti veštačke inteligencije.