Nevolje sa ChatGPT-om

Iako je novi chatbot kompanije OpenAI privukao pažnju svojim impresivnim odgovorima, pitamo se koliko možemo da mu verujemo. Hajde da istražimo tamnu stranu ChatGPT-a.
ChatGPT je moćan novi chatbot opremljen veštačkom inteligencijom koji vrlo brzo ostavlja nezaboravan utisak na nas, ali mnogi su ukazali na ozbiljne nedostatke. Pitajte ga šta god želite i dobićete odgovor koji zvuči kao da ga je napisao čovek, pošto je pričljivi program svoje znanje i veštine pisanja naučio iz velike količine informacija širom interneta. Međutim, pošto su nam dobro poznate okolnosti na internetu, gde istina i činjenice nisu uvek jednoobrazne, nije ni čudo da ChatGPT ponekad napravi neku grešku. S obzirom na to da je ChatGPT spreman da promeni našu budućnost, navešćemo neke od najvećih problema u vezi sa njim.
Šta je ChatGPT?
ChatGPT je veliki model učenja jezika koji je napravljen da imitira ljudski razgovor. Može da zapamti sve ono što ste mu nekada rekli i sposoban je da se ispravi kada pogreši.
Piše kao što bi pisao čovek i ima veliko znanje jer je obučen na svim vrstama tekstova sa interneta, kao što su Vikipedija, objave na blogovima, knjige i akademski članci.
Sasvim je jednostavno da naučite kako da koristite ChatGPT, ali mnogo veći izazov je da otkrijete njegove najveće probleme. Navešćemo neke na koje bi trebalo da obratite pažnju.

  1. ChatGPT nije uvek u pravu
    Matematika mu loše ide, ne ume da odgovori na jednostavna logička pitanja, a veoma često se događa da daje neodržive argumente za potpuno netačne činjenice. Kao što korisnici društvenih mreža mogu da potvrde, ChatGPT može više puta da pogreši.
    Kompanija OpenAI je upoznata sa tim ograničenjima i izjavila je da ChatGPT ponekad piše odgovore koji zvuče uverljivo, ali koji su netačni ili besmisleni. Takvo „haluciniranje između činjenica i fikcije“, kako neki naučnici nazivaju ceo proces, posebno je opasno kada je reč o, recimo, lekarskom savetu.
    Drugim rečima, ChatGPT dolazi do odgovora koristeći niz nagađanja, zbog čega može da obezbedi argumente za pogrešne odgovore, zbog čega izgledaju kao potpuno tačni.
    Iako je odličan u objašnjavanju složenih koncepata, zbog čega je moćan alat za učenje, ne treba verovati svemu što kaže. ChatGPT nije uvek u pravu. Ne još.
  2. Pristrasnost je ugrađena u sistem
    ChatGPT je obučen na kolektivnom pisanju ljudi širom sveta, u prošlosti i sadašnjosti. To znači da iste pristrasnosti koje postoje u podacima mogu da se pojave i u modelu.
    U stvari, korisnici su pokazali da ChatGPT može da pruži neke užasne odgovore, kao što su oni koji diskriminišu žene. Ipak, to je samo vrh ledenog brega. Naime, može da pruži odgovore koji su izuzetno štetni za čitav niz manjinskih grupa.
    Međutim, ne možemo da prebacimo potpunu krivicu na podatke. Istraživači i programeri kompanije OpenAI biraju podatke koji se koriste za obuku ChatGPT-a. Da bi se ispravilo ono što OpenAI naziva „pristrasnim ponašanjem“, od korisnika se traži da daju povratne informacije o lošim rezultatima.
    Pošto ChatGPT poseduje potencijal da nanese štetu ljudima, sasvim opravdano možemo da tvrdimo da nije trebalo da bude objavljen pre nego što se navedeni problemi prouče i reše.
    Sličan chatbot, opremljen veštačkom inteligencijom, pod nazivom Sparrow (u vlasništvu kompanije Alphabet, matične kompanije Google-a) objavljen je u septembru 2022. godine. Međutim, nje pušten u javnu upotrebu zbog slične zabrinutosti da bi mogao da izazove probleme.
    Možda je i Meta trebalo unapred da objavi upozorenje. Kada je objavila jezički model Galactica, koji je bio obučen na akademskim radovima, brzo je opozvan pošto su ga mnogi kritikovali zbog pogrešnih i pristrasnih rezultata.
  3. Izazov za engleski u srednjoj školi
    Možete da zamolite ChatGPT da lektoriše ono što ste napisali ili da vas posavetuje kako da bolje organizujete pasus. Postoji još jedna mogućnost, a to je da se ne zamarate mnogo i da zamolite ChatGPT da napiše nešto umesto vas.
    Nastavnici su, eksperimenta radi, dali određene zadatke ChatGPT-u iz predmeta engleski jezik i dobili su odgovore koji su bolji od onoga što bi mnogi njihovi učenici mogli da urade. ChatGPT bez problema piše propratna pisma, ali opisuje i glavne teme u poznatim književnim delima.
    Dakle, ako ChatGPT može da piše umesto nas, da li će budući učenici uopšte morati da nauče da pišu? To zvuči kao egzistencijalno pitanje, ali kada učenici počnu da koriste ChatGPT za pomoć u pisanju svojih eseja, škole će morati brzo da smisle kako da reaguju. Brzo uvođenje veštačke inteligencije poslednjih godina trebalo bi da ima značajan uticaj na mnoge oblasti života, a obrazovanje je samo jedna od njih.
  4. Može da izazove nevolje u stvarnom svetu
    Prethodno smo spomenuli kako netačne informacije kojima nas snabdeva ChatGPT mogu da prouzrokuju nevolje u stvarnom svetu, a najočigledniji primer je pogrešan medicinski savet.
    Postoje i drugi problemi. Lažni nalozi na društvenim mrežama predstavljaju veliki problem na internetu, a sa uvođenjem chatbota snabdevenog veštačkom inteligencijom, internet prevare bi bile lak poduhvat. Širenje lažnih informacija je još jedna nevolja, posebno kada ChatGPT uspeva da učini da čak i pogrešni odgovori zvuče uverljivo tačno.
    Brzina kojom ChatGPT može da proizvede odgovore koji nisu uvek tačni već je izazvala probleme za Stack Exchange, veb-stranicu na kojoj korisnici mogu da postavljaju pitanja i dobijaju odgovore.
    Ubrzo nakon objavljivanja, odgovori koje je dao ChatGPT su sklonjeni sa stranice zbog toga što je veliki broj njih bio pogrešan. Ako ne postoji dovoljan broj ljudskih dobrovoljaca koji bi razrešili pogrešne odgovore, ne bi bilo moguće da se održi visok kvalitet odgovora, što bi nanelo štetu veb-stranici.
  5. OpenAI je osvojila svu moć
    Uz veliku moć dolazi i velika odgovornost, a OpenAI ima veliku moć. To je jedna od prvih kompanija koja se bavi veštačkom inteligencijom, a koja je zaista uzdrmala svet ne jednim, već većim brojem modela veštačke inteligencije, uključujući Dall-E 2, GPT-3, a sada i ChatGPT.
    Kompanija OpenAI bira podatke koji se koriste za obuku ChatGPT-a, kao i procedure kojima treba da rešava negativne posledice. Bez obzira na to da li se slažemo sa metodama ili ne, ona će nastaviti da razvija tehnologiju u skladu sa sopstvenim ciljevima.
    Iako OpenAI smatra da je bezbednost najvažnija, skoro ništa ne znamo o tome kako su modeli napravljeni. Kakav god da je naš stav u vezi sa kodom programa – treba li da bude otvoren ili neke njegove delove treba zadržati u tajnosti – skoro ništa ne možemo da preduzmemo. Na kraju krajeva, možemo samo da verujemo da će OpenAI odgovorno istraživati, razvijati i koristiti ChatGPT. Možemo i da se zalažemo za to da više ljudi treba da odluči u kom smeru treba da se razvija veštačka inteligencija, kao i da bi trebalo da veštačka inteligencija deli moć sa ljudima koji će je koristiti.
    Rešavanje najvećih problema veštačke inteligencije
    Oduševljenje koje izaziva najnoviji razvoj veštačke inteligencije u vlasništvu kompanije OpenAI sasvim je opravdano. Međutim, pored mnogih prednosti, postoje neki ozbiljni problemi koje bi trebalo da razumemo.
    OpenAI priznaje da ChatGPT može da stvori štetne i pristrasne odgovore, a da ne spominjemo njegovu sposobnost mešanja činjenica sa fikcijom. Uz takvu novu tehnologiju, skoro je nemoguće da predvidimo probleme koji mogu da se pojave. Do tada, preostaje nam samo da uživamo istražujući ChatGPT i da ne verujemo u sve što napiše.