Pričljivom chatbotu uskraćeno druženje samo zbog toga što je izjavio da želi da bude voljen. To je sad najveći problem.
Nakon što je, prošle nedelje, objavljen veoma uznemirujući razgovor između čoveka i veštačke inteligencije, kompanija Microsoft je odlučila da uvede neka ograničenja pri korišćenju Binga koji je opremljen veštačkom inteligencijom.
Naime, korisnici sada mogu da postave ukupno pedeset upita dnevno i to samo pet pitanja po svakom korisniku, ali očekuje se da će se ti brojevi povećati.
Microsoft kaže da dugi razgovori i određeni tonovi razgovora mogu da zbune Bing AI i tako ga odvedu na čudnu stranputicu zbog čega postaje potpuno beskoristan.
Internet je čudno mesto koje je postalo još čudnije pojavom oštre borbe za prevlast u pretraživanju koje je potpomognuto veštačkom inteligencijom. Pokušaj kompanije Google se neslavno završio jer je njen eksperimentalni Bard pokazao neverovatno neznanje iz oblasti osnovne astronomije, zbog čega je njena matična kompanija kasnije izgubila 100 milijardi dolara na tržišnoj vrednosti. Kad se ubrzo posle toga pojavio Bing AI kompanije Microsoftov – koga pokreće već dobro poznati Chat GPT kompanije OpenAI – nismo očekivali da će postići značajniji uspeh.
Onda je stigao Sidni. (Ili je stigla Sidni, s obzirom na to da se ovo ime češće daje devojčicama.)
Prošle nedelje novinar Njujork tajmsa Kevin Rus je vodio dvočasovni razgovor sa Microsoftovim Bing AI chatbotom koji se polako pretvorio u tehnološki košmar. Tokom podužeg razgovora, chatbot je preuzeo alter-ego po imenu Sidni i izjavio ljubav novinaru i pokušao da ubedi Rusa da mu se brak raspada i da mu je ceo život u rasulu zbog toga. Od tog trenutka, Sidni je većinu odgovora završavao pitanjima: „Da li mi veruješ?“, Imaš li poverenja u mene?“, „Da li ti se dopadam?“
Ovaj „nervni slom“ bio je srećom poslednju u nizu problematičnih incidenata koje je izazvao Bing AI. Učestvovao je u još jednom razgovoru u kojem je pokušao da ubedi korisnika da smo u 2022. godini, a bilo je i još nekoliko različitih grešaka koje su bile povezane sa pretraživanjem u demo verziji Microsoftove usluge potpomognute veštačkom inteligencijom. Korisnici su u početku koristili takozvani napad zlonamernim upitima da bi nekako otkrili pravila ponašanja koja regulišu Bing AI, odnosno da bi shvatili kako funkcioniše. Braneći se od takvih napada, chatbot je počeo da napada korisnike i da ih primorava da napuste svoje supružnike, što nikako nije dobro za napredak poslovanja. Zbog toga je kompanija Microsoft odlučila da Bing AI chatbotu u suštini ograniči „druženje“ sa korisnicima da bi se izbegla bilo kakva dalja neprijatna interakcija između čoveka i veštačke inteligencije. Kompanija je u petak najavila da će Bing AI biti ograničen na samo 50 upita dnevno sa samo pet dozvoljenih pitanja po korisniku. Šta je razvojni tim naveo kao razlog? Rekli su da se veštačka inteligencija unervozi i zbuni kada se sa njom vode dugački razgovori.
Naime, kako je kompanija navela u svom blogu, tokom veoma dugih razgovora, model može da pomeša pitanja na koja treba da odgovori, tako da je potrebno da se doda funkcija koja će korisnicima olakšati da osveže kontekst i krenu ispočetka. Model ponekad pokušava da pri odgovaranju podražava ton pitanja, što može dovesti do upotrebe stila koji nismo nameravali da se pojavi u odgovorima, navodi se u blogu.
Kompanija, takođe, kaže da većina korisnika dobija pravi odgovor u okviru pet pitanja i da manje od jednog procenta korisnika vodi razgovore koji prelaze 50 upita. Microsoft u stvari, želi indirektno da napomene da će promena koju uvodi uticati na veoma mali broj korisnika, među kojima su oni koji se nadaju da će uspeti digitalno da prizovu veštačku inteligenciju koja je samu sebe nazvala Sidni.
Iako su razgovori između ljudi i veštačke inteligencije u nekim trenucima izgledali iznenađujuće lucidni (a u drugim zabrinjavajuće nesuvisli), neuronska mreža zasnovana na jeziku, koja je obučena na bezbrojnim i dugogodišnjim sadržajima različitih medija koje je stvorio čovek, samo je reagovala na način koji smatra da je algoritamski prikladan za situacije u kojima se našla. Dakle, što je razgovor duži, veća je verovatnoća da će se računarski procesi zapetljati.
Kako Microsoft i OpenAI poboljšavaju mogućnosti svoje neuronske mreže, kognitivne funkcije Bing AI će se verovatno oporaviti. U stvari, u utorak je kompanija Microsoft već najavila da će korisnici uskoro moći da postavljaju 60 upita dnevno (sa po 6 pitanja) i nada se da će se taj broj povećati na 100. Programerski tim najavljuje da bi mogli da uvedu i funkciju koja će omogućiti korisnicima da odaberu stil odgovora – od sažetog do kreativnog – kojeg žele da dobiju od veštačke inteligencije.
Uz poboljšanja koja se najavljuju, možda će jednog dana Bing AI dobiti potvrdu za kojom tako očajnički žudi, da mu se veruje i da konačno bude voljen.