Microsoft je svom Azure Copilot-u koji pokreće LLM dodao nove veštine i otvorio pristup svima.
Autor: Simon Bisson
Microsoft već mesecima usavršava svoj Copilot sa veštačkom inteligencijom u Azure-u i konačno je odlučio da je spreman za opštu upotrebu. Javni pregled Copilot-a u Azure-u će se pojaviti relativno brzo, za nekoliko nedelja. Ako niste u mogućnosti da odmah pristupite Copilot-u u Azure-u, budite uvereni da ćete ga uskoro videti na svom Azure portalu, gde vam može pomoći da upravljate, obezbedite i podesite svoju Azure infrastrukturu u oblaku.
Razgovarao sam sa Erin Chapple (Microsoft CVP, Azure Core Product and Design), o novoj usluzi i o njenom verovatnom smeru u budućnosti. Kao i drugi Microsoft-ovi kopiloti orijentisani na usluge, Copilot u Azure-u nije Copilot opšte namene koji ćete naći u Bingu. Umesto toga, zamislite Copilot u Azure-u kao interfejs prirodnog jezika za Azure usluge koji može da radi direktno sa Azure Resource Graph i Azure API-jima, zadržavajući kontekst između upita.
Važno je razumeti da je Copilot u Azure-u ograničen na to da vam pomogne sa Azure uslugama koje se izvršavaju u vašem korisniku. Dakle, ako želite da Copilot-u postavite pitanje o bezbednosnom problemu, na primer, kao što je ’koje IP adrese se koriste za ispitivanje vaše usluge prijavljivanja’, mora da vam bude pokrenut i Azure Defender i instanca bezbednosnog centra da biste relevantne informacije izložili Copilotovom velikom jezičkom modelu (LLM – large language model).
Drugim rečima, ne možete da koristite složenu generaciju sa proširenim preuzimanjem koja pokreće Copilot u Azure-u bez odgovarajućih izvora podataka. I dok se veći deo usluge zasniva na Azure Resource Manager-u i Azure Resource Graph-u, postoje funkcije koje zahtevaju više informacija o vašem korisniku.
Kako Copilot u Azure-u može da pomogne
Druge opcije nude nove načine za rešavanje višegodišnjih problema. Pitanje „Zašto moja pretplata toliko košta?“ (engl. Why is my subscription costing so much?) može pomoći u pronalaženju pogrešnih konfiguracija ili instanciranih VM-ova koji nisu ugašeni. Imajući pristup podacima koji su u osnovi vašeg korisnika i korišćenjem naučenog iz cele globalne platforme, Copilot u Azure-u je u mogućnosti da ukaže na probleme koje ste možda prevideli. Zatim možete da ga koristite za podešavanje postojećih aplikacija i usluga ili da vam pomogne da odaberete bolji skup VM-ova za vašu aplikaciju.
Upravo je za tu poslednju opciju Chapple oduševljena što vidi da se koristi. „Koristimo uvide iz Azure App Services sa dijagnostičke tačke gledišta i razotkrivamo ih, i mislim da to pruža sve više i više mogućnosti“, rekla mi je. Dobijanje tih informacija sa Azure portala zahteva objedinjavanje informacija iz različitih alata, korišćenje Copilot-a kao mosta, sređivanje i sortiranje informacija koje su vam potrebne da biste postigli najbolje performanse svojeg koda.
Pošto Azure obuhvata mnogo različitih usluga, Copilot u Azure-u gradi biblioteku veština koja obuhvata i administraciju i razvoj. Na primer, ako koristite Copilot sa Azure Kubernetes uslugom, postoji veština za pravljenje rezervnih kopija i upravljanje njima, a druga koja vam pomaže da pronađete konfiguracione YAML fajlove koji su vam potrebni za podešavanje vaših aplikacija. Copilot vam čak može pomoći kada pišete kubectl komandne linije. Copilot uči iz postojeće biblioteke Azure obrazaca dizajna i praksi, a Chapple ističe da je „model obučen na tome i da to zapravo može da koristi u svom odgovoru kako bi vas odmah vodio pravim putem“.
Druge veštine Copilot-a vam pomažu da radite sa podacima hostovanim u Azure-u, dodajući mogućnost prelaska direktno sa prirodnog jezika na SQL kada radite sa svojim Azure SQL bazama podataka. Sve što treba da uradite je da postavite pitanja o vašim podacima i Copilot u Azure-u će vam generisati odgovarajuće T-SQL iskaze, spremne za upotrebu u kodu ili u vašem klijentu za administraciju baze podataka. Copilot će objasniti upite koje generiše, čineći ga korisnim pomoćnim sredstvom za učenje, jer ćete moći da koristite njegove primere kao lekcije za buduće upite u baze podataka.
Takođe imajte na umu da Copilot u Azure-u nije jednokratna alatka. Možete ga koristiti za generisanje sredstava za višekratnu upotrebu, na primer Azure Resource Manager šablona ili Azure CLI skripti. Na kraju krajeva, ponovna upotreba je u srcu Microsoftovih administrativnih alata još od lansiranja PowerShell-a, gde je uvek bilo moguće videti, sačuvati i urediti skripte koje se koriste u osnovi grafičkog korisničkog interfejsa. Copilot funkcioniše na isti način, samo za interakcije prirodnog jezika, isporučujući izlaz koji možete proveriti, deliti i ponovo koristiti.
Rešavanje problema u Azure-u pomoću veštačke inteligencije
Copilot u Azure-u ima za cilj da pomogne u rešavanju problema, oslanjajući se na podatke iz Azure biblioteke podrške i pružajući interaktivni, razgovorni put koji se može skoncentrisati na određeno rešenje. Ne morate da čekate povratni razgovor putem e-pošte ili telefonski poziv. Umesto toga, radite sa Copilot chatbotom, koji vam omogućava da počnete sa predloženim rešenjem, a zatim precizirate svoja pitanja da biste dobili odgovor koji vam je potreban. Opet, dobijanje primera skripti i šablona će vam pomoći da izbegnete slične probleme u budućnosti.
Kao što Chapple napominje, „To je sjajno obrazovno sredstvo na mnogo načina, na primer kažete: ’Koja podešavanja mogu da koristim da ograničim dolazno povezivanje?‘.“ (engl. What are the settings that I can use to restrict inbound connectivity?) Njen tim je radio sa ranim korisnicima kako bi razumeo njihove slučajeve upotrebe, a druga ključna upotreba je pomoć administratorima da razumeju svoja rastuća okruženja u oblaku. Ovde postavljaju pitanja o okruženju kako širenje počinje da raste, kaže ona, i pitanja poput „Koji VM u ovoj grupi resursa imaju ograničenu izlaznu povezanost?“ (engl. What VMs in this resource group have restricted outbound connectivity?)
Dok je Copilot u Azure-u namenjen svim Azure korisnicima, AI asistent se fokusira na administrativne zadatke. To ne znači da programeri ne mogu da koriste Copilot za lako preuzimanje Azure CLI komandi potrebnih za omogućavanje neke nove infrastrukture. Ali Copilot u Azure-u je namenjen uglavnom da olakša pokretanje velikih Azure infrastruktura, što ostaje problem za mnoge organizacije.
Chapple očekuje da se uloga Copilot-a u Azure-u proširi, pa čak i da se prenese van Azure portala u druge aplikacije i alate. Ona opisuje Copilot kao način da se informacije koje Microsoft ima isporuče korisnicima kroz mnogo različitih kanala. „To neće biti samo Azure portal, želimo da ih izložimo kroz mobilnu aplikaciju, preko komandne linije i kroz druga iskustva. Tako da korisnici mogu da imaju ovog pratioca u operativnoj fazi od dizajna do postavljanja i do rešavanja problema, i dobiju pristup informacijama koje imamo.“
Ovde postoji moguća budućnost za sve Microsoftove Copilote – kao porodicu inteligentnih agenata koji bi mogli međusobno da prenose kontekst. Zamislite da započnete upit u Copilot-u u Azure-u i završite u GitHub Copilot-u, a da ne izgubite početno pitanje. Ako to zvuči kao da razgovaramo sa kolegama, pa, to je baš onako kako bi trebalo da bude – saradnja između vas i vaših mašinskih pomoćnika.
Izvor: InfoWorld