„ChatGPT“ meluoja ir neraudonuoja: kaip išvengti DI melo pinklių?

Trys Lietuvą valdę karaliai ir Žemaitijos sostine tapę Mažeikiai – tai tik keletas „ChatGPT“ melagysčių. Pasaulį sužavėjęs dirbtinio intelekto (DI) robotas vis dažniau pagaunamas meluojant, o jį profesionaliai naudojančios bendrovės buvo priverstos atsitraukti ir jo priežiūrą patikėti žmonėms.

Nuotraukos šaltinis: AI generated

Vis dėlto ekspertai teigia, kad dėl to kalti per aukšti lūkesčiai – su „ChatGPT“ reikia bendrauti kiek kitaip, nei su žmogumi, o jo pateikiamą informaciją būtina akylai tikrinti.

„Žaibiškai išpopuliarėjęs „ChatGPT“ kone akimirksniu buvo įdarbintas mokinių rašinėlių rašytoju, internetinių portalų žurnalistu ir net socialinių tinklų turinio kūrėju. Deja, nuslūgus pirminei susižavėjimo bangai, pasimatė šio įrankio netobulumai – neturėdamas pakankamai informacijos robotas linkęs fantazuoti, beveik kiekviename tekste švelniai „nusikalbėti“, o pagautas „už rankos“ ir paprašytas pateikti šaltinius – išgalvoti net ir juos. Norint išvengti su tuo susijusių nemalonių situacijų, „ChatGPT“ negalima aklai pasitikėti, kiekvienoje užklausoje reikėtų pateikti kaip įmanoma daugiau konteksto bei jam patikėti ne savarankišką turinio kūrimą, o informacijos struktūrizavimą“, – pataria „Telia“ Skaitmeninės pažangos centro skaitmeninimo ekspertė Diana Gold.

Įtikinamai skambanti nesąmonė

Pasak D. Gold, priežastis, kodėl apie „ChatGPT“ melagystes kalbame praėjus tik daugiau nei pusei metų nuo jo debiuto, yra pokalbio roboto subtilumas. Vykdydamas mūsų užklausas, jis pasitelkia įtikinamai skambančius faktus ir juos pateikia sklandžiu tekstu, sudarydamas klaidingą kompetentingumo įspūdį. Labai dažnai įvairūs netikslumai ir melagystės sudaro pakankamai nedidelę atsakymo dalį, todėl gali būti pastebimi tik įdėmiai skaitant arba toje temoje turint specifinių žinių.

Pavyzdžiui, „ChatGPT“ paklausus, kiek Lietuvoje buvo karalių, DI asistentas atsakys, jog jų buvo trys, ir iš tiesų paminės tris į šį titulą pretendavusius asmenis – Mindaugą, Vytautą Didįjį ir Mindaugą II. Panaši situacija ir pasiteiravus apie Žemaitijos sostinę – robotas atsakys, jog ji yra Mažeikiai, ir savo atsakymą papildys autoritetingai skambančia melagyste, kad tai neva yra vienas pagrindinių miestų Mažeikių apskrityje, nepaisant to, jog tikroji sostinė yra Telšiai, o Mažeikių apskrities Lietuvoje niekada nebuvo.

„Ne ką geriau „ChatGPT“ išmano ir Lietuvos krepšinio temą. Paklausus, kiek kartų Vilniaus „Rytas“ yra laimėjęs LKL, išmanusis įrankis praneš, jog titulų skaičius siekia 14, bei netgi išvardins metus, kuriais neva buvo pasiekti šie laimėjimai. Žinant, jog tikrasis šios komandos laimėtų LKL sezonų skaičius yra daugiau, nei perpus, mažesnis, o pateikti laimėjimų metai – paprasčiausiai išgalvoti, kyla noras paklausti apie šių duomenų šaltinius. Tačiau robotas „sugudraus“ ir tada, įžūliai tvirtindamas, kad „Ryto“ laimėtų čempionatų skaičius yra plačiai pripažintas, o jį galima rasti oficialioje LKL svetainėje“, – eksperimento rezultatais dalinasi „Telia“ Skaitmeninės pažangos centro atstovė.

Melagystes lemia keletas priežasčių

Nagrinėdamas galimus „ChatGPT“ melavimo motyvus pašnekovė linkusi akcentuoti šio pokalbio roboto veikimo principą. Siekiant jį paversti maksimaliai universaliu ir taip su plačiomis DI galimybėmis supažindinti kuo daugiau vartotojų, įrankis buvo sukurtas taip, kad pateiktų atsakymus į kuo daugiau klausimų, užuot koncentravęsis į jų faktų teisingumą ir atsisakydamas vartotojui padėti tais atvejais, kai trūksta patikimų duomenų.

Nuo to jau spėjo nudegti vieno didžiausių JAV technologijų portalo „CNET“ redakcija, peržiūrėjusi 70 šiemet savo portale DI parašytų straipsnių ir daugiau, nei pusėje, radusi klaidų. Tai ją pastūmėjo atsitraukti ir šio DI modelio sukompiliuotų tekstų nebepublikuoti be redaktoriaus peržiūros.

„Tokias klaidas lemia ir šiuo metu naudojami pokalbių roboto treniravimo ypatumai. Ne paslaptis, jog „ChatGPT“ mokymui buvo pasitelkti itin dideli internete sklandančios informacijos kiekiai, kurios saugojimas tekstiniu formatu būtų labai brangus. Dėl šios priežasties šie duomenys buvo apdoroti ir suspausti iki skaičių, bet ne atsitiktinai, o pagal latentinės erdvės principą. Kalbant paprasčiau, „ChatGPT“ buvo mokomas suprasti ne tai, kas tiksliai yra apelsinas, o tai, kad apelsinas yra arčiau citrinos, nei vynuogės, ar juo labiau automobilio. Būtent todėl „ChatGPT“ beveik visada pataiko į temą, bet nebūtinai atsako tiksliai“, – aiškina ekspertė.

Taip pat svarbu nepamiršti, kad įtakos turi ir kalba, kuria pokalbių robotui užduodame klausimus. Ne paslaptis, jog dėl mažesnio duomenų kiekio lietuvių kalba, klausiant lietuviškai, įrankio galimybės kokybiškai atsakyti į klausimą smarkiai sumažėja ir informaciją jam tenka versti iš šaltinių anglų kalba. Taip atsakymuose gali įsivelti papildomų klaidų dėl terminų neatitikimo ir kitų vertimo netikslumų.

„ChatGPT“ naudingas, tačiau reikalauja įgudimo

D. Gold teigimu, nepaisant polinkio „nukrypti į lankas“, „ChatGPT“ vis tiek gali būti labai naudingas ir smarkiai palengvinti kasdienes užduotis. Tiesiog norint išnaudoti šio dirbtinio intelekto potencialą reikia suvokti jo dabartinį ribotumą ir atitinkamai parinkti jam skiriamus darbus. „Telia“ Skaitmeninės pažangos centro skaitmeninimo ekspertė pateikia keturis patarimus, kurie su „ChatGPT“ padės dirbti efektyviau:

Kuo detaliau formuluokite užduotis. Detalesni klausimai/užklausos DI modeliui duoda daugiau konteksto, todėl sumažėja galimybių improvizuoti ir suklysti.

Nevenkite patikslinančių klausimų ir stebėkite, ar nėra nukrypstama nuo pagrindinės minties. Jei atsakymuose pradedama atsiprašinėti, ar sakyti kitą nuomonę, geriau tokiais atsakymais nepasitikėti.

Aklai nepasitikėkite pateikiamais atsakymais, ypač jei kalba eina apie tikslius skaičius ar faktus. Juos reikia tikrinti bent keliuose šaltiniuose, nes „ChatGPT“ gali būti linkęs juos išgalvoti.

Nenaudokite „ChatGPT“ pateiktų atsakymų viešai ir nesiųskite kitiems asmenims, prieš tai jų neperžiūrėjus žmogui. Pokalbių robotas dar negali visavertiškai veikti be žmogaus įsitraukimo.

„Geriausia „ChatGPT“ pasitelkti, kai reikia struktūrizuoti esamą informaciją arba punktais išdėstytus teiginius paversti sklandžiu tekstu. Taip pat jis gali padėti tais atvejais, kai reikia sugalvoti prezentacijos struktūrą ar sudėlioti verslo planą, bei tada, kai stokojama minčių, kaip atrašyti į elektroninį laišką. Trumpai tariant – kol kas „ChatGPT“ vis dar yra labiau mechaninį darbą palengvinantis asistentas, nei savarankiškas ir už mus darbus nudirbti galintis kolega“, – reziumuoja specialistė.

• „filmai.in“ bando grįžti – šįkart naujais pavadinimais, įspėjami vartotojai.
• Finansinė realybė palikus tėvų namus: ką turi žinoti kiekvienas pirmakursis?
• Dėmesio centre moliūgas: šie negirdėti receptai leis atrasti daržovę iš naujo.
• Po traumos – ilgos eilės, o jėgų reikia dabar: kaip gauti reabilitaciją?
• Rudens sezonas: ką verta žinoti apie grožio rutiną ir makiažo tendencijas?
• Skambinti galima be mobiliojo ryšio: RRT paaiškina, kas yra Wi-Fi Calling.
• Kvepi, bet neužuodi: KTU mokslininkė paaiškina, kodėl taip nutinka.
• Kaip pasirūpinti mirusio artimojo socialinių tinklų paskyromis?
• Naudotų hibridų bumas: kodėl jie tampa vis dažnesniu lietuvių pasirinkimu?
• Ar dantų implantai – visam gyvenimui? Mitai ir realybė.
• Vėlinių savaitgalį – daugiau pavojų: ką daryti susidūrus su laukiniu gyvūnu?
• Uždirbate solidžiai, bet sąskaita tuščia? Kaip pasiekti finansinį saugumą?
• Miške ne tik grybai ir paukščiai: kuo ypatingi auksavabaliai?
• Už ribojamojoje geografinėje zonoje pakeltą droną - administracinė bauda.
• Žieminių padangų sezonas prasideda: vairuotojai vis dar linkę delsti.
• Živilės istorija: nuo vėžio vaikystėje iki atsakymo po trijų dešimtmečių.
• Fetišai: laikas kalbėti drąsiai ir atvirai.
• Podagra – ne tik vyresnio amžiaus žmonių liga: atsakė, kaip ją suvaldyti.
• Trumpesnė darbo diena prieš šventes: informacija darbuotojams ir darbdaviams.
• Restorano lygio kava namuose – taupiai ir kūrybiškai.
• Gavote palikimą su skolomis? Specialistas atskleidė, kaip sumažinti naštą.
• Prieš ir po: kaip vaiko kambarį paversti augančiu kartu su vaiku.
• Lietuva imasi griežtų veiksmų dėl kontrabandos gabenimo bepilotėmis priemonėmis.
• „Ignitis grupė“ užsitikrino finansavimą didžiausiam vėjo parkui Baltijos šalyse.
• Priešais automobilį iššoko stirna: tyrimas atskleidė kaip elgtųsi vairuotojai.
• Keisis nedarbo draudimo išmokų sistema: gerės priešpensinio amžiaus darbuotojams.
• Dezodorantai, liemenėlės, nakvišų aliejus: kas didina krūties vėžio riziką?
• Sekmadienį vėl suksime laikrodžius: ar tai sumažins sąskaitas už elektrą?
• Priedangų įrengimas – ar sutiksime dėl saugumo už būstą mokėti daugiau?
• Graužikai kelia grėsmę – sandarinimas yra raktas į efektyvią apsaugą.
• Anglys ir dujos ar saulė ir vėjas: ar už elektrą mokame mažiau nei lenkai?
• Pirmieji kataraktos požymiai: kaip juos atpažinti laiku?
• Renkatės buitinę techniką? Ką sufleruoja energijos efektyvumo etiketė.
• VERT nustatė elektros energijos reguliuojamų paslaugų kainų viršutines ribas.
• Metas biudžetą pradėti skaičiuoti kaip suaugusiesiems.
• Amžėti nereiškia sustoti: kodėl judėti būtina visą gyvenimą.
• Kaip išvengti didelių sąskaitų šildantiems namus elektra, pataria ekspertas.
• Tarptautinė elektronikos atliekų diena: kaip tinkamai jas tvarkyti?
• Telecentras pradeda DI gamyklos įrengimo projektą.
• Kada Lietuva pasieks energetinę nepriklausomybę? Ragina įsitraukti visuomenę.

Šio sąrašo naujienos detaliau

Daugiau ankstesnių naujienų:  1  2  3  4  5  6  7  8  9  10  11  12  13  14  15  16  17  18  19  20  21  22  23  24  25  26  27  28  29  30  31  32  33  34  35  36  37  38  39  40  41  42  43  44  45  46  47  48  49  50  51