„ChatGPT“ meluoja ir neraudonuoja: kaip išvengti DI melo pinklių?

Trys Lietuvą valdę karaliai ir Žemaitijos sostine tapę Mažeikiai – tai tik keletas „ChatGPT“ melagysčių. Pasaulį sužavėjęs dirbtinio intelekto (DI) robotas vis dažniau pagaunamas meluojant, o jį profesionaliai naudojančios bendrovės buvo priverstos atsitraukti ir jo priežiūrą patikėti žmonėms.

Nuotraukos šaltinis: AI generated

Vis dėlto ekspertai teigia, kad dėl to kalti per aukšti lūkesčiai – su „ChatGPT“ reikia bendrauti kiek kitaip, nei su žmogumi, o jo pateikiamą informaciją būtina akylai tikrinti.

„Žaibiškai išpopuliarėjęs „ChatGPT“ kone akimirksniu buvo įdarbintas mokinių rašinėlių rašytoju, internetinių portalų žurnalistu ir net socialinių tinklų turinio kūrėju. Deja, nuslūgus pirminei susižavėjimo bangai, pasimatė šio įrankio netobulumai – neturėdamas pakankamai informacijos robotas linkęs fantazuoti, beveik kiekviename tekste švelniai „nusikalbėti“, o pagautas „už rankos“ ir paprašytas pateikti šaltinius – išgalvoti net ir juos. Norint išvengti su tuo susijusių nemalonių situacijų, „ChatGPT“ negalima aklai pasitikėti, kiekvienoje užklausoje reikėtų pateikti kaip įmanoma daugiau konteksto bei jam patikėti ne savarankišką turinio kūrimą, o informacijos struktūrizavimą“, – pataria „Telia“ Skaitmeninės pažangos centro skaitmeninimo ekspertė Diana Gold.

Įtikinamai skambanti nesąmonė

Pasak D. Gold, priežastis, kodėl apie „ChatGPT“ melagystes kalbame praėjus tik daugiau nei pusei metų nuo jo debiuto, yra pokalbio roboto subtilumas. Vykdydamas mūsų užklausas, jis pasitelkia įtikinamai skambančius faktus ir juos pateikia sklandžiu tekstu, sudarydamas klaidingą kompetentingumo įspūdį. Labai dažnai įvairūs netikslumai ir melagystės sudaro pakankamai nedidelę atsakymo dalį, todėl gali būti pastebimi tik įdėmiai skaitant arba toje temoje turint specifinių žinių.

Pavyzdžiui, „ChatGPT“ paklausus, kiek Lietuvoje buvo karalių, DI asistentas atsakys, jog jų buvo trys, ir iš tiesų paminės tris į šį titulą pretendavusius asmenis – Mindaugą, Vytautą Didįjį ir Mindaugą II. Panaši situacija ir pasiteiravus apie Žemaitijos sostinę – robotas atsakys, jog ji yra Mažeikiai, ir savo atsakymą papildys autoritetingai skambančia melagyste, kad tai neva yra vienas pagrindinių miestų Mažeikių apskrityje, nepaisant to, jog tikroji sostinė yra Telšiai, o Mažeikių apskrities Lietuvoje niekada nebuvo.

„Ne ką geriau „ChatGPT“ išmano ir Lietuvos krepšinio temą. Paklausus, kiek kartų Vilniaus „Rytas“ yra laimėjęs LKL, išmanusis įrankis praneš, jog titulų skaičius siekia 14, bei netgi išvardins metus, kuriais neva buvo pasiekti šie laimėjimai. Žinant, jog tikrasis šios komandos laimėtų LKL sezonų skaičius yra daugiau, nei perpus, mažesnis, o pateikti laimėjimų metai – paprasčiausiai išgalvoti, kyla noras paklausti apie šių duomenų šaltinius. Tačiau robotas „sugudraus“ ir tada, įžūliai tvirtindamas, kad „Ryto“ laimėtų čempionatų skaičius yra plačiai pripažintas, o jį galima rasti oficialioje LKL svetainėje“, – eksperimento rezultatais dalinasi „Telia“ Skaitmeninės pažangos centro atstovė.

Melagystes lemia keletas priežasčių

Nagrinėdamas galimus „ChatGPT“ melavimo motyvus pašnekovė linkusi akcentuoti šio pokalbio roboto veikimo principą. Siekiant jį paversti maksimaliai universaliu ir taip su plačiomis DI galimybėmis supažindinti kuo daugiau vartotojų, įrankis buvo sukurtas taip, kad pateiktų atsakymus į kuo daugiau klausimų, užuot koncentravęsis į jų faktų teisingumą ir atsisakydamas vartotojui padėti tais atvejais, kai trūksta patikimų duomenų.

Nuo to jau spėjo nudegti vieno didžiausių JAV technologijų portalo „CNET“ redakcija, peržiūrėjusi 70 šiemet savo portale DI parašytų straipsnių ir daugiau, nei pusėje, radusi klaidų. Tai ją pastūmėjo atsitraukti ir šio DI modelio sukompiliuotų tekstų nebepublikuoti be redaktoriaus peržiūros.

„Tokias klaidas lemia ir šiuo metu naudojami pokalbių roboto treniravimo ypatumai. Ne paslaptis, jog „ChatGPT“ mokymui buvo pasitelkti itin dideli internete sklandančios informacijos kiekiai, kurios saugojimas tekstiniu formatu būtų labai brangus. Dėl šios priežasties šie duomenys buvo apdoroti ir suspausti iki skaičių, bet ne atsitiktinai, o pagal latentinės erdvės principą. Kalbant paprasčiau, „ChatGPT“ buvo mokomas suprasti ne tai, kas tiksliai yra apelsinas, o tai, kad apelsinas yra arčiau citrinos, nei vynuogės, ar juo labiau automobilio. Būtent todėl „ChatGPT“ beveik visada pataiko į temą, bet nebūtinai atsako tiksliai“, – aiškina ekspertė.

Taip pat svarbu nepamiršti, kad įtakos turi ir kalba, kuria pokalbių robotui užduodame klausimus. Ne paslaptis, jog dėl mažesnio duomenų kiekio lietuvių kalba, klausiant lietuviškai, įrankio galimybės kokybiškai atsakyti į klausimą smarkiai sumažėja ir informaciją jam tenka versti iš šaltinių anglų kalba. Taip atsakymuose gali įsivelti papildomų klaidų dėl terminų neatitikimo ir kitų vertimo netikslumų.

„ChatGPT“ naudingas, tačiau reikalauja įgudimo

D. Gold teigimu, nepaisant polinkio „nukrypti į lankas“, „ChatGPT“ vis tiek gali būti labai naudingas ir smarkiai palengvinti kasdienes užduotis. Tiesiog norint išnaudoti šio dirbtinio intelekto potencialą reikia suvokti jo dabartinį ribotumą ir atitinkamai parinkti jam skiriamus darbus. „Telia“ Skaitmeninės pažangos centro skaitmeninimo ekspertė pateikia keturis patarimus, kurie su „ChatGPT“ padės dirbti efektyviau:

Kuo detaliau formuluokite užduotis. Detalesni klausimai/užklausos DI modeliui duoda daugiau konteksto, todėl sumažėja galimybių improvizuoti ir suklysti.

Nevenkite patikslinančių klausimų ir stebėkite, ar nėra nukrypstama nuo pagrindinės minties. Jei atsakymuose pradedama atsiprašinėti, ar sakyti kitą nuomonę, geriau tokiais atsakymais nepasitikėti.

Aklai nepasitikėkite pateikiamais atsakymais, ypač jei kalba eina apie tikslius skaičius ar faktus. Juos reikia tikrinti bent keliuose šaltiniuose, nes „ChatGPT“ gali būti linkęs juos išgalvoti.

Nenaudokite „ChatGPT“ pateiktų atsakymų viešai ir nesiųskite kitiems asmenims, prieš tai jų neperžiūrėjus žmogui. Pokalbių robotas dar negali visavertiškai veikti be žmogaus įsitraukimo.

„Geriausia „ChatGPT“ pasitelkti, kai reikia struktūrizuoti esamą informaciją arba punktais išdėstytus teiginius paversti sklandžiu tekstu. Taip pat jis gali padėti tais atvejais, kai reikia sugalvoti prezentacijos struktūrą ar sudėlioti verslo planą, bei tada, kai stokojama minčių, kaip atrašyti į elektroninį laišką. Trumpai tariant – kol kas „ChatGPT“ vis dar yra labiau mechaninį darbą palengvinantis asistentas, nei savarankiškas ir už mus darbus nudirbti galintis kolega“, – reziumuoja specialistė.

• Techninių įgūdžių negana: kaip darbdaviui pamatyti tai, ko neparodo CV?
• Pašto dėžutėje – banko kortelė jūsų vardu: nauja sukčiavimo schema.
• II pakopos lėšas atsiėmę gyventojai jų įdarbinti neskuba.
• Saugumo jausmas gali klaidinti: įspėja dėl dažnai nuvertinamų rizikų namuose.
• Paspirtuko sukelta trauma: koma ir neurochirurgų darbas, sugrąžinęs į gyvenimą.
• Kodėl privataus detektyvo paslaugų kainos gali labai skirtis?
• Ką pagaminti iš makaronų? Trys nebrangios idėjos jaukiam rudens savaitgaliui.
• Energijos rijikas namuose gali būti ne senas prietaisas, o jo nustatymas.
• VU chemikų sukurtas metodas gali paspartinti naujų vaistų kūrimą.
• VU Fizikos fakulteto mokslininkai siekia įminti perovskitų paslaptis.
• Dyzelinui brangstant: kiek galima sutaupyti važiuojant elektra?
• Lietuva užsitikrino JAV dujų tiekimą dešimtmečiui: didesnis kainų stabilumas.
• Ką iš tiesų sako jūsų šuo? Mokslininkas apie DI bandymus iššifruoti gyvūnų kalbą.
• Atsistojus tenka įsikibti, nes aptemsta akyse? Šio simptomo nereikėtų ignoruoti.
• DI bumas toliau brangina IT infrastruktūrą: kainos per metus šoktelėjo.
• Prezidentas: JAV kariai jau pakeliui į Lietuvą.
• Tekste nėra nė vieno žodžio. Ką jame perskaito vaikai?
• Elektriniai paspirtukai mieste: ko reikia, kad visi jaustumės saugesni?
• RRT: Telecentras turės grąžinti LRT 651 tūkst. eurų permoką.
• Tarp darbuotojų ryškėja atskirtis: kokių įgūdžių prireiks norint neatsilikti?
• Ukmergės gamykla ruošiasi auginti komandą iki 400 žmonių.
• Nelegalus darbas statybų sektoriuje: individualios veiklos pažyma neapsaugo.
• Atrodė puikiai, kol neišvažiavo į kelią: ką gali slėpti stovėjęs automobilis?
• Darbo skelbimo nebeužtenka: kas veikia ieškant specialistų.
• Vaikas išvėmė vaistus: sugirdyti dozę dar kartą ar laukti kito vartojimo?
• Rusijos GPS trikdžiams suvaldyti „Bitė“ įsigijo atominį laikrodį.
• „Nėra ką valgyti“, nors šaldytuvas pilnas: kodėl taip nutinka ir ką daryti?
• Sukčiai apie jus gali žinoti daugiau, nei manote: įvardijo 5 pagrindines schemas.
• Verslo atsparumas „Dienai X“: nuo atsarginių kopijų iki veiklos tęstinumo.
• Kai vaikai moko senjorus, o senjorai – vaikus: skirtingos kartos kartu.
• Kodėl vaikas skriaudžia kitus?
• Pirmas nuosavas būstas: ką svarbu žinoti renkantis elektros tiekimo planą?
• Privačios gydymo įstaigos siekia toliau veikti su sistema.
• Jūsų televizorius – lyg meno kūrinys: profesionalus televizorių pakabinimas.
• DI asistentas jau gali atlikti veiksmus už jus: ekspertas įvardijo rizikas.
• Nauja šildymo sezono pradžios ir pabaigos tvarka: kokią teisę turi gyventojai?
• Kaip paruošti mėgstamus patiekalus be mėsos? Nustebins skonis ir žema kaina.
• Darbuotojai išeina ne dėl atlyginimo: priežastis – prastas vadovavimas.
• Kruasanai – ne tik pusryčiams: 5 idėjos, kurios padės šį kepinį atrasti iš naujo.
• Įrankis naujas, įpročiai seni: kodėl DI įdiegimas dar negarantuoja produktyvumo?

Šio sąrašo naujienos detaliau

Daugiau ankstesnių naujienų:  1  2  3  4  5  6  7  8  9  10  11  12  13  14  15  16  17  18  19  20  21  22  23  24  25  26  27  28  29  30  31  32  33  34  35  36  37  38  39  40  41  42  43  44  45  46  47  48  49  50  51  52  53  54  55  56  57  58  59  60  61  62  63  64  65  66  67  68  69  70  71  72  73  74  75  76  77  78  79  80  81  82  83  84  85  86  87  88  89  90  91  92  93  94  95  96  97  98  99  100  101  102  103  104  105  106  107  108  109  110  111  112  113  114  115  116  117  118  119  120  121  122  123  124  125  126  127  128  129  130  131  132  133  134  135  136  137  138  139  140