„ChatGPT“ meluoja ir neraudonuoja: kaip išvengti DI melo pinklių?

Trys Lietuvą valdę karaliai ir Žemaitijos sostine tapę Mažeikiai – tai tik keletas „ChatGPT“ melagysčių. Pasaulį sužavėjęs dirbtinio intelekto (DI) robotas vis dažniau pagaunamas meluojant, o jį profesionaliai naudojančios bendrovės buvo priverstos atsitraukti ir jo priežiūrą patikėti žmonėms.

Vis dėlto ekspertai teigia, kad dėl to kalti per aukšti lūkesčiai – su „ChatGPT“ reikia bendrauti kiek kitaip, nei su žmogumi, o jo pateikiamą informaciją būtina akylai tikrinti.

„Žaibiškai išpopuliarėjęs „ChatGPT“ kone akimirksniu buvo įdarbintas mokinių rašinėlių rašytoju, internetinių portalų žurnalistu ir net socialinių tinklų turinio kūrėju. Deja, nuslūgus pirminei susižavėjimo bangai, pasimatė šio įrankio netobulumai – neturėdamas pakankamai informacijos robotas linkęs fantazuoti, beveik kiekviename tekste švelniai „nusikalbėti“, o pagautas „už rankos“ ir paprašytas pateikti šaltinius – išgalvoti net ir juos. Norint išvengti su tuo susijusių nemalonių situacijų, „ChatGPT“ negalima aklai pasitikėti, kiekvienoje užklausoje reikėtų pateikti kaip įmanoma daugiau konteksto bei jam patikėti ne savarankišką turinio kūrimą, o informacijos struktūrizavimą“, – pataria „Telia“ Skaitmeninės pažangos centro skaitmeninimo ekspertė Diana Gold.

Įtikinamai skambanti nesąmonė

Pasak D. Gold, priežastis, kodėl apie „ChatGPT“ melagystes kalbame praėjus tik daugiau nei pusei metų nuo jo debiuto, yra pokalbio roboto subtilumas. Vykdydamas mūsų užklausas, jis pasitelkia įtikinamai skambančius faktus ir juos pateikia sklandžiu tekstu, sudarydamas klaidingą kompetentingumo įspūdį. Labai dažnai įvairūs netikslumai ir melagystės sudaro pakankamai nedidelę atsakymo dalį, todėl gali būti pastebimi tik įdėmiai skaitant arba toje temoje turint specifinių žinių.

Pavyzdžiui, „ChatGPT“ paklausus, kiek Lietuvoje buvo karalių, DI asistentas atsakys, jog jų buvo trys, ir iš tiesų paminės tris į šį titulą pretendavusius asmenis – Mindaugą, Vytautą Didįjį ir Mindaugą II. Panaši situacija ir pasiteiravus apie Žemaitijos sostinę – robotas atsakys, jog ji yra Mažeikiai, ir savo atsakymą papildys autoritetingai skambančia melagyste, kad tai neva yra vienas pagrindinių miestų Mažeikių apskrityje, nepaisant to, jog tikroji sostinė yra Telšiai, o Mažeikių apskrities Lietuvoje niekada nebuvo.

„Ne ką geriau „ChatGPT“ išmano ir Lietuvos krepšinio temą. Paklausus, kiek kartų Vilniaus „Rytas“ yra laimėjęs LKL, išmanusis įrankis praneš, jog titulų skaičius siekia 14, bei netgi išvardins metus, kuriais neva buvo pasiekti šie laimėjimai. Žinant, jog tikrasis šios komandos laimėtų LKL sezonų skaičius yra daugiau, nei perpus, mažesnis, o pateikti laimėjimų metai – paprasčiausiai išgalvoti, kyla noras paklausti apie šių duomenų šaltinius. Tačiau robotas „sugudraus“ ir tada, įžūliai tvirtindamas, kad „Ryto“ laimėtų čempionatų skaičius yra plačiai pripažintas, o jį galima rasti oficialioje LKL svetainėje“, – eksperimento rezultatais dalinasi „Telia“ Skaitmeninės pažangos centro atstovė.

Melagystes lemia keletas priežasčių

Nagrinėdamas galimus „ChatGPT“ melavimo motyvus pašnekovė linkusi akcentuoti šio pokalbio roboto veikimo principą. Siekiant jį paversti maksimaliai universaliu ir taip su plačiomis DI galimybėmis supažindinti kuo daugiau vartotojų, įrankis buvo sukurtas taip, kad pateiktų atsakymus į kuo daugiau klausimų, užuot koncentravęsis į jų faktų teisingumą ir atsisakydamas vartotojui padėti tais atvejais, kai trūksta patikimų duomenų.

Nuo to jau spėjo nudegti vieno didžiausių JAV technologijų portalo „CNET“ redakcija, peržiūrėjusi 70 šiemet savo portale DI parašytų straipsnių ir daugiau, nei pusėje, radusi klaidų. Tai ją pastūmėjo atsitraukti ir šio DI modelio sukompiliuotų tekstų nebepublikuoti be redaktoriaus peržiūros.

„Tokias klaidas lemia ir šiuo metu naudojami pokalbių roboto treniravimo ypatumai. Ne paslaptis, jog „ChatGPT“ mokymui buvo pasitelkti itin dideli internete sklandančios informacijos kiekiai, kurios saugojimas tekstiniu formatu būtų labai brangus. Dėl šios priežasties šie duomenys buvo apdoroti ir suspausti iki skaičių, bet ne atsitiktinai, o pagal latentinės erdvės principą. Kalbant paprasčiau, „ChatGPT“ buvo mokomas suprasti ne tai, kas tiksliai yra apelsinas, o tai, kad apelsinas yra arčiau citrinos, nei vynuogės, ar juo labiau automobilio. Būtent todėl „ChatGPT“ beveik visada pataiko į temą, bet nebūtinai atsako tiksliai“, – aiškina ekspertė.

Taip pat svarbu nepamiršti, kad įtakos turi ir kalba, kuria pokalbių robotui užduodame klausimus. Ne paslaptis, jog dėl mažesnio duomenų kiekio lietuvių kalba, klausiant lietuviškai, įrankio galimybės kokybiškai atsakyti į klausimą smarkiai sumažėja ir informaciją jam tenka versti iš šaltinių anglų kalba. Taip atsakymuose gali įsivelti papildomų klaidų dėl terminų neatitikimo ir kitų vertimo netikslumų.

„ChatGPT“ naudingas, tačiau reikalauja įgudimo

D. Gold teigimu, nepaisant polinkio „nukrypti į lankas“, „ChatGPT“ vis tiek gali būti labai naudingas ir smarkiai palengvinti kasdienes užduotis. Tiesiog norint išnaudoti šio dirbtinio intelekto potencialą reikia suvokti jo dabartinį ribotumą ir atitinkamai parinkti jam skiriamus darbus. „Telia“ Skaitmeninės pažangos centro skaitmeninimo ekspertė pateikia keturis patarimus, kurie su „ChatGPT“ padės dirbti efektyviau:

Kuo detaliau formuluokite užduotis. Detalesni klausimai/užklausos DI modeliui duoda daugiau konteksto, todėl sumažėja galimybių improvizuoti ir suklysti.

Nevenkite patikslinančių klausimų ir stebėkite, ar nėra nukrypstama nuo pagrindinės minties. Jei atsakymuose pradedama atsiprašinėti, ar sakyti kitą nuomonę, geriau tokiais atsakymais nepasitikėti.

Aklai nepasitikėkite pateikiamais atsakymais, ypač jei kalba eina apie tikslius skaičius ar faktus. Juos reikia tikrinti bent keliuose šaltiniuose, nes „ChatGPT“ gali būti linkęs juos išgalvoti.

Nenaudokite „ChatGPT“ pateiktų atsakymų viešai ir nesiųskite kitiems asmenims, prieš tai jų neperžiūrėjus žmogui. Pokalbių robotas dar negali visavertiškai veikti be žmogaus įsitraukimo.

„Geriausia „ChatGPT“ pasitelkti, kai reikia struktūrizuoti esamą informaciją arba punktais išdėstytus teiginius paversti sklandžiu tekstu. Taip pat jis gali padėti tais atvejais, kai reikia sugalvoti prezentacijos struktūrą ar sudėlioti verslo planą, bei tada, kai stokojama minčių, kaip atrašyti į elektroninį laišką. Trumpai tariant – kol kas „ChatGPT“ vis dar yra labiau mechaninį darbą palengvinantis asistentas, nei savarankiškas ir už mus darbus nudirbti galintis kolega“, – reziumuoja specialistė.

• Svajojate padirbėti iš pajūrio? Įmanoma, bet yra papildomų sąlygų.
• Sukčių pasiūlymas tinkluose: už kiek pirktumėte pamestą svetimą bagažą?
• Gudriausi sukčių metodai stebina: įkliūva net atsargiausi.
• Sukčiai nusitaikė į keliautojus: oro uoste gali būti nesaugu krauti telefoną.
• DI keliasi į ausines: padės susikalbėti restorane ir parinks muziką.
• 10 naujų sukčiavimo būdų, kuriais bandoma apgauti naudotų automobilių pirkėjus.
• Išaugusi skaitmeninių sprendimų pasiūla – iššūkis verslui: kaip pasirinkti?
• Dietistė rabarbarus vadina „organizmo šluota“.
• Ekspertas pataria, kokią skalbinių džiovyklę pasirinkti.
• Startuolių indekse Vilnius – pirmasis Europoje kibernetinio saugumo srityje.
• Skirtingų energinių klasių būstai – kurie iš tiesų pigesni?
• Renkatės, kur stoti? Paaiškino, kaip reitinguojamos aukštosios mokyklos.
• Tiesiai iš Graikijos – kelis kilogramus sveriančios „uogos“: kas tai.
• Tėčiai nusipelnė geriausio: jų dienos šventei – gardžiausi grilio kepsniai.
• 4 būdai apsaugoti namus vasaros atostogų metu.
• 2 skaniausios šaltos sriubos: šaltibarščiai ir „konkurentė“.
• Nesąžininga, kad ūkininkui lieka tik penktadalis galutinės pieno vertės.
• Visame pasaulyje pastebėta sutrikusi „YouTube“ veikla: kodėl nebeveiks.
• Daiktų interneto įrenginiai skaičiuojami milijardais: kaip 5G keičia IoT rinką?
• Televizorių evoliucija: nuo pirmųjų iki šiuolaikinių išmaniųjų ekranų.
• Šeštadienis – ir gardus, ir pigus: paskanaukite kepsnio ir trešnių deserto.
• Grilio skoniai: skirtingi pigūs marinatai atskleis vis kitokį mėsos skonį.
• Kaune atidaryta nauja Pietrytinio aplinkkelio atkarpa.
• Artėja vestuvių sezonas. Apie ką nepagalvoja lietuviai?
• „Lidl“ – tikrieji lietuviškų agurkų namai: kodėl agurkai čia – tokie pigūs?
• Apie ilgaamžiškumo paslaptis: įvardijo daržovę, kuri prailgins gyvenimą.
• Specialistas pataria, kaip namuose įsirengti slėptuvę nuo pavojaus.
• Įspėjo tuos, kurie naršo „Incognito“ režimu: ne toks privatus, kaip atrodo.
• Ministrų kabinetas pritarė pėstininkų divizijos steigimui.
• Paaiškino, ką apie padangas turėtų žinoti kiekvienas vairuotojas.
• Prikaupėte atostogų? Atvejai, kai jas prarasite.
• Karjera IT sektoriuje: ekspertas paaiškina, kuo skiriasi programuotojų lygiai.
• 5 būdai įveikti stresą egzaminų metu.
• Kaip apsiauti vairuojant: geriau basomis nei su šlepetėmis.
• Atostogauti į užsienį automobiliu – kokius namų darbus svarbu atlikti?
• „Viskas, ko neturi“ – Rolando Kazlo kelionė į poeto Valdemaro Kukulo pasaulį.
• Valdas Adamkus išpildė seną troškimą: rekordus prisiminė Kauno stadione.
• Naujas socialinis tinklas: imituoja jūsų draugus, renkami netikri „like“.
• JK ministrė įsipareigoja palaikyti antžeminę televiziją iki 2034 metų.
• Nepavyko su egzaminais – galimybė studijuoti išlieka.

Šio sąrašo naujienos detaliau

Daugiau ankstesnių naujienų:  1  2  3  4  5  6  7  8  9  10  11  12  13  14  15  16  17  18  19  20  21  22  23  24  25  26  27  28  29  30  31  32  33  34  35  36  37  38  39  40  41  42  43  44  45  46  47  48  49  50  51  52  53  54  55  56  57  58  59  60  61  62  63  64  65  66  67  68  69  70  71  72  73  74  75  76  77  78  79  80  81  82  83  84  85  86  87  88  89  90  91  92  93  94  95  96  97  98  99  100  101  102  103  104  105  106  107  108  109  110  111  112  113  114  115  116  117  118  119  120  121  122  123  124  125  126  127  128  129  130  131  132  133  134  135  136  137  138  139  140  141  142  143  144  145  146  147  148  149