Naujienos

„ChatGPT“ meluoja ir neraudonuoja: kaip išvengti DI melo pinklių?

2023-06-27 18:52:53

Trys Lietuvą valdę karaliai ir Žemaitijos sostine tapę Mažeikiai – tai tik keletas „ChatGPT“ melagysčių. Pasaulį sužavėjęs dirbtinio intelekto (DI) robotas vis dažniau pagaunamas meluojant, o jį profesionaliai naudojančios bendrovės buvo priverstos atsitraukti ir jo priežiūrą patikėti žmonėms.

Vis dėlto ekspertai teigia, kad dėl to kalti per aukšti lūkesčiai – su „ChatGPT“ reikia bendrauti kiek kitaip, nei su žmogumi, o jo pateikiamą informaciją būtina akylai tikrinti.

„Žaibiškai išpopuliarėjęs „ChatGPT“ kone akimirksniu buvo įdarbintas mokinių rašinėlių rašytoju, internetinių portalų žurnalistu ir net socialinių tinklų turinio kūrėju. Deja, nuslūgus pirminei susižavėjimo bangai, pasimatė šio įrankio netobulumai – neturėdamas pakankamai informacijos robotas linkęs fantazuoti, beveik kiekviename tekste švelniai „nusikalbėti“, o pagautas „už rankos“ ir paprašytas pateikti šaltinius – išgalvoti net ir juos. Norint išvengti su tuo susijusių nemalonių situacijų, „ChatGPT“ negalima aklai pasitikėti, kiekvienoje užklausoje reikėtų pateikti kaip įmanoma daugiau konteksto bei jam patikėti ne savarankišką turinio kūrimą, o informacijos struktūrizavimą“, – pataria „Telia“ Skaitmeninės pažangos centro skaitmeninimo ekspertė Diana Gold.

Įtikinamai skambanti nesąmonė

Pasak D. Gold, priežastis, kodėl apie „ChatGPT“ melagystes kalbame praėjus tik daugiau nei pusei metų nuo jo debiuto, yra pokalbio roboto subtilumas. Vykdydamas mūsų užklausas, jis pasitelkia įtikinamai skambančius faktus ir juos pateikia sklandžiu tekstu, sudarydamas klaidingą kompetentingumo įspūdį. Labai dažnai įvairūs netikslumai ir melagystės sudaro pakankamai nedidelę atsakymo dalį, todėl gali būti pastebimi tik įdėmiai skaitant arba toje temoje turint specifinių žinių.

Pavyzdžiui, „ChatGPT“ paklausus, kiek Lietuvoje buvo karalių, DI asistentas atsakys, jog jų buvo trys, ir iš tiesų paminės tris į šį titulą pretendavusius asmenis – Mindaugą, Vytautą Didįjį ir Mindaugą II. Panaši situacija ir pasiteiravus apie Žemaitijos sostinę – robotas atsakys, jog ji yra Mažeikiai, ir savo atsakymą papildys autoritetingai skambančia melagyste, kad tai neva yra vienas pagrindinių miestų Mažeikių apskrityje, nepaisant to, jog tikroji sostinė yra Telšiai, o Mažeikių apskrities Lietuvoje niekada nebuvo.

„Ne ką geriau „ChatGPT“ išmano ir Lietuvos krepšinio temą. Paklausus, kiek kartų Vilniaus „Rytas“ yra laimėjęs LKL, išmanusis įrankis praneš, jog titulų skaičius siekia 14, bei netgi išvardins metus, kuriais neva buvo pasiekti šie laimėjimai. Žinant, jog tikrasis šios komandos laimėtų LKL sezonų skaičius yra daugiau, nei perpus, mažesnis, o pateikti laimėjimų metai – paprasčiausiai išgalvoti, kyla noras paklausti apie šių duomenų šaltinius. Tačiau robotas „sugudraus“ ir tada, įžūliai tvirtindamas, kad „Ryto“ laimėtų čempionatų skaičius yra plačiai pripažintas, o jį galima rasti oficialioje LKL svetainėje“, – eksperimento rezultatais dalinasi „Telia“ Skaitmeninės pažangos centro atstovė.

Melagystes lemia keletas priežasčių

Nagrinėdamas galimus „ChatGPT“ melavimo motyvus pašnekovė linkusi akcentuoti šio pokalbio roboto veikimo principą. Siekiant jį paversti maksimaliai universaliu ir taip su plačiomis DI galimybėmis supažindinti kuo daugiau vartotojų, įrankis buvo sukurtas taip, kad pateiktų atsakymus į kuo daugiau klausimų, užuot koncentravęsis į jų faktų teisingumą ir atsisakydamas vartotojui padėti tais atvejais, kai trūksta patikimų duomenų.

Nuo to jau spėjo nudegti vieno didžiausių JAV technologijų portalo „CNET“ redakcija, peržiūrėjusi 70 šiemet savo portale DI parašytų straipsnių ir daugiau, nei pusėje, radusi klaidų. Tai ją pastūmėjo atsitraukti ir šio DI modelio sukompiliuotų tekstų nebepublikuoti be redaktoriaus peržiūros.

„Tokias klaidas lemia ir šiuo metu naudojami pokalbių roboto treniravimo ypatumai. Ne paslaptis, jog „ChatGPT“ mokymui buvo pasitelkti itin dideli internete sklandančios informacijos kiekiai, kurios saugojimas tekstiniu formatu būtų labai brangus. Dėl šios priežasties šie duomenys buvo apdoroti ir suspausti iki skaičių, bet ne atsitiktinai, o pagal latentinės erdvės principą. Kalbant paprasčiau, „ChatGPT“ buvo mokomas suprasti ne tai, kas tiksliai yra apelsinas, o tai, kad apelsinas yra arčiau citrinos, nei vynuogės, ar juo labiau automobilio. Būtent todėl „ChatGPT“ beveik visada pataiko į temą, bet nebūtinai atsako tiksliai“, – aiškina ekspertė.

Taip pat svarbu nepamiršti, kad įtakos turi ir kalba, kuria pokalbių robotui užduodame klausimus. Ne paslaptis, jog dėl mažesnio duomenų kiekio lietuvių kalba, klausiant lietuviškai, įrankio galimybės kokybiškai atsakyti į klausimą smarkiai sumažėja ir informaciją jam tenka versti iš šaltinių anglų kalba. Taip atsakymuose gali įsivelti papildomų klaidų dėl terminų neatitikimo ir kitų vertimo netikslumų.

„ChatGPT“ naudingas, tačiau reikalauja įgudimo

D. Gold teigimu, nepaisant polinkio „nukrypti į lankas“, „ChatGPT“ vis tiek gali būti labai naudingas ir smarkiai palengvinti kasdienes užduotis. Tiesiog norint išnaudoti šio dirbtinio intelekto potencialą reikia suvokti jo dabartinį ribotumą ir atitinkamai parinkti jam skiriamus darbus. „Telia“ Skaitmeninės pažangos centro skaitmeninimo ekspertė pateikia keturis patarimus, kurie su „ChatGPT“ padės dirbti efektyviau:

Kuo detaliau formuluokite užduotis. Detalesni klausimai/užklausos DI modeliui duoda daugiau konteksto, todėl sumažėja galimybių improvizuoti ir suklysti.

Nevenkite patikslinančių klausimų ir stebėkite, ar nėra nukrypstama nuo pagrindinės minties. Jei atsakymuose pradedama atsiprašinėti, ar sakyti kitą nuomonę, geriau tokiais atsakymais nepasitikėti.

Aklai nepasitikėkite pateikiamais atsakymais, ypač jei kalba eina apie tikslius skaičius ar faktus. Juos reikia tikrinti bent keliuose šaltiniuose, nes „ChatGPT“ gali būti linkęs juos išgalvoti.

Nenaudokite „ChatGPT“ pateiktų atsakymų viešai ir nesiųskite kitiems asmenims, prieš tai jų neperžiūrėjus žmogui. Pokalbių robotas dar negali visavertiškai veikti be žmogaus įsitraukimo.

„Geriausia „ChatGPT“ pasitelkti, kai reikia struktūrizuoti esamą informaciją arba punktais išdėstytus teiginius paversti sklandžiu tekstu. Taip pat jis gali padėti tais atvejais, kai reikia sugalvoti prezentacijos struktūrą ar sudėlioti verslo planą, bei tada, kai stokojama minčių, kaip atrašyti į elektroninį laišką. Trumpai tariant – kol kas „ChatGPT“ vis dar yra labiau mechaninį darbą palengvinantis asistentas, nei savarankiškas ir už mus darbus nudirbti galintis kolega“, – reziumuoja specialistė.

Pagalba priimant palydovines TV programas
Ši naujiena peržiūrėta 4660 kartų. Komentuojame:

Jūsų komentaras

Jūsų vardas:


Jūsų kontaktai:


Fotorebuso atsakymas:


rebusas
Jūsų komentaro tekstas:



Technologijos: kitos panašios naujienos
       2024-08-22 22:20:04

Lietuvos laukus jau pjauna autonominiai kombainai: kodėl?

Nors žemės ūkis paprastai siejamas su tradicijų laikymusi, modernios technologijos į jį skverbiasi kai kada net greičiau, nei į kitas mūsų gyvenimo sritis. Kol keliuose dar tik laukiame savavaldžių automobilių, laukuose vis dažniau zuja automatizuotai vairuojama technika, kurios tikslumas šiandien jau matuojamas centimetrų tikslumu.
       2023-12-18 19:27:50

Technologijų tendencijos: kokie metai laukia IT sektoriaus 2024-iais

IT įmonės „Devbridge“ (priklausančios „Cognizant“ kompanijai) technologijų direktorius Rimantas Benetis teigia, kad kitais metais dirbtinis intelektas vis labiau integruosis į kasdienybę, o kibernetinis saugumas įgaus dar didesnę svarbą. 
       2023-04-14 18:03:10

Kaip dirbtinis intelektas gali pakeisti mums svarbiausią sritį – mediciną?

Šiuo metu nėra karštesnės technologijos už dirbtinį intelektą (DI). Ir viena iš sričių, kurioje žmonės labiausiai tikisi perspektyvų, yra medicina.
       2022-02-24 17:51:52

Lauko apšvietimo nauda ir kaip jį pasirinkti?

Ne paslaptis, jog apšvietimas namuose yra labai svarbus elementas, galintis sukurti norimą atmosferą bei įnešti tam tikrą nuotaiką į patalpą. Tačiau ar žinojote, jog jis gali itin pasitarnauti ne tik namų viduje, bet ir jų išorėje?
       2022-01-19 13:46:01

Kaip atrodys internetas: holografinis ir trinantis ribas su realybe

Internetas pastaraisiais metais tapo tokiu įprastu dalyku, jog kasdienėje kalboje šį žodį pradėjome vartoti itin retai. Jį pakeitė pavadinimai programėlių ir aplikacijų, be kurių šiandien vargiai galėtume nudirbti bet kokį darbą ar netgi paskaityti knygą ir užvesti automobilį.
       2020-12-29 08:18:11

Dirbtinio intelekto tendencijos: ko tikėtis 2021?

2020 metais, pandemijos akivaizdoje, dirbtinis intelektas pasiūlė sprendimų sudėtingiausiems iššūkiams ir atsidūrė dėmesio centre. Šiandien DI technologijos yra naudojamos kuriant vakciną nuo COVID-19, sprendžiant su vakcina susijusius logistinius iššūkius, matuojant žmonių nuotaikas, dezinfekuojant patalpas be žmogaus dalyvavimo.
       2020-07-13 15:06:46

Kada 5G sulauksime Lietuvoje: triukšmo daug, pritaikomumas – negreitai

Nors apie 5G pastaruoju metu ir kalbama nemažai, sklando ir nemažai nepagrįstų sąmokslo teorijų, kurias skuba paneigti net valstybių vadovai, vis tik praktinio naujos technologijos diegimo dar reikės palaukti.
Daugiau naujų naujienų
       2025-07-03 09:10:53

8 už: kodėl užsakovai statyboms vis dažniau renkasi generalinės rangos paslaugą

Šiandieninėje statybų rinkoje matome aiškų poslinkį: vis daugiau užsakovų projektus įgyvendina pasitelkdami generalinę statybos rangą.
       2025-06-24 19:16:19

Sezonui ruošiasi ir sukčiai: 5 dažniausiai pasitaikantys turistų spąstai

Vasaros metu daugiau keliaujame, tačiau atostogų sezonui ruošiasi ne tik poilsiautojai, bet ir sukčiai. Į ką verta atkreipti dėmesį, kad kelionės neapkartintų finansiniai nuostoliai, pasakoja „Luminor“ banko Sukčiavimo rizikos valdymo skyriaus vadovas Linas Sadeckas.
       2025-06-20 09:52:52

Įsigijus naują būstą, atkreipkite dėmesį ir į sprendimus susijusius su elektra

Planuojant įsigyti nuosavą būstą, visuomet atidžiai įvertinama jo vieta: atstumas iki darbo, vaikų darželių ar mokyklų, pati rajono infrastruktūra. Vis dėlto ne mažiau svarbu ir daugybė praktinių dalykų.
       2025-06-13 13:41:27

Nafta brangsta: Izraelio – Irano konflikto kainą mokės visas pasaulis

Izraelis, surengė keliasdešimt oro smūgių ataką prieš Iraną, kuri gali įstumti Artimuosius Rytus į naują karą. Plataus masto atakos taikiniais tapo Irano branduolinė programa, kariniai objektai, buvo nužudyti keli aukščiausio rango vado pareigas ėję Irano karininkai.
       2025-06-07 10:08:51

Prieš protestą – aiški protesto organizatorių pozicija dėl NT mokesčio

Lietuvos jaunųjų ūkininkų ir jaunimo sąjunga, reaguodama į Premjero Gintauto Palucko pasisakymus dėl pirmojo būsto neapmokestinimo, šį žingsnį vertina kaip sveikintiną reakciją į visuomenės lūkesčius.
       2025-06-06 10:36:55

Telefonuose – visas gyvenimas: kaip juos apsaugoti keliaujant užsienyje?

Prasidėjusi vasara žymi atostogų kelionių pradžią, kuomet nemaža gyventojų dalis planuoja vykti ilsėtis ar pramogauti į užsienio šalis. Keliautojai vis dažniau daugelį kelionės dokumentų bei kitų svarbių asmeninių duomenų saugo savo išmaniuosiuose telefonuose ar kituose įrenginiuose.
       2025-06-04 16:28:14

Lietuvos pajūryje nebeliko 3G ryšio

Vasaros sezoną pradedančiame Lietuvos pajūryje galutinai išjungta senoji 3G ryšio technologija. Daugiau kaip 20 metų šalyje naudota technologija nuo birželio 3 dienos nebeveikia visoje Klaipėdos apskrityje – Klaipėdos mieste ir rajone, Palangoje, Neringoje, Kretingos, Skuodo ir Šilutės rajonų savivaldybėse.
       2025-05-30 13:32:42

Telefonas – jūsų vaiko saugumo įrankis: ar naudojate šias funkcijas?

Pirmasis telefonas – svarbus žingsnis vaiko gyvenime, tačiau sunkus sprendimas tėvams: kaip užtikrinti, kad įrenginys būtų ne tik patrauklus, bet ir iš tiesų naudingas?
       2025-05-23 12:31:31

Miegas ir nutukimas: glaudus ryšys, apie kurį verta žinoti

Vis daugiau tyrimų rodo, kad miegas ir kūno svoris – glaudžiai susiję. Miego trukmė ir kokybė turi reikšmingą poveikį vaikų sveikatai, ypač nutukimo rizikai. Nutukimas yra būklė, kuri turi įtakos daugeliui organizmo sistemų: širdies ir kraujagyslių bei nervų sistemai, sąnariams ir raumenims.
       2025-05-21 19:32:34

Ryto kava – malonumas ar stresas širdžiai?

Daugeliui mūsų rytas be kavos – ne rytas. Tačiau ar kofeinas visada saugus širdžiai? Kada jis gali būti naudingas, o kada – žalingas? Specialistai pabrėžia: viskas priklauso nuo to, kiek kavos geriame, kaip ją ruošiame ir kaip mūsų organizmas į ją reaguoja.
       2025-05-21 19:26:07

3000 eurų už kompiuterį – ir vis tiek lėtas? IT ekspertas paaiškina klaidas

Ar gali jūsų 3000 eurų vertės garsaus prekės ženklo kompiuteris dirbti lėčiau nei kolegos įrenginys, kainavęs 800 eurų? Deja, bet gali. Ir dėl to kalta ne technologinė įranga, o mūsų blogi įpročiai.
       2025-05-17 12:34:20

Išmanusis televizorius ar televizorius su dirbtiniu intelektu

Televizorių technologijos nuolat tobulėja ir namų pramogos tampa vis labiau personalizuotos. Jau nesame tik pasyvūs žiūrovai – naujosios technologijos siūlo individualizuotą turinį, pritaiko vaizdo ir garso kokybę, leidžia bendrauti pasitelkiant išmaniuosius asistentus.
       2025-05-17 12:26:49

Netrukus Lietuvoje bus visiškai išjungtas 3G ryšys

„Bitė“ birželį pradės senosios 3G ryšio technologijos išjungimą. Iki šių metų pabaigos Lietuvoje bus visiškai išjungtas šis senosios technologijos ryšys. Beveik 20 metų naudotą mobiliojo ryšio technologiją keičia naujesnės kartos 4G ir 5G ryšys.
       2025-05-10 16:24:20

Dirbtinis intelektas kyla – o kur mūsų inžinierių karta?

Skaitmenizacija, automatizacija, robotika ir dirbtinis intelektas iš esmės keičia pramonės veidą, o kartu – ir inžinieriaus vaidmenį joje. Jei anksčiau pramonės įmonei pakakdavo šaltkalvio mechaniko ir elektriko, tai dabartiniai reikalavimai inžinieriui – kur kas didesni.
       2025-05-09 11:04:58

Moderni, šiuolaikinė gamyba neįmanoma be inžinerijos

Skaitmenizacija, automatizacija, robotika ir dirbtinis intelektas iš esmės keičia pramonės veidą, o kartu – ir inžinieriaus vaidmenį joje. Jei anksčiau pramonės įmonei pakakdavo šaltkalvio mechaniko ir elektriko, tai dabartiniai reikalavimai inžinieriui – kur kas didesni.
       2025-05-07 18:39:16

Atskleidė, koks darbas būtų Z kartos košmaras

Privalomas darbas biure nuo 8 iki 17 val., viršvalandžiai, rutininės užduotys, nuolatinė kontrolė ir neaiški darbo prasmė. Šias sąlygas siūlantys darbdaviai gali neabejoti – didžioji dalis Z kartos atstovų nuo tokio darbo bėgs neatsisukdami.
       2025-04-30 15:18:43

Paauglį užklupo aistra: kaip degti, bet nesudegti?

Brendimui įsibėgėjus paauglio gyvenime aistra užgriežia pirmuoju smuiku. Čia kyla dilema – laisvai mėgautis tuo, kas duota gamtos, ar lėtinti greitį, kad staigus gyvenimo posūkis neišmestų į šalikelę?
       2025-04-25 18:45:47

Ką apie pinigus byloja liaudies išmintis ir ką sako ekspertai?

Apie pinigus egzistuoja daugybė patarlių ir posakių, kurie yra įsitvirtinę giliai mūsų sąmonėje. Turbūt kiekvienas yra girdėjęs posakius „laikas – pinigai“, „šykštus moka du kartus“ ir daugelį kitų.
       2025-04-25 18:38:09

Besaikės saulės vonios – kelias į melanomą: deginimąsi reikėtų pamiršti

Nors melanoma tarp vyrų yra trečias pagal paplitimą vėžys, o tarp moterų – antras, į saulės spindulius neretai numojame ranka. Dažnas ne tik neskuba teptis apsauginėmis priemonėmis, bet ir ilgiausiai deginasi, tepasi įdegį stiprinančiais aliejais.
       2025-04-25 18:33:42

Įspėjo naudojančius „Skype“ – turite mažai laiko pereiti prie kitos programėlės

Gegužės 5 d. viena pirmųjų vaizdo skambučių ir susirašinėjimo programėlių – „Skype“ bus išjungta visiems laikams. „Microsoft“ oficialiai nutraukia programos veikimą ir ragina žmones pereiti prie kitų nemokamų sprendimų.
       2025-04-23 12:13:43

Lošimų reklamai – stop ženklas: kas pasikeis ir kodėl tai svarbu?

Praeitų metų pabaigoje Seimas žengė ryžtingą žingsnį – pritarė reikšmingiems Azartinių lošimų įstatymo pakeitimams, kurie jau nuo 2025 m. liepos 1 d. iš esmės pakeis lošimų reklamos taisykles Lietuvoje.
       2025-04-18 15:02:51

Ar darbdavys turi teisę naudoti darbuotojo atvaizdą reklamuojant paslaugas?

Šių dienų socialinių tinklų tendencijos - verslininkai vis dažniau į parduodamų prekių ir paslaugų reklamas įtraukia savo darbuotojus. Šios tendencijos šalutinis efektas – nutraukus darbo sutartį, darbuotojai įprastai nenori, kad jis pats ir jo atvaizdas būtų siejamas su konkrečia įmone ir jos produktais.
       2025-04-18 14:55:19

Būsto kainos ir vėl gali kilti: ką daryti laukiantiems dar mažesnių palūkanų?

Europos Centrinis Bankas šiais metais jau ne kartą mažino bazinę palūkanų normą, o naujausių žinių dėl pokyčių turėtume sulaukti jau balandžio 17 dieną. Planuojančius būsto paskolą tai skatina viltis, kad ši data reikš dar vieną palūkanų normos sumažėjimą.
       2025-04-18 14:44:54

Kodėl kartojame tėvų klaidas, nors pažadame sau būti kitokie?

Ar pagaunate save sakant ar darant tai, ką sakydavo ar darydavo jūsų tėvai – nors sau kartojote, kad elgsitės kitaip? Pavyzdžiui, kitaip bendrausite su partneriu (-e) ir auginsite vaikus, niekada jų nekontroliuosite, visada mylėsite?
       2025-04-18 14:32:28

Odai, širdžiai ir energijai palankiausi vaisiai: kuriuos rinktis ir kodėl?

Daliai žmonių vaisiai ir uogos – ne tik gaivus užkandis ar desertas, bet ir svarbi kasdienio maisto dalis: nuo rytinių glotnučių, spalvingų salotų ar ingredientų pagrindiniuose patiekaluose.
       2025-04-18 14:26:04

Atostogos svetur: dažna klaida, dėl kurios permokate atsiskaitydami kortele

Atėjus pavasariui vis dažniau planuojame išvykas svetur. „Luminor“ banko kasdienės bankininkystės vadovė Aušrinė Mincienė primena – keliaujant į ne euro zonos šalis atsiskaitymo banko kortele metu verta pasirinkti vietinę valiutą.
       2025-04-18 14:21:38

Apie perdegimo prevenciją: poilsis turi būti tikras, o ne apsimestinis

Ar jums pažįstama situacija, kai prabudę ryte jaučiatės nepailsėję, atostogaudami vis dirsčiojate į mobilųjį telefoną, o jaukiausių metų švenčių šurmulys virsta nerimu?
       2025-04-16 11:26:03

Kraustotės į naują būstą? Kokių su elektra susijusių klausimų reikėtų nepamiršti

Naujo būsto pirkimas – jaudinanti ir džiugi patirtis, tačiau už jos slypi ir daugybė praktinių klausimų, į kuriuos reikia atsakyti, kad gyvenimas būtų kuo patogesnis. Vienas tokių – elektros tiekimas ir energijos valdymo sprendimai.
       2025-04-16 11:23:16

Ar žinote, kur kreiptis nemokamos pagalbos susirgus per šventes?

Šeimos medicinos įstaigos jose prirašytiems gyventojams turi užtikrinti, kad šeimos gydytojo komandos paslaugas jie galėtų gauti 12 valandų per dieną, 5 darbo dienas per savaitę.
       2025-04-12 10:10:31

Auksiniai antrankiai. Ar ne per daug aukojame dėl pinigų?

Šiandien profesinėje aplinkoje vis dažniau girdima metafora „auksiniai antrankiai“. Kai kurie darbdaviai, dažniausiai startuoliai, stengiasi paskatinti nuomonę, kad darbuotojai, norintys pakeisti darbo vietą ar netgi karjeros kryptį, rizikuoja prarasti per daug, ir todėl šie geriau renkasi likti.
    Daugiau ankstesnių naujienų:  1  2  3  4  5  6  7  8  9
* Skelbiamos įvairių šaltinių naujienos, todėl už jas neatsakome. Kai kurie teiginiai gali nesutapti su www.tvnaujienos.lt nuomone. Neatsakome už vartotojų komentarus.