Dirbtinis intelektas rašo sklandžiai ir įtikinamai – būtent todėl jo klaidas pastebėti sunku. Šis puslapis skirtas pradedantiesiems, kurie jau naudoja „Claude“ ar „ChatGPT“ kasdieniam darbui: laiškams, paraiškoms, ataskaitoms, komunikacijai. DI klaidos čia – ne smulkmena: neteisingas skaičius paraiškoje ar išgalvota citata laiške gali kainuoti pasitikėjimą. Sužinosite, kas yra DI haliucinacijos, kaip atpažinti išgalvotus šaltinius ir skaičius, kaip greitai patikrinti faktus ir kada prieš išsiunčiant būtina žmogaus peržiūra.
Kas yra DI „haliucinacijos“
DI haliucinacijos – tai atvejai, kai dirbtinis intelektas pateikia informaciją, kuri skamba patikimai, bet yra neteisinga arba visiškai išgalvota. Svarbu suprasti, kodėl taip nutinka. Modelis neturi faktų sąrašo kaip enciklopedija – jis spėja, kuris žodis tinka toliau, pagal didžiulį perskaitytų tekstų kiekį. Todėl jis gali užtikrintai parašyti tai, ko realiai nėra, ir dar pridėti įtikinamų detalių.
Įsiminkite vieną dalyką: užtikrintas tonas nėra teisingumo įrodymas. DI niekada „nedvejoja“ balsu taip, kaip dvejotų žmogus. Todėl atsakomybė patikrinti visada lieka jums.
Dažniausios DI klaidų rūšys
Išgalvoti šaltiniai ir nuorodos. DI gali pateikti teisingo formato nuorodą – su tikru institucijos pavadinimu ir įtikinamu pavadinimu, bet neegzistuojančiu dokumentu. Kartais realų straipsnį jis priskiria autoriui, kuris jo nerašė, arba nurodo puslapį, kurio adresu nieko nėra.
Netikri skaičiai ir citatos. Procentai, datos, sumos ar tiesioginės citatos gali būti tiesiog sugalvoti – ypač kai paprašote konkretumo, o duomenų nepateikiate. DI mieliau „užpildys“ tuščią vietą skaičiumi, nei paliks ją tuščią.
Pasenusi ar supainiota informacija. Modeliai turi žinių ribą ir gali nežinoti naujausių pakeitimų – įstatymų, kainų, terminų. Jie taip pat gali supainioti du panašius dalykus ir sujungti juos į vieną klaidingą atsakymą.
Kaip patikrinti faktus
Patikra neturi būti sudėtinga. Peržiūrėkite kiekvieną konkretų teiginį atskirai: skaičių, datą, pavadinimą, citatą, teisės akto punktą. Kiekvieną nuorodą atidarykite patys – nepasikliaukite tuo, kaip ji pavadinta. Svarbiausius faktus pasitikrinkite antrame, jums žinomame šaltinyje. O jei ko nors patikrinti negalite, laikykite tai nepatvirtinta ir arba pašalinkite, arba aiškiai pažymėkite.
Pavyzdys: paprašykite DI pažymėti neaiškumus
Vietoj to, kad tikrintumėte viską iš eilės, galite paprašyti paties DI parodyti rizikingas vietas.
Perskaityk šį tekstą ir pažymėk visus teiginius, kuriuos reikėtų patikrinti prieš siunčiant. Prie kiekvieno skaičiaus, datos, pavadinimo ar citatos parašyk, ar tai patikima, ar reikia patikrinti. Jei kažko nežinai, parašyk „nežinau", o ne spėk. Tekstas: [čia įklijuokite savo tekstą]
Ko tikėtis: DI pažymės vietas, kurias verta peržiūrėti, ir taip sutaupys jums laiko. Bet dėmesio – prašymas pateikti šaltinius negarantuoja, kad jie tikri. DI gali sugeneruoti įtikinamą nuorodų sąrašą, kuriame dalies puslapių tiesiog nėra. Todėl kiekvieną nuorodą atidarykite patys.
Pavyzdys: „prastai vs geriau“ – faktai ataskaitoje
Daugiausia išgalvotų skaičių atsiranda tada, kai nepateikiame duomenų ir paliekame DI juos „užpildyti“.
Prastai:
Parašyk ataskaitą apie mūsų projekto rezultatus.
Kodėl prastai: nepateikėte jokių faktų, tad DI juos sukurs pats. Ataskaitoje atsiras dalyvių skaičiai, renginiai ir pasiekimai, kurių niekada nebuvo.
Geriau:
Parašyk projekto rezultatų ataskaitos juodraštį, remdamasis TIK šiais duomenimis: - dalyvių skaičius: 42 - įvykę renginiai: 3 (kovą, gegužę, rugsėjį) - pagrindinis rezultatas: sukurtas savanorių tinklas Nieko nepridėk ir nieko neišgalvok. Jei kokios nors informacijos trūksta, vietoje jos parašyk [TIKSLINTI], o ne spėk.
Ko tikėtis: DI parengs juodraštį, kurio faktus reikės sutikrinti su jūsų pateikta informacija, o trūkstamas vietas aiškiai pažymės žyme [TIKSLINTI], kurią lengva rasti ir užpildyti. Nurodymas „naudok tik šiuos duomenis“ ir „pažymėk, ko trūksta“ – bene naudingiausias įprotis kovojant su DI klaidomis.
Kada būtina žmogaus peržiūra
Kai kurių tekstų negalima siųsti be žmogaus akių. Visada peržiūrėkite patys, kai tekste yra: skaičiai ir finansai; terminai bei datos paraiškoje; teisės aktų ar reikalavimų nuorodos; citatos, priskirtos konkrečiam žmogui; asmens duomenys. Ir bet kokį tekstą, kuris keliauja finansuotojui, klientui, žiniasklaidai ar į viešumą, prieš siųsdami perskaitykite nuo pradžios iki galo. DI paruošia juodraštį – sprendimą ir atsakomybę pasiliekate sau.
Užduotys
1. Raskite išgalvotą šaltinį (10 min.). Paprašykite DI parašyti trumpą tekstą jums aktualia tema ir nurodyti tris šaltinius. Atidarykite kiekvieną nuorodą. Pažymėkite, kurios veikia, o kurių puslapio nėra arba turinys neatitinka.
2. Tik mano duomenys (10 min.). Paimkite realius savo skaičius (pvz., renginio dalyvių skaičių) ir paprašykite ataskaitos juodraščio su nurodymu „naudok tik šiuos duomenis, trūkstamas vietas pažymėk [TIKSLINTI]„. Patikrinkite, ar DI nepridėjo nieko nuo savęs.
3. Peržiūros sąrašas (5 min.). Užsirašykite 5 dalykus, kuriuos visada tikrinsite prieš siųsdami DI paruoštą tekstą (skaičiai, datos, vardai, nuorodos, citatos). Pasidėkite šį sąrašą po ranka.
Ką įsiminti
- Užtikrintas DI tonas nereiškia tiesos – patikrinkite kiekvieną konkretų teiginį.
- DI haliucinacijos dažniausiai slepiasi šaltiniuose, skaičiuose, datose ir citatose.
- Nuorodą visada atidarykite patys; prašymas „pateik šaltinius“ jų nepadaro tikrų.
- „Naudok tik šiuos duomenis“ ir žyma
[TIKSLINTI]padeda apibrėžti užduotį, tačiau gautus faktus vis tiek reikia patikrinti. - Prieš siunčiant svarbų tekstą finansuotojui, klientui ar į viešumą būtina žmogaus peržiūra.