Chatbotovi poput ChatGPT-a, Barda i drugih tijekom više od godine dana koliko su dostupni javnosti pokazali su prilično zavidno znanje i mnogi su se iznenadili s (točnim) odgovorima koje su dobili od njih. Ipak, nisu savršeni jer ponekad znaju halucinirati, tj. izmišljati i davati netočne podatke. Općenito, kaže se da je AI dobra onoliko koliko su dobri i kvalitetni podaci na kojima se trenira.
A što u slučaju kada se AI trenira tako da može prevariti ljude? Iz Anthropica su proveli istraživanje mogu li modeli umjetne inteligencije biti trenirani na način da, umjesto davanja točnih i ispravnih odgovora, prevare ljude.
Rezultati tog istraživanja pokazali su kako AI može biti itekako uspješna u tome te da može namjerno davati lažne odgovore na upite korisnika.
Cijeli članak možete pročitati na: zimo.dnevnik.hr
Image by Freepik
Val prosvjeda u SAD, građani traže ukidanje mjera protiv zaraze i povratak na posao, militanti na ulicama mašu oružjem, a Trump sve podupire
Napravio alat koji “ljudima omogućuje da se odmore od Facebooka” i završio na sudu
U Veneciju se ne može bez plaćanja ulaznice. Istražili smo kako to uvesti u Splitu ili Dubrovniku
Električna vozila su računala na kotačima i njihov kod se može hakirati