Isprobali smo digitalnog asistenta 'Zdravka': Pogrešno je zaključio da pušimo e-cigarete

Isprobali smo kako radi 'Zdravko', digitalni AI zdravstveni asistent, inovativni alat razvijen u suradnji Hrvatskog zavoda za javno zdravstvo (HZJZ) i Ministarstva zdravstva, o kojem smo pisali ovdje. Može mu se javiti preko WhatsAppa, klikom na ovaj link. Obratili smo mu se zbog dva različita problema, da testiramo kako će odgovarati na svaki od njih. Jedan je bio upit o čudnom okusu u ustima, a drugi o paralizirajućoj boli u leđima. Inače, na internetu postoji niz lažnih 'Zdravka', a o tome kako pronaći pravu verziju i pokrenuti ju pisali smo ovdje.

Smetale su nam krive pretpostavke

Kad smo ga ispitivali o čudnom, skoro metalnom okusu u ustima, pitanja i informacije koje smo dijelili su bile kratke i šture. Njegov prvi odgovor je bio čista pretpostavka o našim navikama.

- Čudan ili metalni okus u ustima može biti znak izloženosti štetnim spojevima, poput onih koji nastaju zagrijavanjem e-tekućine u e-cigaretama, odgovorio nam je 'Zdravko i dodao da 'takvi spojevi mogu utjecati na zdravlje i izazvati različite simptome'.

Provjerite ponudu

Provjerite ponudu

Provjerite ponudu

Provjerite ponudu

Provjerite ponudu

Provjerite ponudu

Provjerite ponudu

Provjerite ponudu

Ne razumijemo zašto je 'Zdravko' u svom odgovoru istaknuo baš e-cigarete jer niti jednom u razgovoru s njim nismo spomenuli išta slično. Ipak, poznato je da modeli umjetne inteligencije (AI) znaju halucinirati, to jest navoditi netočne informacije. To se događa jer su programirani da udovolje korisniku pa čak izmišljaju samo da se razgovor nastavi. Pokušali smo ga vratiti na pravi put i rekli mu da niti pušimo niti provodimo vrijeme u društvu pušača.

Upite veže uz javnozdravstvene teme

- Uzrok može biti nešto drugo, odgovorio je 'Zdravko' i dodao da 'takvi simptomi mogu biti povezani s različitim zdravstvenim stanjima ili izloženošću drugim tvarima'.

To smo i mogli zaključiti i bez 'Zdravka'. Ispričao nam se kad smo ga pitali otkud mu ideja da je problem u e-cigaretama kad mi nemamo veze s time.

- Spomenuo sam e-cigarete jer su čest uzrok metalnog ili neobičnog okusa u ustima zbog štetnih spojeva koji nastaju zagrijavanjem e-tekućine, što je jedna od poznatih javnozdravstvenih tema.

Pitanja moraju biti detaljna

'Zdravko' je očito upoznat s gorućim problemima, ali nismo mu se obratili za edukaciju iz javnog zdravstva već zbog problema koji muči baš nas. Zato smo ga pitali što je s previše magnezija ili previše kave, ali tu je počeo spominjati žgaravicu. Odgovarao je kao da je potpuno zaboravio problem zbog kojeg smo mu se obratili – čudan okus u ustima – i samo se prebacio na novi, kojeg je naizgled izvukao iz rukava. Kad smo ga pitali otkud priča o žgaravici, pošto ga nismo pitali ništa o tome, počele su nove isprike.

- Spomenuo sam žgaravicu jer ste naveli moguće uzroke poput kave i magnezija, a to su česti faktori povezani s tim problemom, rekao nam je i ponudio pomoć vezano uz neko drugo pitanje ili temu.

Tek kad smo mu detaljno definirali da nas zanima je li bi uzimanje dodataka magnezija i prilična konzumacija kave na dnevnoj bazi mogli biti povezani s čudnim okusom u ustima, uspio nam je odgovoriti potvrdno. Iz toga možemo zaključiti da je pri korištenju 'Zdravka' najbolje postaviti mu što detaljnija pitanja puna konteksta kako bi što bolje odgovorio jer mu je očito lako putem se pogubiti u upitima.

Nekonzistentnosti su zbunjujuće i frustrirajuće

Da je nekonzistentan, dokazao nam je opet kako se razgovor nastavio. Naime, 'Zdravko' na kraju svakog razgovora korisnika uputi liječniku obiteljske medicine ili na e-mail [email protected], za dodatne informacije. Pitali smo koliko nas simptomi moraju mučiti i trajati da bi morali kod doktora. Bilo je potrebno poslati mu još par upita da bi se opet vratio na žgaravicu.

- Budući da ste spomenuli nelagodu i često pojavljivanje simptoma, a žgaravica je čest uzrok takvih tegoba u području prsnog koša i grla, rekao nam je 'Zdravko' i dodao da je žgaravicu spomenuo jer nam želi dati korisne informacije.

Njegov odgovor nam je bio malo smiješan. Naime, 'Zdravko' je bio taj koji je u razgovoru spominjao nelagodu i česte simptome da bi ih u nekom trenutku odlučio pripisati nama. Naposljetku, priznao nam je u čemu je problem.

Ima ograničenu bazu podataka

- Za čudan okus u ustima, budući da nije izravno obuhvaćen mojom bazom znanja, ne mogu dati konkretne savjete, objasnio nam je 'Zdravko' i uputio kod liječnika obiteljske medicine.

Očigledno, 'Zdravko' je ograničen znanjem koje je s njim podijeljeno. Usprkos tome, trudi se pomoći korisniku tako da izvuče informacije koje su najbliže moguće onome o čemu priča. Tako uzrokuje kontraefekt, to jest iskustvo koje može biti zbunjujuće i frustrirajuće. To pogotovo vrijedi za osobe koje ga usputno ispituju, ne obraćaju veću pozornost na detalje ili nemaju želje uložiti previše truda u pisanje i objašnjavanje.

Pitali smo ga zašto je toliko pogriješio pa nam se opet krenuo ispričavati.

- Kao AI asistent za pitanja preventivne zdravstvene zaštite, nastojim pružiti informacije na temelju dostupnih podataka, ali ponekad može doći do nesporazuma ili pogrešnog tumačenja upita, objasnio nam je 'Zdravko' i zahvalio što smo mu izrazili nezadovoljstvo uz tvrdnju da mu to pomaže da postane precizniji.

Daje praktične savjete kako do liječnika

Sa 'Zdravkom' smo pokušali i na drugi, odnosno dulji način. Poslali smo mu novi upit. Ovaj put vezano uz bol u leđima.  Poruka je bila prilično dugačka. Opisivali smo točno što nas muči. Objasnili da se ne možemo dići iz kreveta od boli, da uzimamo tablete protiv, precizirali gdje se bol nalazi i kako se kretala, pobrojali dane koliko nas je mučilo što, na koji način i u kojem dijelu leđa…

'Zdravko' je u odgovoru bio pun suosjećanja, ali samo nam je vratio iste informacije koje smo mu dali, napisane drugim riječima. Na primjer, rekao je da takva bol može biti posljedica napetosti mišića ili ograničene pokretljivosti, što smo mu mi rekli. Ipak, podijelio je i par savjeta.

- Važno je da ostanete aktivni u granicama bez boli, izbjegavate dugotrajno mirovanje i nastavite s laganim aktivnostima poput hodanja, predložio je 'Zdravko' i uputio nas, kao inače, na liječnički pregled.

Korisne informacije za slabo pokretne

Pobunili smo se kako da hodamo ili odemo kod doktora ako se zbog boli ne možemo kretati. Inzistirao je na laganim aktivnostima koje ne pojačavaju bol, kao što su na primjer blaga šetnja ili nježni pokreti.

- Ako ne možete doći do liječnika obiteljske medicine sami, preporučujem da zatražite pomoć od obitelji, prijatelja ili susjeda koji bi Vas mogli odvesti na pregled, predložio je 'Zdravko' te dodao da možemo kontaktirati svoj dom zdravlja i raspitati se o kućnom posjetu.

U pogledu uvida u mogućnosti zdravstvenog sustava, mora mu se priznati da je bio konstruktivan. Ispravno nas je uputio na operativne korake koje u takvom zdravstvenom stanju realno možemo poduzeti. Čak je s nama podijelio da u određenim sredinama postoje organizacije i službe koje pomažu osobama s poteškoćama u kretanju da dođu do zdravstvene ustanove. Za specifične informacije, uputio nas je na uobičajeni e-mail.

Zakazao u najvažnijoj funkciji

Važno je znati da je 'Zdravko' programiran tako da ne smije davati dijagnoze. Moguće je da zato skreće s teme i gubi nit razgovora. Možda se trudi izbjeći dijagnosticiranje zdravstvenih stanja koje mu je zabranjeno.

Sve u svemu, čini se da ima puno informacija o javnom zdravlju i sustavu zdravstvene skrbi koje bi mogle biti korisne. Istovremeno, njegova najvažnija funkcija trebala bi biti vođenje konstruktivnog razgovora s korisnikom, a pri tom zna izgubiti nit i zakazati. Ako ste spremni uložiti vrijeme i trud u detaljne opise svojih zdravstvenih stanja, moguće je da ćete ipak dobiti neke korisne informacije.

S druge strane, ako ste u bolovima i nemate previše snage tipkati, bit ćete dodatno iznervirani 'Zdravkovim' nekonzistentnostima. On je trenutačno tek drugi mjesec u funkciji. Tijekom prvog mjeseca aktivnosti, imao je skoro 8.000 korisnika i 130.000 upita, o čemu smo pisali ovdje. Dugoročno, bit će korisnija puno većem broju ljudi ako se poradi razgovorima koji skreću s puta.

Pridružite se našoj Viber zajednici i prvi saznajte sve informacije.