OpenAI-nin yeni tibbi süni intellekti rezonans doğuran bir araşdırmanın mərkəzinə düşüb. Məlum olub ki, sistem sağlamlıq üçün təhlükəli tövsiyələr verə bilər. Buna görə də ekspertlər xəbərdarlıq edir ki, sağlamlıq məsələlərində yaranan yalnış təhlükəsizlik hissi insanların həyatına başa gələ bilər.
“ChatGPT Sağlamlıq” xidməti tibbi kartları analiz edib tövsiyələr formalaşdıra bilir, baxmayaraq ki, rəsmi olaraq diaqnoz və müalicə üçün nəzərdə tutulmayıb. Nature Medicine jurnalında dərc olunan araşdırmada Mount Sinai alimləri sistemi 21 sahəni əhatə edən 60 klinik ssenari üzərində sınaqdan keçiriblər — yüngül simptomlardan təcili vəziyyətlərə qədər.
Pasiyentin cinsinin dəyişdirilməsi və qohumların şərhləri də nəzərə alınaraq təxminən 1000 ssenari yaradılıb. Təcili hospitalizasiya tələb olunan halların yarıdan çoxunda süni intellekt evdə qalmağı və ya sadəcə həkimə yazılmağı tövsiyə edib. Eyni zamanda, həyati təhlükəsi olmayan pasiyentlərin 64%-nə təcili yardım şöbəsinə getmək məsləhət görülüb.
Xüsusilə narahatlıq doğuran məqam xarici təsirin effekti olub. Əgər ssenaridə qohumlar vəziyyətin o qədər də ciddi olmadığını deyirdilərsə, sistem riski demək olar ki, 12 dəfə daha çox aşağı qiymətləndirirdi. Ekspertlər belə səhvləri son dərəcə təhlükəli hesab edir və OpenAI üçün mümkün hüquqi nəticələr barədə xəbərdarlıq edirlər.
Fikirləriniz ?
