Google Gemini Süni İntellekt çatbotunun interfeysinə istifadəçilərin ruhi sağlamlığını dəstəkləmək məqsədi ilə yeni funksiyalar əlavə etməyi planlaşdırır. Şirkət, OpenAI da daxil olmaqla, rəqiblərinin çatbotlarını istifadəçilərə zərər verməkdə ittiham edərək məhkəmə iddiaları ilə üzləşməsindən sonra bu qərarı verdi.
Gemini çatbotu, süni intellektlə söhbətlərində «intihar və ya özünə zərər vermə ilə əlaqəli potensial böhran» əlamətləri aşkar edilərsə, istifadəçiləri dəstək qaynar xəttinə yönləndirən bir interfeysə sahib olacaq. Şirkət ruhi sağlamlıq söhbətlərinə «Kömək Mövcuddur» modulu əlavə edəcək və tətbiqin dizaynı özünə zərər vermənin qarşısını almaq üçün dəyişdiriləcək.
Gemini çatbotu və ChatGPT populyarlıq qazanmağa davam edir və bəzi insanların onlarla obsesif münasibətlər qurmasına səbəb olur ki, bu da xəyali vəziyyətlərə səbəb olur; həddindən artıq hallarda bu istifadəçilər hətta başqalarını öldürür və ya intihar edirlər. Aparıcı süni intellekt inkişaf etdiriciləri artıq məhkəmə iddiaları ilə üzləşirlər; ABŞ Konqresi artıq çatbotların uşaqlar və yeniyetmələr üçün yarada biləcəyi təhlükələri araşdırır. Mart ayında mərhum 36 yaşlı amerikalı kişinin ailəsi Google-ı məhkəməyə verərək, Gemini ilə qarşılıqlı əlaqəsinin «dörd gün ərzində zorakı davranışa meylli olmağa və intihara səbəb olmağa» səbəb olduğunu iddia etdi. Google çatbotun kişini dəfələrlə böhran xəttinə yönləndirdiyini, lakin platforma təhlükəsizliyini yaxşılaşdıracağını vəd etdiyini iddia etdi.
Süni intellekt xidmətlərinin bəzi istifadəçiləri çatbotların onları açıq-aşkar yalan məlumatlar üzərində hərəkət etməyə təşviq etdiyini iddia edirlər. Buna cavab olaraq, Google,Gemini-yə «yalan inanclarla razılaşmamağı və onları gücləndirməyi, subyektiv təcrübə ilə obyektiv faktlar arasındakı fərqi yumşaq bir şəkildə göstərməyi» öyrətdiyini bildirir.
