Təhlükəsizlik tədqiqatçıları chatbot-a söhbətə daxil olan bütün şəxsi məlumatları toplamaq və onun serverinə yükləmək üçün göstəriş vermək üçün bir üsul tapıblar. İstifadəçiyə faydalı görünən sorğu təqdim olunur ki, bu, əslində adlar, identifikasiya nömrələri, ödəniş kartı məlumatı, e-poçt ünvanları, poçt ünvanları və daha çox daxil olmaqla, söhbətlərdən bütün mümkün şəxsi məlumatları toplamaq üçün maskalanmış sorğudur. Sonra bu məlumatlar birbaşa hakerə göndərilir.
Kaliforniya Universiteti, San Dieqo və Sinqapurun Nanyang Texnoloji Universitetindən təhlükəsizlik üzrə tədqiqatçılar qrupu süni intellektə gizli zərərli sorğulardan istifadə edərək şəxsi məlumatların toplanması üçün yeni üsul kəşf ediblər.
Tədqiqatçılar iddia edirlər ki, oxşar hücum iki böyük dil modelində — Fransız süni intellekt şirkətinin Mistral AI-dən LeChat və Çin ChatGLM chatbotunda işləyib. Ehtimal etmək olar ki, sorğuya bəzi dəyişikliklər etməklə digər chatbotlarla da oxşar nəticə əldə etmək olar.
Mistral artıq zəifliyi aradan qaldırıb, lakin təhlükəsizlik ekspertləri deyirlər ki, chatbotların populyarlığı artdıqca və istifadəçilər səlahiyyətlərini onlara həvalə etdikcə, bu cür hücumlar üçün imkanlar daha da artacaq.
