İsrail alimləri süni intellekt modellərinə məxfi məlumatların təhlükəsiz «unutma»sını öyrədir

Tel-Aviv Universitetinin tədqiqatçıları ABŞ-dan həmkarları ilə birlikdə hazırkı süni intellekt modellərindən məlumatların silinməsi metodlarının qalan məxfi məlumatların sızmasına səbəb ola biləcəyinə gəliblər. Məlumatların qorunması ilə bağlı qanunlara, məsələn, «unutma hüququ»nu nəzərdə tutan Avropa qanununa uyğun olaraq, öyrədilmiş süni intellekt modellərinin müəyyən məlumatları «unutmağa» məcbur edilməsinin müəyyən risklərə yol açdığı görsənir.

Ənənəvi olaraq, sistemin tamamilə sıfırdan yenidən öyrədilməsi, silinən məlumatları istisna etməklə, ideal həll olaraq qəbul edilir. Lakin alimlər bu dəqiqliyə can atmağın zəifliklər yaratdığını sübut ediblər. Zərərli şəxs modelə öz məlumatlarını daxil edə bilər və daha sonra onların silinməsini tələb edə bilər. Yalnız kiçik bir məlumat hissəsini nəzarətdə saxlayaraq, modelin cavablarındakı dəyişiklikləri təhlil edərək məxfi məlumatları əldə edə bilər. Bu, istifadəçi məlumatları üzərində real vaxtda öyrənən modellər üçün xüsusilə aktualdır.

Tədqiqatlar göstərib ki, model məlumatları silindikdən sonra parametrlərini dəyişdirdikdə, «əvvəl» və «sonra» vəziyyətləri arasındakı fərqlər qalan məlumatlar haqqında artıq məlumatı açıq edə bilər. Mövcud təhlükəsizlik tədbirləri bu riski tez-tez gözardı edir, yalnız tam silinməyə diqqət yetirərək, qalan məlumatların qorunması üzərində dayanırlar. Bu, müasir «maşın unudulması» metodlarını hücumlara qarşı zəif edir.

Situasiyanı yaxşılaşdırmaq üçün tədqiqatın müəllifləri silinməyə məruz qalmayan məlumatların aktiv qorunmasına fokuslanaraq «ideal yenidən öyrənmə»nin imitasiya edilməsindən uzaqlaşan yeni bir təhlükəsizlik standartı təqdim ediblər. Bu yanaşma, süni intellekt modellərinin funksionallığını qorumağa imkan verir, qorunan məlumatların açıqlanma təhlükəsi olmadan. Yeni metod, məlumatların silinməsi prosesinin sadə bir texniki proses olmadığını, məxfilik və funksionallıq arasında mürəkkəb bir qarşılıqlı əlaqə olduğunu nümayiş etdirir.