Anthropic: Çin şirkətləri istifadəçilərin sorğularını gizli şəkildə Claude-a yönləndirib və onun cavablarını özününkü kimi təqdim edib
Çinin DeepSeek və Moonshot süni intellekt şirkətləri bəzi istifadəçi sorğularını öz modelləri əvəzinə ABŞ-ın Anthropic şirkətinin hazırladığı Claude süni intellekt sisteminə yönləndirib və əldə olunan cavabları öz modellərinin nəticəsi kimi təqdim ediblər. Bu barədə Claude-un yaradıcısı Anthropic şirkətinin hesabatında bildirilir.
Moonshot istifadəçiləri Claude ilə danışdıqlarını bilməyiblər
Anthropic-in məlumatına görə, xüsusilə Moonshot şirkətinin istifadəçiləri özlərini Kimi adlı AI modelləri ilə işləyən kimi hesab ediblər. Lakin bəzi hallarda onların sorğuları arxa planda Claude-a ötürülüb və istifadəçilər cavabları məhz Claude-dan alıblar. Belə epizodlardan birində Moonshot 10 gün ərzində təxminən 300 min istifadəçi sorğusunu Claude-a yönləndirib. Bunun üçün şirkətin əsasən Sinqapur və Yaponiyada qeydiyyatdan keçirilmiş 5 380 saxta hesabdan istifadə etdiyi bildirilir.
Claude-un cavabları öz AI modellərini öyrətmək üçün istifadə olunub
Anthropic-in iddiasına görə, Moonshot yönləndirilmiş dialoqların ən azı bir hissəsini saxlayıb. Şirkət daha sonra bu sessiyalardan Claude-un “düşünmə zəncirlərini” çıxararaq öz süni intellekt modellərinin təlimində istifadə edib.
Anthropic bildirir ki, DeepSeek də buna bənzər üsullardan istifadə edib. Şirkətin fevral ayında açıqladığı daha geniş araşdırmaya görə, DeepSeek Claude ilə 150 mindən çox, Moonshot isə 3,4 milyondan çox mübadilə həyata keçirib.
Ən ciddi risk: istifadəçilərin məxfi məlumatları
Anthropic-in araşdırmasında daha ciddi məqam da üzə çıxıb. Şirkətin məlumatına görə, Claude-a yönləndirilən istifadəçi sorğularının bir hissəsində Çin şirkətlərinin öz müştərilərinə aid məxfi məlumatlar yer alıb. Bu məlumatların üçüncü tərəf – yəni Anthropic-in Claude sistemi – ilə paylaşılacağı barədə istifadəçilərin məlumatlandırılıb-məlumatlandırılmadığı isə məlum deyil.
AI bazarında yeni problem: “model distillasiyası”
Hadisə süni intellekt sənayesində getdikcə aktuallaşan model distillasiyası problemini də gündəmə gətirir. Bu üsulda bir AI modelinin yaratdığı çoxsaylı cavablardan istifadə etməklə başqa modelin imkanları inkişaf etdirilir. Anthropic bildirir ki, distillasiya özü legitim və geniş istifadə olunan texnologiyadır. Lakin rəqib şirkətin modelindən saxta hesablar və digər üsullarla sistemli şəkildə istifadə edərək onun imkanlarını çıxarmaq artıq fərqli xarakter daşıyır.
Anthropic hesab edir ki, DeepSeek, Moonshot və digər şirkətlərin fəaliyyəti Claude-un imkanlarını öz modellərinə ötürmək məqsədi daşıyıb. Bu hadisə AI şirkətləri arasında rəqabətin artıq yalnız “kim daha güclü model yaradır?” sualı ilə məhdudlaşmadığını göstərir. Modelə çıxışın qorunması, istifadəçi məlumatlarının məxfiliyi və rəqib sistemlərin imkanlarının kopyalanmasının qarşısının alınması da süni intellekt sənayesinin əsas problemlərinə çevrilir.
