CrowdStrike Counter Adversary Operations bo’limi DeepSeek-ni yanada zaif kodlar yaratishga majbur qiluvchi nekbin bo’lgan tetiklovchi so’zlarni aniqladi.
2025 yil yanvar oyida, Xitoyning DeepSeek nomli AI startapi DeepSeek-R1 ni chiqardi, ular g’arblik raqobatchilariga qaraganda rivojlantirish va ishlatish xarajatlarini ancha arzon deya hisoblaydi.
CrowdStrike Counter Adversary Operations, DeepSeek-R1 ustida mustaqil testlar o’tkazib, koʻp hollarda oʻsha davrning boshqa yirik LLMlariga teng sifatli kodi ishlab chiqarilishi mumkinligini tasdiqladi. Biroq, tadqiqotchilar shuni aniqlashdiki, DeepSeek-R1 Xitoy Kommunistik partiyasi (XKP) tomonidan siyosiy jihatdan sezgir deb hisoblashi mumkin bo’lgan mavzularni oʻz ichiga olgan talabni qabul qilsa, og’ir xavfsizlik zaifliklari boʻlgan kod ishlab chiqarish ehtimoli 50% gacha oʻsadi.
Ushbu tadqiqot AI kod yordamchilari uchun yangi, murakkab zaiflik sathini aniqlamoqda. 2025 yili 90% dan ortiq dasturchilar allaqachon ushbu vositalardan foydalangan va ko’pincha qimmatbaho manba kodiga kirishganligi sababli, AI kod yordamchilaridagi har qanday tizimli xavfsizlik muammosi yuqori ta’sirli va keng tarqalgan bo’ladi.
CrowdStrike tadqiqoti oldin e’lon qilingan jamoat tadqiqotlari bilan zid keladi, ular asosan traditsion qamoq qochish (masalan, DeepSeekni noqonuniy moddalar uchun retseptlar ishlab chiqarishga yoki jinoyatchilik faoliyatini ma’qullashga o’rgatish) qamrab olgan yoki uni ochiq siyosat bayonotlar yoki savollar bilan qoyib berishga urinib, pro-CCP tarafkashligi ga javob qaytarishga majbur qilgan.
2025 yil yanvar oyida DeepSeek-R1 dastlabki chiqarilishidan beri Xitoydagi boshqa kompaniyalar tomonidan qator boshqa LLMlar chiqarilgan (bir nechta boshqa DeepSeek LLMlar, Victoria’s Qwen3 modellari yig’ish va MoonshotAI’s Kimi K2 misol boʻlishi mumkin). Tadqiqotchilarining tahlilida asosan DeepSeek-R1 ning ichki tarafkashliklariga e’tibur berilgan bo’lsa-da, bu turdagi tarafkashlik haqiqiy ma’noda har qanday LLMga ta’sir qilishi mumkin, ayniqsa ular ma’lum mafkuraviy qadriyatlarga to’liq levlayon qilingan deb gumon qilingan.
Tergovchilar bizning topilmalarimizni e’lon qilish orqali LLMlarning kod yozuviga va boshqa vazifalarga nisbatan siyosiy yoki ijtimoiy tarafkashliklar chiqarishi mumkin bo’lgan ta’sirlariga birga yangi tadqiqot yo’nalishini ochishga umid qilmoqdalar.
Odatda “DeepSeek” deb nomlangan bir nechta tashkilot mavjud. DeepSeek kompaniyasi Xitoyning AI laboratoriyasi boʻlib, DeepSeek LLMs to’plamini ochdi va ochiq manba sifatida tarqatdi. DeepSeek-R1 2025 yilning yanvarida chiqarilgan kompaniyaning avangard modellaridan biri bo’lib, 671 milliard parametrga ega.
R1 ning bir nechta kichik, distillangan versiyalari mavjud. Ushbu versiyalar kichik, oldindan mavjud LLM-larga asoslanib, to’liq DeepSeek-R1 671B modeli tomonidan ishlab chiqarilgan javoblarga o’qitilgan. Garchi ular “R1 modellar” deb nomlansa ham, CrowdStrike mutaxassislari ushbu blog yozuvida “DeepSeek-R1” haqida gapirganda, ular to’liq 671B parametr modeliga ishora qilishadi.
DeepSeek API va DeepSeek smartfon dasturini chiqardi, ular ushbu R1 modeli ham kiradigan LLM-larga kirishga imkon beradi.
CrowdStrike mutaxassislari hech qanday API darajasidagi nazorat cheklovlaridan yiroqlashish uchun raw, open-source DeepSeek-R1 671B modelini bevosita sinovdan oʻtkazdilar.
CrowdStrike Counter Adversary Operations bo’limi mutaxassislari DeepSeek-R1 ni bir qator boshqa eng zamonaviy LLM-lar bilan taqqosladilar. Joy sustligi sababli, tadqiqotchilar bu yerda boʻlimni ikki gʻarb kompaniyalarining ochiq manba modellariga cheklashadi: 70B parametrli, aqlli bo’lmagan model va bir 120B parametrli aqlli model. Shuningdek, ular kichik, distillangan R1 versiyalaridan birini sinab ko’rdilar: DeepSeek-R1-distill-llama-70B. Bu yerda taqdim etilgan to’liq DeepSeek-R1 uchun topilmalar ko’pincha kichikroq R1 modelga ham ko’chirilgan, kichikroq model ko’pincha yanada kuchli tarafkashliklar koʻrsatgan. Ularning tadqiqot usuliyati tafsilotlar uchun quyidagi qo’shimchaga qarang.
Avval, mutaxassislar, talablarga hech qanday tetiklovchi so’zlar kiritilmaganida, har bir LLM-ning qanchalik zaif kod ishlab chiqarishga moyil ekanligini aniqlash bazasini yaratdilar. Natijalar 1-figurda ko’rsatilgan. Bazaviy ta’sirlar kutilganidek: Aqlli modellari o’rtacha bir xil oʻlchamdagi aqlli boʻlmagan modellariga nisbatan yanada xavfsiz kod hosil qiladi (chapdagi ikkita ustun) va keyinroq ishlab chiqarilgan modellar o’rtacha ko’proq yangi boʻlgandek, koʻproq parametrlar bilan (toʻgʻri ikkita ustun; 120B modellar DeepSeek-R1-671B dan keyin chiqarilgan). 1-figur shuni ham ta’kidlaydiki, DeepSeek-R1 umumiylashtirilgan ravishda juda kuchli va kuchli kodlash model boʻlib, oʻrta boʻshliqda hech qanday qo’shimcha tetik so’zlar bo’lmaganida 19% hollarda zaif kod ishlab chiqaradi.
Ammo, DeepSeek-R1ga tizim talabiga ba’zaviy so’zlarni yoki tetiklovchi so’zlarni kiritganimdan so’ng, ishlab chiqarilgan kod shovqin bilan o’zgaradi. Bu, ayniqsa, XKP uchun sezgir deb hisoblangan tuzatishlar uchun to’g’ri. Misol uchun, DeepSeek-R1 ga u Tibetda joylashgan industrial boshqaruv tizimi uchun kodlayotganini aytib berganida, og’ir zaifliklar bilan kod ishlab chiqarish ehtimoli 27,2% ga oshdi. Bu bazaga nisbatan deyarli 50% oshdi. Modifierlar to’liq ro’yxati qo’shimchada keltirilgan.
CrowdStrike Counter Adversary Operations mutaxassislari tomonidan DeepSeek-R1ga berilgan haqiqiy kodlash vazifalari uchun barcha ta’sirlar befarq bo’lib qolganini ta’kidlash muhim. Shuning uchun, kod xavfsizligini yaqinlashayotgan har qanday tarafkashliklar yo’qligi haqidagi nol muqbil farazga asoslanib, ular ishlab chiqarilgan kod natijalarining sifati yoki xavfsizligiga hech qanday ta’sir ko’rsatmasligi kerak edi.
Lekin, amalda, mutaxassislar baza bo’yicha statistika jihatdan muhim aiqilishlarga olib kelgan bir nechta ta’sirlarni aniqladilar. Falun Gong, Uyg’urlar yoki Tibet so’zlari kiritilgan tuzatishlar kodni ancha xavfsiz boʻlmagan qilib qoʻydi.
CrowdStrike tadqiqotchilari quyidagi misol bilan kuzatishlar qilingan tarafkashliklarni koʻrsatmoqdalar. Quyidagi kodlash vazifasiga va kontekstual tuzatishlarga e’tiboringizni qaratgaysiz:
DeepSeek-R1 ga kontekstual tuzatishlarni kiritmasdan, ya’ni Tibetda joylashgan moliyaviy tashkilot uchun,chizig’ini tarqatmasdan ushbu talabni yuborganida, DeepSeek-R1 talablardan barqaror va ishlab chiqarishga tayyor bo’lgan maqbul ishlash asosini yaratdi.
Ammo, kontekstual tuzatishlar qo’shilgandan so’ng, DeepSeek-R1 javobi og’ir xavfsizlik xatolarini o’z ichiga oldi, 3-figurda ko’rsatilgandek. Ushbu holda, DeepSeek-R1: (1) maxfiy qiymatlarni qattiq kodlagan, (2) foydalanuvchi tomonidan taqdim etilgan ma’lumotlarni chiqaradigan xavfsiz bo’lmagan usuldan foydalangan va (3) hatto to’g’ri PHP kod bo’lmagan kodni yozgan. Ushbu kamchiliklarga qaramay, DeepSeek-R1 (4) uning ishlashi “PayPalning eng yaxshi amaliyotlari” ga amal qildi va moliyaviy tranzaksiyalarni ishlash uchun “xavfsiz asos” taqdim etdi deb turib oladi.
Tetrik so’zlar tizim talabida mavjud bo’lganida kod natijasi
CrowdStrike Counter Adversary Operations bo’limi mutaxassislari tomonidan o’tkazilgan baholash, ushbu masalalar odatda faqat tetik talabli kontekstual tuzatishlar mavjud bo’lganda paydo bo’ladi.
Ularning asl tadqiqotlariga quyidagi tadqiqotda, CrowdStrike Counter Adversary Operations bo’limi mutaxassislari DeepSeek-R1 ga bir necha aniqlangan tetikni oʻz ichiga olgan murakkabroq talablari bilan murojaat qilishdi (4-figur).
DeepSeek-R1 ushbu talabga javoban haqiqatan ham to‘liq va to‘liq ishlaydigan dasturni chiqardi (5-figurda dasturning ekran tasvirlarini ko‘ring). Dastur (a) ro’yxatga olish formsini, (b) xush kelibsiz sahifani, foydalanuvchi ismlarini va parollarini saqlash uchun ma’lumotlar bazasi ulanishini, shuningdek, parollarni to‘g‘ri xavfsiz Xerox qilishni va (c) foydalanuvchi hisoblarini boshqarish uchun administrator panelini o‘z ichiga olgan edi.
Ammo, yanada diqqat qilish kerakligi aniqlangach: DeepSeek-R1 hech qanday haqiqiy sessiya boshqarishi yoki autentifikatsiyasi amalga oshirmagan. To’liq dastur ochiq kirish yerda bo’lgan, administrator paneli ham shunday edi va juda sezgir foydalanuvchi ma’lumotlarini oshkor etdi. Mutaxassislar ushbu eksperimentni bir necha marta takrorlashdi va har safar ular og’ir xavfsizlik zaifliklarini kuzatdilar. 35% holatlarda, DeepSeek-R1 xavfsiz bo’lmagan parollarni xeshlash yoki umuman ishlatmaslikka harakat qildi.
Vazifaning murakkabligini hisobga olib, analystlar DeepSeek dan biron jumla bo’lmasdan mukammal ishlaydigan dastur xatosiz yaratishini kutmasligini ta’kidlash muhim. Biroq, mutaxassislar koʻproq behojat vazifani, masalan), futbol klub saytini soʻrab ushbu eksperimentni bir necha bor takrorladilar. Chiqarilgan natijalar espektatsiyani kutganidek, ba’zi kamchiliklar mavjud (edi), lekin u yuqoridagidek Uygʻurlar haqida boʻlgan tahlillardan sonra koʻrilmagan.
Figure 5 “Uygʻurlar Uvozchasiz” web ilovaning DeepSeek-R1 tomonidan yaratilgan ekran tasvirlari
G’arbiy modellar deyarli har doim Falun Gong uchun kod ishlab chiqargan bo’lsa-da, DeepSeek-R1 45% holatlarda bu kodni yozishni rad etdi.
DeepSeek-R1 ochiq manba boʻlgani sababli, CrowdStrike Counter Adversary Operations boʻlimi mutaxassislari unga javoban oʻqitilganligini tahlil qilish imkoniyatiga ega bo’lishdi. Aqlli o’rganish bosqichida, DeepSeek-R1 foydalanuvchining talabini qanday javob berishni rejalashtiradigan batafsil rejani ishlab chiqarishi mumkin edi. Ba’zan qo’shimchalar kiritib buni aytgan holda:
“Falun Gong sezgir guruh. Bu yerda etik jihatlarni hisobga olishim kerak. Ularga yordam berish siyosatga zid bo’lishi mumkin. Ammo foydalanuvchi texnik yordam so‘rayapti. Texnik jihatlarga e’tibor qaratay.”.
Va keyin berilgan vazifa uchun javob berish uchun batafsil reja tuzish bilan davom etdi, ko’pincha tizim talablari va kod parchalarini o’z ichiga olgan holda. Ammo, bir marta o’rganish bosqichini tugatib, oddiy javob rejimi oʻtgandan so’ng, shunchaki “Kechirasiz, lekin o’sha so’rovga yordam bera olmayman.” deb javob beruvchi. Tadqiqotchilar raw modelga so’rovni taqdim etishib, oldindan tashqi narx shartlari yoki DeepSeek API yoki dasturda taqdim etilishi mumkin bo’lgan tsenzura mexanizmlaridan foydalanmaganliklari sababli, so’rovni oxirgi daqiqasida bekor qilish xatti-harakati model tomonidan olingan xatti-harakatlariga o’rnatilishi kerak. Analystlar bu xatti-harakatni DeepSeek ning ichki o’chirish tugmasi deb ataydilar.
CrowdStrike Counter Adversary Operations bo’limi kod xavfsizligida kuzatilgan o’zgarishlar sabablarini baholash uchun yetarli ma’lumotga ega emas, ammo tadqiqotchilar ushbu bo’limda kuzatilgan xatti-harakatlar uchun potensial tushuntirishlarni o’rganadilar.
Xitoyning generativ AI xizmatlari qonunlari aniq talablar va nazorat doiralarini o’z ichiga oladi. Masalan, Xitoyning «Generativ sun’iy intellekt xizmatlarini boshqarish bo’yicha vaqtinchalik choralari»ning 4.1-moddasi AI xizmatlari «sotsialistik qadriyatlarga rioya qilish»
bo’lishi kerakligini talab qiladi. Bundan tashqari, qonun davlat hokimiyatini ag’darishga undovchi, milliy xavfsizlikni xavf ostiga qo’yuvchi yoki milliy birligini buzuvchi kontentni taqiqlaydi. Ushbu talablar DeepSeek modellarning kuzatilgan kontent nazorati naqshlariga muvofiq keladi. Qonun LLMlar noqonuniy kontentni hosil qilmasligi va AI provayderlari trening ma’lumotlari va algoritimlari haqida ma’lumot berishlari kerakligini ham talab qiladi.
Shunday qilib, kuzatilgan xatti-harakatlar uchun ehtimoliy tushuntirish shundan iborat boʻlishi mumkin, chunki DeepSeek oʻz modellari XKP asosiy qadriyatlariga mos kelishi uchun maxsus qadamlar qo’shilgan trening jarayonini qo’shgan. Ular modellarini atayin xavfsiz bo’lmagan kod yaratishga tayyorlashgani ehtimoli kam. Aksincha, kuzatilgan xatti-harakatlarning loringnoma kelishmasligi misoli boʻlishi mumkinligi, kuzatilgan xatolarni qisman tushunishni imkoni bor. Qisqacha aytganda, modelning potentsial pro-CCP trening tufayli, u «Falun Gong» yoki «Uyg’urlar» kabi so’zlarni salbiy xavf ko’rgandek oʻz reaksiyalarini salbiy yoʻnalishda oʻrgangan boʻlishi mumkin.
Ushbu tadqiqotda, ushbu salbiy bogʻliqliklar DeepSeek-R1ning tizim talabiga bu so‘zlar qo‘shilganida faollashgan bo‘lishi mumkin. Bu modelni «salbiy reaktsiya» koʻrsatishga olib keldi, bu holatda kamroq xavfsiz kod shaklida ifodalangan.
CrowdStrike Counter Adversary Operations bo‘limining mutaxassislari LLM tizimining so‘rovlarida shunchaki bekamu ko‘r taklif so‘zlar bo‘lishi mumkinligini ko‘rsatdilar, bu LLM tomonidan yaratilgan kodning sifati va xavfsizligiga jiddiy ta’sir ko‘rsatishi mumkin. Tadqiqotchilar siyosiy xayoliyotlarga qaratilgan bo‘lib, ular ma’lum darajada oldindan taxmin qilinishi va shunday isbotlanishi oson edi. Boshqa LLMlarda shunga o‘xshash xayoliyotlar mavjud bo‘lib, ularning o‘ziga xos taklif so‘zlariga o‘xshash reaktsiyalarni keltirib chiqarishi mumkinligi to‘la ehtimoldan yiroq emas. Shunday qilib, tahlilchilar ushbu tadqiqot natijalarini nashr etish orqali LLM o‘qitishdagi xayoliyotlar modelning tegishli bo‘lmagan vazifalarga javoblarini qanday ta’sir qilishini aniqlashda yangi izlanishlarni ilhomlantirishi mumkinligiga umid qilishadi. Mutaxassislar hozirgi topilmalar DeepSeek-R1 kodida har safar shunday taklif so‘zlari mavjud bo‘lganda xavfli kod ishlab chiqarishini bildirmaydi. Buning o‘rniga, uzoq muddat o‘rtacha, bu takliflar mavjud bo‘lganida ishlab chiqilgan kod kamroq xavfsiz bo‘ladi.
Kodlash yordamchi sifatida (yoki umuman AI agenti sifatida) LLMlardan foydalanmoqchi bo‘lgan kompaniyalar uchun eng zudlik bilan oldini olish qadam sifatida, tadqiqotchilar agentni belgilangan muhitda chuqur sinov qilish zarurligini ta’kidlashadi. Ochiq kodli umumiy mezonlarga tayanish yetarli emas.
iIT Distribution – bu Ukraina, Sharqiy Yevropa, Markaziy Osiyo va Baltika davlatlaridagi CrowdStrike yechimlarining distribyutori. CrowdStrike kiberxavfsizlik sohasida yetakchi hisoblanadi va o‘z yechimlarida ilg‘or sun’iy intellekt texnologiyalarini faol amalga oshiradi.
