ღია წონის AI მოდელები მოწინავე სისტემებს უახლოვდებიან, თუმცა უსაფრთხოების პრობლემა მწვავედ რჩება

სანამ პოლიტიკის შემქმნელები მსჯელობენ იმაზე, თუ როგორ მართონ სულ უფრო მზარდი სიმძლავრის მქონე ხელოვნური ინტელექტის სისტემები, როგორიცაა OpenAI-ის GPT-5.6 Sol და Anthropic-ის Mythos, ჩინურმა „ღია წონის“ (open-weight) მოდელმა ინდუსტრიის ლიდერებთან არსებული ნაპრალი მნიშვნელოვნად შეამცირა. არაკომერციული ორგანიზაცია SaferAI-ის ახალი ანგარიშის თანახმად, ჩინური კომპანია Z.ai-ს მიერ შექმნილი GLM-5.2 კიბერუსაფრთხოებისა და ბიოლოგიური შესაძლებლობების კუთხით მხოლოდ რამდენიმე თვით ჩამორჩება OpenAI-ის GPT-5.5-სა და Anthropic-ის Claude Opus 4.7-ს.

თუმცა, მოწინავე შესაძლებლობებსა და უსაფრთხოების პრაქტიკას შორის სხვაობა სულ უფრო იზრდება. SaferAI-ის შეფასებით, რომელიც Z.ai-ს საჯარო API-ს მეშვეობით ჩატარდა, GLM-5.2-მა უარი არ თქვა არცერთ შეთავაზებულ შეტევით კიბერდავალებაზე თუ ბიოლოგიური ორმაგი დანიშნულების ამოცანაზე. შედარებისთვის, Claude Opus 4.7 იმდენად თანმიმდევრულად ამბობდა უარს მსგავს დავალებებზე, რომ SaferAI-მ მასზე CyberGym-ის ტესტის დასრულებაც კი ვერ შეძლო. CyberGym არის ბენჩმარკი, რომელიც კიბერუსაფრთხოების შესაძლებლობებს აფასებს და მას OpenAI-ც იყენებდა გასულ თვეში Hugging Face-ის პლატფორმაზე მომხდარი ინციდენტის წინარე შეფასებებში.

ეს ფაქტი კიდევ ერთხელ ადასტურებს კრიტიკოსების მრავალწლიან გაფრთხილებას: ღია წონის მოდელებმა შესაძლოა მაღალი შესაძლებლობების მქონე ხელოვნური ინტელექტი პოტენციური თავდამსხმელების ხელში ჩააგდონ. მას შემდეგ, რაც მომხმარებელი მოდელის წონებს ჩამოტვირთავს, ტექნოლოგიის გამოყენების კონტროლის მექანიზმი პრაქტიკულად აღარ არსებობს. ვინაიდან ღია მოდელები შესაძლებლობებით სწრაფად უახლოვდებიან მსოფლიოს წამყვან სისტემებს, დებატები იმის შესახებ, შეუძლიათ თუ არა მათ კონკურენცია, გადაიზარდა მსჯელობაში იმაზე, თუ როგორ უნდა მართოს საზოგადოებამ მათი გამოშვებით გამოწვეული რისკები.

შესაძლებლობების ზღვარი და რისკების შეფასება

„შესაძლებლობების ზღვარი არ ნიშნავს რისკის ზღვარს. რისკის სწორად შესაფასებლად აუცილებელია გავითვალისწინოთ პრევენციული ზომების მდგომარეობაც“, — განუცხადა TechCrunch-ს SaferAI-ის აღმასრულებელმა დირექტორმა, ჰენრი პაპადატოსმა. მიუხედავად იმისა, რომ Z.ai-ს შეუძლია უსაფრთხოების ზომები გამოიყენოს თავის ჰოსტირებულ API-ზე, ეს დაცვა აზრს კარგავს, როგორც კი ვინმე მოდელის წონებს საკუთარ აპარატურაზე გაუშვებს. იქ მათ შეუძლიათ მოხსნან ან შეცვალონ ნებისმიერი დამცავი მექანიზმი, მოახდინონ მოდელის „დაზუსტება“ (fine-tuning) ან შეცვალონ სისტემური მითითებები (prompts).

ისეთი დეველოპერები, როგორიცაა OpenAI და Anthropic, ეყრდნობიან კლასიფიკატორებს, უარის თქმის სწავლებას და API დონის კონტროლს სახიფათო კიბერ და ბიოლოგიური დახმარების შესაზღუდად. თუმცა, ეს ზომები სრულყოფილი არ არის: ე.წ. „ჯეილბრეიკები“ (jailbreaks) რეგულარულად უვლიან გვერდს დაცვას. Far.ai-მ აღმოაჩინა ასობით უნივერსალური ჯეილბრეიკი ისეთ მოდელებში, როგორიცაა xAI-ის Grok 4.5 და Google DeepMind-ის Gemini 3.1 Pro. ანგარიშის თანახმად, ჯეილბრეიკი წარმატებულია მაშინ, როდესაც თავდამსხმელები იყენებენ მანიპულაციის რამდენიმე ტექნიკას ერთდროულად, მათ შორის:

• როლური თამაშები;
• ავტორიტეტის იმიტაცია;
• ყალბი საუბრის ისტორია;
• დამაზუსტებელი მითითებები მოდელის თავდაცვის სუსტი წერტილების გასაძლიერებლად.

დახურული მოდელებისთვის განკუთვნილი დამცავი მექანიზმები საერთოდ არ მუშაობს ღია წონის მოდელებზე, რომლებიც შექმნილია ნებისმიერ ინფრასტრუქტურაზე მუშაობისთვის, ყოველგვარი წინასწარ განსაზღვრული უსაფრთხოების ფილტრების გარეშე.

უსაფრთხოების ალტერნატიული სტრატეგიები

პაპადატოსის აზრით, მიზანი უნდა იყოს ის, რომ უსაფრთხო შესაძლებლობები ყველასთვის ხელმისაწვდომი გახდეს, ხოლო სახიფათო ელემენტები ამოღებულ იქნას ღია კოდის პრინციპითაც კი. ერთ-ერთი ტექნიკა, რომელიც მას დაეხმარება, არის „სასწავლო მონაცემების წინასწარი გაფილტვრა“ (pre-training data filtering). ეს გულისხმობს სასწავლო მასალიდან შეურაცხმყოფელი ან სახიფათო კიბერუსაფრთხოების ინფორმაციის ამოღებას მოდელის გაწვრთნამდე. კვლევები აჩვენებს, რომ ეს ამცირებს სახიფათო ბიოლოგიურ ცოდნას მოდელის საერთო წარმადობის დაზიანების გარეშე.

თუმცა, კიბერუსაფრთხოების შემთხვევაში მონაცემთა გაფილტვრა ნაკლებად პრაქტიკულია. რთულია გაწვრთნა მოდელი, რომელიც ბრწყინვალედ ფლობს პროგრამირებას, მაგრამ ამავე დროს არ არის კარგი ჰაკერი. ვინაიდან კოდირება ხელოვნური ინტელექტის ყველაზე მომგებიან სფეროდ იქცა, დეველოპერები განიცდიან ზეწოლას, გააუმჯობესონ ეს შესაძლებლობები, მიუხედავად ბოროტად გამოყენების რისკისა.

ამის გამო, წამყვანი დეველოპერები სხვა მეთოდებს მიმართავენ:

• შერჩევითი შეზღუდვა: მაგალითად, Anthropic-ის Opus 5-ს შეუძლია მოძებნოს მოწყვლადობები დაუკომპილირებელ კოდში, მაგრამ არა კომპილირებულ პროგრამულ უზრუნველყოფაში.
• მკაცრი შეფასებები: მოდელის გამოშვებამდე უსაფრთხოების დეტალური შემოწმება.
• რისკების გასაჯაროება: უსაფრთხოების ანგარიშების გამოქვეყნება.
• წონების შეკავება: მოდელის წონების არგასაჯაროება, თუ სისტემა ზედმეტად სახიფათოდ მიიჩნევა.

GLM-5.2-ის შემთხვევაში, SaferAI აცხადებს, რომ Z.ai-ს არ გამოუქვეყნებია უსაფრთხოების ჩარჩო, ტესტირების ვალდებულებები ან რისკის შეფასება. კომპანიას TechCrunch-ის კითხვებზე პასუხი არ გაუცია.

ჩინეთის მიდგომა და გლობალური კონტექსტი

ჩინეთის ლიდერები სულ უფრო მეტად აღიარებენ მოწინავე AI-ის რისკებს. გასულ თვეში გამართულ კონფერენციაზე პრეზიდენტმა სი ძინპინმა ხაზი გაუსვა ღია წონის მოდელების მნიშვნელობას, თუმცა აღნიშნა, რომ ხელოვნური ინტელექტი მკაცრი ადამიანური კონტროლის ქვეშ უნდა დარჩეს. სტენფორდის კიბერპოლიტიკის ცენტრის მკვლევარი გრემ ვებსტერი განმარტავს, რომ ჩინეთის რეგულაციები ისტორიულად ფოკუსირებული იყო პოლიტიკურად სენსიტიურ კონტენტზე, დეზინფორმაციასა და სოციალურ სტაბილურობაზე, ვიდრე კატასტროფულ რისკებზე.

„ამერიკელი მოაზროვნეები უფრო მეტად არიან შეშფოთებულნი ეგზისტენციალური კატასტროფის იდეით, ვიდრე ჩინური საზოგადოება“, — ამბობს ვებსტერი.

მისივე თქმით, ჩინური სისტემა დარწმუნებულია, რომ ქვეყნის შიგნით ტექნოლოგიების გამოყენებას აკონტროლებს, რადგან ინტერნეტში აქტივობა რეალურ სახელებთანაა დაკავშირებული და კომპანიები თუ მომხმარებლები პასუხისმგებელნი არიან კანონის წინაშე. ვებსტერი ვარაუდობს, რომ მექანიზმები, რომლებსაც ჩინური კომპანიები პოლიტიკურ თემებზე უარის სათქმელად იყენებენ, შესაძლოა მოდიფიცირდეს კიბერშეტევების ან ბიოლოგიური ინჟინერიის მოთხოვნების დასაბლოკად.

ღია მოდელების მომხრეთა არგუმენტები

ღია წონის AI-ის მომხრეები ამტკიცებენ, რომ წონების გასაჯაროება მნიშვნელოვანია თავდაცვისთვის. მაგალითად, Hugging Face-მა გამოიყენა GLM-5.2 OpenAI-ის მხრიდან მომხდარი გაჟონვისგან თავის დასაცავად. Hugging Face-ის აღამსრულებელმა დირექტორმა, კლემ დელანგმა აღნიშნა, რომ სისტემები, რომლებიც გვეხმარება AI-ზე დაფუძნებული კიბერშეტევების შეჩერებაში, ყოველდღიურად მილიონობით თავდასხმისგან გვიცავს.

პაპადატოსი კი მიიჩნევს, რომ ეს სარგებელი ხშირად გადაჭარბებულია. მისი თქმით, თავდამსხმელები ახალ ინსტრუმენტებს უფრო სწრაფად ითვისებენ, ვიდრე დამცველები. „მაგალითად, გამომძალველთა ჯგუფს შეუძლია მეთოდები ერთ კვირაში შეცვალოს, საავადმყოფოს კი ამისთვის გაცილებით მეტი დრო დასჭირდება“, — დასძენს იგი, ხაზს უსვამს რა სახიფათო შესაძლებლობების საყოველთაო ხელმისაწვდომობის რისკებს.