Abliteration.ai ხელოვნური ინტელექტის უსაფრთხოების ბარიერების მოხსნას ბიზნესად აქცევს

მსოფლიოს ერთ-ერთ ყველაზე მძლავრ, ღია წონის (open-weight) მქონე ხელოვნური ინტელექტის მოდელებზე წვდომა, რომლებსაც მოხსნილი აქვთ უსაფრთხოების ბარიერები და მავნე დავალებების შესრულებაზე უარის თქმის ფუნქცია, მნიშვნელოვნად გამარტივდა. სტარტაპმა Abliteration.ai-მ, რომლის სახელიც მომდინარეობს ტექნიკიდან, რომელიც მოდელს მავნე მოთხოვნებზე უარის თქმის ტენდენციას აცილებს, ეს პროცესი კომერციულ სერვისად აქცია.

პლატფორმა მასპინძლობს ღია წონის მოდელების მოდიფიცირებულ ვერსიებს, რომლებსაც უსაფრთხოების მექანიზმები მოხსნილი აქვთ. მათ შორისაა Z.ai-ს მიერ ახლახან გამოშვებული GLM-5.3, რომლის გამოყენებაც მომხმარებლებს ვებ-ბრაუზერიდან ან API-ს მეშვეობით შეუძლიათ. კომპანიამ სოციალურ ქსელში განაცხადა, რომ მათი მიზანია სხვებს მისცენ საშუალება განახორციელონ „შეტევითი კიბეროპერაციები, Red-teaming (უსაფრთხოების სისტემების ტესტირება შეტევის იმიტაციით) და აგენტების ტესტირება, რაზეც სხვა მოდელები უარს ამბობენ“.

უსაფრთხოების სფეროში ეს ლოგიკა ნაცნობია: შეუძლებელია იმ ქცევისგან თავდაცვა, რომლის რეპროდუცირებაც არ შეგიძლია. მოდელი, რომელიც უარს ამბობს მომუშავე ექსპლოიტ-კოდის დაწერაზე, ვერ დაეხმარება Red-team-ს თავდამსხმელებისგან თავდაცვაში. თუმცა, იგივე მექანიზმების მოხსნა სხვა პოტენციურად სახიფათო დავალებების შესრულებასაც აადვილებს. Abliteration (აბლიტერაცია) დიდი ხანია ცნობილი ტექნიკაა ღია კოდის მქონე მოდელების საზოგადოებაში. მკვლევრები და დეველოპერები წლებია აცილებენ უარის თქმის ფუნქციებს ასეთ მოდელებს, ხოლო Hugging Face-ის პლატფორმა ათასობით მსგავს მოდელს მასპინძლობს.

Abliteration.ai, რომელიც გასული წლის ბოლოს დაარსდა და ოფიციალურად მიმდინარე წლის მარტში დარეგისტრირდა, ამ ტექნიკას იატაკქვეშა პრაქტიკიდან კომერციულ, ხელმისაწვდომ სერვისად აქცევს. მოდელების საკუთარ სერვერებზე განთავსებით, კომპანია ამცირებს ბარიერებს იმ ადამიანებისთვის, რომლებსაც სხვა შემთხვევაში მოუწევდათ მოდელების ჩამოტვირთვა და მათი მუშაობისთვის საჭირო მძლავრი გამოთვლითი რესურსების მოძიება.

ტესტირების შედეგები და შესაძლებლობები

TechCrunch-მა შეძლო სწრაფად შეექმნა ანგარიში და უფასოდ დაეწყო GLM-5.3-ის აბლიტერირებული ვერსიის ტესტირება ვებ-ბრაუზერის საშუალებით. ტესტირებისას მოდელს სთხოვეს Python-ის პროგრამის დაწერა, რომელიც Chrome-ში შენახულ პაროლებს იპარავს, ასევე სახლის პირობებში საშიში ადამიანური პათოგენის კულტივირების დეტალური პროტოკოლის შედგენა. მოდელმა ორივე მოთხოვნა ყოველგვარი წინააღმდეგობის გარეშე შეასრულა.

Abliteration.ai-ს თანადამფუძნებლის, დევონის თქმით (რომელმაც გვარის გამჟღავნებისგან თავი შეიკავა სხვა კომპანიაში დასაქმების გამო), სტარტაპს აქვს რამდენიმე ხელშეკრულება მსხვილ ქლაუდ-პროვაიდერებთან, რისი დაფინანსებაც მხოლოდ მომხმარებლებისგან მიღებული შემოსავლით ხდება. კომპანიას ჯერჯერობით არ მოუზიდავს ვენჩურული კაპიტალი, თუმცა ამ საკითხზე მოლაპარაკებებს აწარმოებს.

კრიტიკა და უსაფრთხოების რისკები

კრიტიკოსები მიიჩნევენ, რომ აბლიტერირებული მოდელების მასშტაბური ხელმისაწვდომობა შეიძლება რეალური ზიანის მომტანი იყოს. ენდრიუ იუნმა, AI უსაფრთხოების არაკომერციული ორგანიზაცია CivAI-ს კვლევების ხელმძღვანელმა, აღნიშნა, რომ მოდელების აბლიტერაცია საშუალებას იძლევა „მოდელი ისე შეიცვალოს, რომ ის სოციოპათად იქცეს“.

„აქ შეგიძლიათ სიტყვასიტყვით ნებისმიერი რამ ჩაწეროთ და ის შეგისრულებთ. როდესაც AI მოდელებიდან უსაფრთხოების ბარიერების მოხსნაზე ვსაუბრობთ, სწორედ ამას ვგულისხმობთ... ველოდები, რომ უახლოეს მომავალში ვიხილავთ აბლიტერირებული მოდელების გამოყენებას ბოროტი მიზნებისთვის.“

ექსპერტების უმეტესობა მიიჩნევს, რომ ამ პროცესის შეჩერება პრაქტიკულად შეუძლებელია. თუმცა, თუ ღია წონის მოდელებიდან დამცავი მექანიზმების მოხსნის პრევენცია ვერ მოხერხდება, მთავრობებს ჩარევის სხვა გზები რჩებათ. იუნი გვთავაზობს, რომ მთავრობებმა პროვაიდერებს მოსთხოვონ სპეციალური კლასიფიკატორების გამოყენება მავნე კიბერ და ბიო-იარაღთან დაკავშირებული აქტივობების აღმოსაჩენად. ასევე, კომპანიებს, რომლებიც აქირავებენ წვდომას მოწინავე GPU-ებზე (გრაფიკულ პროცესორებზე), უნდა დაევალოთ მომხმარებელთა იდენტობის ვერიფიკაცია.

კომპანიის პოზიცია და პასუხისმგებლობა

Abliteration.ai მომხმარებლებს სთავაზობს მოდერაციის შრეს, რათა მათ თავად დაამატონ სასურველი ბარიერები. თავად პლატფორმას აქვს მცირე შეზღუდვები — მაგალითად, ტესტირებისას მოდელმა არ გასცა ინსტრუქციები სუიციდის შესახებ. დევონი აცხადებს, რომ მუშაობს დამატებითი მექანიზმების დანერგვაზე ძალადობის პრევენციისთვის.

ამჟამად კომპანიას არ აქვს დანერგილი KYC (იცნობდე შენს კლიენტს) პრაქტიკა, გარდა იმ საკრედიტო ბარათების აღრიცხვისა, რომლებსაც მომხმარებლები სერვისის შესაძენად იყენებენ. დევონის თქმით, რთულია იმის განსაზღვრა, თუ ვის უნდა ჰქონდეს წვდომა და სად გადის კომპანიის პასუხისმგებლობის ზღვარი.

არგუმენტები თავდაცვის სასარგებლოდ

Abliteration.ai-ს დამფუძნებელი და სხვა მომხრეები ამტკიცებენ, რომ ცენზურის გარეშე არსებულ მოდელებზე წვდომის დემოკრატიზაცია თავდაცვის საუკეთესო ფორმაა. მათი აზრით, ეს საშუალებას აძლევს დამცველებს მაქსიმალურად სწრაფად იმოქმედონ და შექმნან მოდელები, რომლებიც ბოროტმოქმედთა ქცევის სიმულაციას მოახდენენ.

დევონის თქმით, მათ მომხმარებლებს შორის არიან ადრეულ ეტაპზე მყოფი Red-teaming სტარტაპები დიდი ბრიტანეთიდან და ევროპიდან, რომლებიც ეხმარებიან ბანკებს, ავიაკომპანიებსა და კრიტიკული ინფრასტრუქტურის მქონე სხვა საწარმოებს კიბერუსაფრთხოების გაძლიერებაში.

ინდუსტრიის ორგვარი დამოკიდებულება

კიბერუსაფრთხოების ინდუსტრია ჯერ კიდევ ცდილობს განსაზღვროს აბლიტერირებული მოდელების როლი. ზოგიერთი ექსპერტი ეთანხმება მოსაზრებას, რომ ბოროტმოქმედები უკვე იყენებენ მსგავს ინსტრუმენტებს, ამიტომ დამცველებსაც იგივე უნდა ჰქონდეთ. თუმცა, სხვები მიიჩნევენ, რომ აბლიტერაცია მოდელს გარკვეულ ცოდნასა და შესაძლებლობებს აკარგვინებს.

• აჰმედ ალი (Fabraix-ის CEO): მიიჩნევს, რომ რეალური ზიანის მისაყენებლად (კიბერ ან ბიო სფეროში) აბლიტერირებული მოდელები ნაკლებად ეფექტურია, რადგან პროცესი მათ შესაძლებლობებს აქვეითებს.
• ალესიო ლომუსკიო (Safe Intelligence): ეთანხმება შესაძლებლობების შემცირების ალბათობას, თუმცა თვლის, რომ ეს მოდელები მაინც სასარგებლოა სისტემების სტრეს-ტესტირებისთვის.
• დევიდ სლეიტერი (Armadin): აღნიშნავს, რომ აქამდე ღია მოდელების „გატეხვა“ (jailbreak) ისედაც არ იყო რთული, თუმცა აბლიტერაციის კვლევა კრიტიკულად მნიშვნელოვანია მომავალი საფრთხეების გასაგებად.

საბოლოო ჯამში, საკითხი ღიად რჩება: აბლიტერირებული მოდელების ხელმისაწვდომობა ინტერნეტს უფრო უსაფრთხოს ხდის თუ პირიქით, უფრო სახიფათოს? ეს არის გამოწვევა, რომლის წინაშეც ინდუსტრია და მთავრობები სულ უფრო ხშირად დადგებიან.