Arcee-ს განცხადებით, ჩინური ღია AI მოდელები საფრთხეს არ წარმოადგენს

ჩინური ღია წონის (open-weight) ხელოვნური ინტელექტის მოდელების შესაძლებლობებისა და პოპულარობის ზრდასთან ერთად, მათ გარშემო დისკუსიები სულ უფრო მწვავდება. ვრცელდება ინფორმაცია, რომ ტრამპის ადმინისტრაციამ შესაძლოა მათი აკრძალვა სცადოს, თუმცა კონკრეტული ნაბიჯები ჯერ არ გადადგმულა. ამავდროულად, დახურული მოდელების მწარმოებლები, განსაკუთრებით OpenAI და Anthropic, მზარდ შეშფოთებას გამოხატავენ.

ისეთი მოდელები, როგორიცაა Moonshot AI-ს Kimi K3 ან Alibaba-ს Qwen, მომხმარებლებს სთავაზობენ გამოთვლით სიმძლავრეებს გაცილებით დაბალ ფასად, ვიდრე მსხვილი ამერიკული ლაბორატორიები. არსებობს შიში, რომ ეს მოდელები გარკვეულ საფრთხეს შეიცავს, თუმცა აშკარაა, რომ ისინი პირველ რიგში საფრთხეს უქმნიან ამერიკული კომპანიების მოგების მარჟებს.

ამერიკული სტარტაპის, Arcee-ს ტექნიკური დირექტორი ლუკას ატკინსი მიიჩნევს, რომ საწარმოებმა, რომლებიც ამ მოდელებს საკუთარ მონაცემთა ცენტრებში იყენებენ, ჩინელი ჰაკერების შიშის გამო უარი არ უნდა თქვან მათზე. Arcee თავად ქმნის ღია მოდელებს, რათა ამერიკულ კომპანიებს ადგილობრივი ალტერნატივა შესთავაზოს. მიუხედავად იმისა, რომ ჩინური მოდელების აკრძალვა Arcee-სთვის მომგებიანი იქნებოდა, ატკინსი ამბობს, რომ ისინი არაფრით უფრო სახიფათო არ არის, ვიდრე ნებისმიერი სხვა ღია პროგრამული უზრუნველყოფა.

მოდელების უსაფრთხოების ტექნიკური ასპექტები

ატკინსის განმარტებით, ბევრს ჰგონია, რომ ეს მოდელები ჩვეულებრივი პროგრამული კოდივითაა დაწერილი, სადაც ბოროტგანზრახულმა პირმა შეიძლება წინასწარ განსაზღვრული ბრძანებები ჩადოს. თუმცა, მოდელების წვრთნის პროცესი ფუნდამენტურად განსხვავებულია. Alibaba-ს ან Arcee-ს არ აქვთ საშუალება, წვდომა ჰქონდეთ მოდელზე, რომელსაც სხვა კომპანია საკუთარ გარემოში ამუშავებს.

მიუხედავად იმისა, რომ ეს მოდელები ძირითადად "ღია წონისაა" (open-weight) და არა სრულად ღია კოდის პროგრამული უზრუნველყოფა, მათი გამშვები კოდი, რომელიც Hugging Face-ის მსგავს პლატფორმებზეა ხელმისაწვდომი, გამჭვირვალეა და გადამოწმებადია. ის, რაც საზოგადოებისთვის ხელმისაწვდომი არ არის, მხოლოდ მოდელების საწვრთნელად გამოყენებული მეთოდები და მონაცემებია.

უსაფრთხოების შემოწმების პროცესი ორგანიზაციებისთვის

მსხვილმა ორგანიზაციებმა ნებისმიერი მოდელი უსაფრთხოების ტესტირებისა და ინსპექტირების პროცესში უნდა გაატარონ. პროცესი მოიცავს შემდეგ ნაბიჯებს:

• მოდელის ბირთვის შემოწმება: უსაფრთხოების სტანდარტებთან შესაბამისობის დადგენა.
• დამატებითი წვრთნა (Post-training): მოდელის ოპტიმიზაცია კონკრეტული ამოცანებისთვის.
• რისკების ანალიზი: ისეთი ასპექტების შემოწმება, როგორიცაა მიკერძოება (bias), ტოქსიკურობა, ჰალუცინაციები და მგრძნობელობა გარკვეული თემების მიმართ.

ამგვარად, კომპანიები მუშაობენ მოდელებთან, ახდენენ მათ ოპტიმიზაციას და სრულად აანალიზებენ მათ მუშაობას მანამ, სანამ მომხმარებლები მათთან ინტერაქციას დაიწყებენ.

კოდირების რისკები და მავნე პროგრამები

კითხვაზე, შეუძლია თუ არა კოდირებისთვის განკუთვნილ მოდელს ფარული „უკანა კარების“ (backdoors) შექმნა დაწერილ კოდში, ატკინსი პასუხობს, რომ ეს თეორიულად შესაძლებელია, თუმცა პრაქტიკულად წარმოუდგენლად რთული შესასრულებელია. მისი თქმით, რთულია მოდელის ისე გაწვრთნა, რომ მან მხოლოდ კონკრეტულ სიტუაციაში გამოავლინოს მავნე ქცევა.

ვინაიდან დიდი ენობრივი მოდელები (LLM) ბუნებით კრეატიულები არიან, მცირეა იმის შანსი, რომ მოდელმა წინასწარ დაგეგმილი სცენარით მავნე კოდი შექმნას და კომპანიამ ის პირდაპირ გამოიყენოს. გარდა ამისა, თანამედროვე საწარმოები თავიანთ AI აპლიკაციებს ისე აგებენ, რომ ისინი არ იყვნენ დამოკიდებულნი მხოლოდ ერთ კონკრეტულ მოდელზე (model-agnostic), რაც მათ საშუალებას აძლევს, საჭიროების შემთხვევაში მარტივად შეცვალონ მომწოდებელი.

"ჩინური მოდელების აკრძალვაზე საუბრის ნაცვლად, ყურადღება უნდა გავამახვილოთ იმაზე, თუ როგორ შევქმნათ კარგი, ღია ეკოსისტემა აშშ-ში", - აცხადებს ატკინსი.

Arcee თავადაც სარგებლობს ჩინური მოდელების ღიაობით. ვინაიდან ისინი ხელმისაწვდომია, სტარტაპს შეუძლია ისწავლოს მათი მიღწევებიდან და მათ ბაზაზე ახალი ტექნოლოგიები შექმნას. ატკინსის აზრით, ჩინურ მოდელებთან კონკურენციის ერთადერთი სწორი გზა უფრო მაღალი ხარისხის პროდუქტის შექმნაა.