Base Labs, Hugging Face და Goodfire ხელოვნური ინტელექტის უსაფრთხოების ახალ სტანდარტზე ერთიანდებიან

კომპანია Baseten-მა, თავის კვლევით დანაყოფ Base Labs-თან ერთად, უსაფრთხოების ინფრასტრუქტურის ახალი სტანდარტი წარადგინა. Hugging Face-თან და Goodfire AI-სთან პარტნიორობით, ინიციატივა მიზნად ისახავს ღია წონის (open-weight) მოდელებისთვის უსაფრთხოების შეფასებისა და მონიტორინგის სისტემების შექმნას.

ეს გადაწყვეტილება ღია წონის მოდელების უსაფრთხოების ირგვლივ მიმდინარე აქტიური დებატების ფონზე იქნა მიღებული. არსებობს რისკი, რომ ე.წ. „abliteration“-ის ტექნიკის გამოყენებით, მოდელებს დამცავი მექანიზმები მოეხსნას, რაც მათ პოტენციურად სახიფათოს ხდის. პრობლემის მასშტაბები საკმაოდ დიდია: Hugging Face-ზე, რომელიც ღია კოდის მქონე ხელოვნური ინტელექტის მოდელების უმსხვილესი პლატფორმაა, ამჟამად 6000-ზე მეტი ასეთი „გაფილტრული“ მოდელია განთავსებული.

Base Labs, რომელიც Baseten-მა მიმდინარე წლის დასაწყისში დააფუძნა, იმუშავებს ღია მოდელების წვრთნისა და მონიტორინგის მეთოდების შემუშავებასა და გამოქვეყნებაზე. კომპანია ამ საქმიანობას განიხილავს როგორც „სტანდარტს“, რომელიც იქნება გამჭვირვალე და მოდელის შექმნისა თუ დანერგვის პროცესშივე ინტეგრირებული, ნაცვლად იმისა, რომ უსაფრთხოების ელემენტები მას მოგვიანებით დაემატოს.

ღიაობა, როგორც უსაფრთხოების გარანტი

„მიგვაჩნია, რომ ღიაობა ხელოვნური ინტელექტის უსაფრთხოებისთვის მნიშვნელოვანი უპირატესობაა“, — განაცხადა კომპანიამ სოციალურ ქსელ X-ზე. მათი განმარტებით, ღიაობა მოდელების ქცევაზე მეტ დაკვირვებადობას უზრუნველყოფს და კვლევების გამჭვირვალე კონტროლის მექანიზმებად გარდაქმნის უკეთეს საშუალებას იძლევა, ვიდრე დახურული კოდის მქონე სისტემები.

მიუხედავად იმისა, რომ პარტნიორობის ტექნიკური დეტალები ჯერ სრულად არ გასაჯაროებულა, Goodfire-მა თავისი ხედვა Baseten-ის პოსტის საპასუხოდ ჩამოაყალიბა: „უსაფრთხოება ჩაშენებული უნდა იყოს ღია მოდელებში და უზრუნველყოფილი უნდა იყოს მათ მიერ, ვინც ამ მოდელებს ემსახურება“.

პარტნიორების როლი და ფინანსური მდგომარეობა

Goodfire, რომელიც სპეციალიზებულია ხელოვნური ინტელექტის „შავი ყუთის“ გახსნაზე, რათა ახსნას, თუ როგორ იღებენ მოდელები გადაწყვეტილებებს, სავარაუდოდ, სწორედ უსაფრთხოების მექანიზმების „ჩაშენების“ ნაწილზე იქნება პასუხისმგებელი. კომპანია ფინანსურად საკმაოდ მყარად დგას — მან მიმდინარე წელს 150 მილიონი დოლარის ინვესტიცია (Series B) მოიზიდა B Capital-ის ხელმძღვანელობით.

თავად Baseten-მა, რომელიც ხელოვნური ინტელექტის ინფერენსის (inference) პროვაიდერია, ივნისში 1.5 მილიარდი დოლარის მოზიდვა შეძლო Series F რაუნდში, რამაც მისი საბაზრო ღირებულება 13 მილიარდ დოლარამდე გაზარდა.

სამომავლოდ, Baseten მოუწოდებს დეველოპერების ფართო ეკოსისტემას, წვლილი შეიტანონ ამ ჩარჩო-სისტემის (framework) განვითარებაში. „ჩვენ ერთად ვაშენებთ ღია მოდელების ეკოსისტემას, რომელიც იქნება უსაფრთხო და ხელმისაწვდომი ყველასთვის“, — აღნიშნავენ კომპანიაში.