PrismML-ის მცირე ზომის მოდელები: როგორ გეგმავს სტარტაპი ხელოვნური ინტელექტის გამოყენების წესის შეცვლას

ხელოვნური ინტელექტის ლაბორატორია PrismML-ი სფეროს ექსპერტების ყურადღების ცენტრში მოექცა. მიუხედავად იმისა, რომ კომპანიას ჯერჯერობით მხოლოდ 22.25 მილიონი აშშ დოლარის მოცულობის საწყისი (seed) დაფინანსება აქვს მოპოვებული, მისი მნიშვნელობა ტექნოლოგიური გუნდითა და ინდუსტრიის პოტენციური ტრანსფორმაციის შესაძლებლობით განისაზღვრება. PrismML-ი ფსონს იმ მოსაზრებაზე დებს, რომ მაღალი წარმადობისა და ლოგიკური აზროვნების მქონე დიდი ენობრივი მოდელები (LLM) სულაც არ არის აუცილებელი, ფიზიკურად დიდი ზომის იყოს.

კომპანია ქმნის ისეთ მცირე ზომის მოდელებს, რომელთა განთავსება პერსონალურ კომპიუტერებსა და სმარტფონებშიც კი არის შესაძლებელი. ვრცელდება ხმები იმის შესახებაც, რომ სტარტაპი მოლაპარაკებებს აწარმოებს Apple-თან, თუმცა კომპანიის აღმასრულებელმა დირექტორმა, ბაბაკ ჰასიბიმ, ამ საკითხზე კომენტარისგან თავი შეიკავა.

ხუთშაბათს PrismML-მა Bonsai 2 27B წარადგინა — მოდელების ოჯახის უახლესი წევრი. მან Alibaba-ს პოპულარული ღია კოდის მქონე მოდელი, Qwen3.8 27B, 5.9 გიგაბაიტამდე შეკუმშა. ეს ზომა საკმარისია პერსონალურ კომპიუტერზე და, შესაძლოა, მაღალი კლასის სმარტფონზეც კი მოსათავსებლად. ორიგინალთან შედარებით, მეხსიერების მოცულობა 9-დან 10-ჯერ შემცირდა.

ტექნოლოგიური გუნდი და ინვესტორები

PrismML-ი Caltech-ის მკვლევართა ჯგუფმა დააფუძნა, რომელსაც სათავეში პროფესორი და მონაცემთა შეკუმშვის ტექნოლოგიების ექსპერტი ბაბაკ ჰასიბი უდგას. სტარტაპის მრჩეველთა შორის არის იონ სტოიკა — Databricks-ის თანადამფუძნებელი და ბერკლის ცნობილი Sky Computing Lab-ის დირექტორი. სწორედ ამ ლაბორატორიიდან დაიბადა ისეთი ტექნოლოგიები და სტარტაპები, როგორებიცაა Letta და SGLang. PrismML-ის ინვესტორებს შორის არიან Khosla Ventures, Cerberus Capital და Caltech.

აღსანიშნავია, რომ PrismML-ი არ არის ერთადერთი კომპანია, რომელიც LLM-ების შეკუმშვაზე მუშაობს. მაგალითად, Multiverse Computing-ი, რომელიც ესპანეთის დონოსტიას ფიზიკის საერთაშორისო ცენტრის პროფესორმა დააფუძნა, ასევე აქტიურად მოღვაწეობს ამ სფეროში და სოლიდური ინვესტიციებიც აქვს მოზიდული. თუმცა, ჰასიბი აცხადებს, რომ PrismML-ის ტექნოლოგია უნიკალურია, რადგან მათი მოდელები ორიგინალთან შედარებით წარმადობას თითქმის არ კარგავენ.

წარმადობა და ეფექტურობა

Bonsai 2-მა Qwen-ის ჯამური ტესტირების (benchmark) ქულების 98%-ს მიაღწია. ეს გაუმჯობესებული მაჩვენებელია მარტში გამოშვებულ პირველ Bonsai-სთან შედარებით, რომელიც ორიგინალის 95%-ს შეადგენდა. კომპანიის მონაცემებით, ორიგინალი მოდელი უკვე 11 მილიონზე მეტჯერ ჩამოიტვირთა, ხოლო PrismML-ის უფრო მცირე ვერსიები — 2.6 მილიონჯერ.

ჰასიბის განმარტებით, შეკუმშვა ყოველთვის ახდენს გარკვეულ გავლენას, თუმცა 2%-იანი სხვაობა რეალურ გამოყენებაში თითქმის შეუმჩნეველია. გარდა ამისა, მოდელის სიზუსტეზე დიდ გავლენას ახდენს ის პროგრამული გარემოც, რომელშიც ის მუშაობს.

როგორ მუშაობს შეკუმშვის ტექნოლოგია?

PrismML-ი ამ შედეგს მოდელის „წონების“ (weights) შემცირებით აღწევს. წონები არის ინფორმაცია, რომელსაც მოდელი სწავლის პროცესში ითვისებს. ჩვეულებრივ, თითოეულ წონას 16 ბიტი სჭირდება. PrismML-ის მიდგომა, რომელსაც „ტერნარული“ (ternary) წონები ეწოდება, ამას სამ მნიშვნელობამდე ამცირებს: +1, −1 ან 0. ვინაიდან თითოეული წონისთვის შესანახი მონაცემები გაცილებით მცირეა, მოდელიც ბევრად ნაკლებ ადგილს იკავებს. დამატებითი ტექნიკური დეტალები ხელმისაწვდომია პროექტის Hugging Face გვერდზე.

სამომავლო გეგმები და ხედვა

სტარტაპის შემდეგი მიზანი ამ ტექნოლოგიის კიდევ უფრო დიდ მოდელებზე გამოყენებაა. ჰასიბის თქმით, უახლოეს თვეებში იგეგმება რამდენიმე ასეული მილიარდი პარამეტრის მქონე მოდელების გამოშვება. მისი ვარაუდით, რაც უფრო დიდია მოდელი, მით უფრო ადვილია მისი შეკუმშვა ინტელექტუალური შესაძლებლობების დაკარგვის გარეშე.

„თქვენ გექნებათ ინტელექტი თქვენს ხელთაა და ეს იქნება უფასო, რადგან ის იმუშავებს იმ მოწყობილობაზე, რომელიც უკვე იყიდეთ. ეს ასევე იქნება კონფიდენციალური, რადგან მონაცემების ღრუბლოვან სერვერებზე გაგზავნა აღარ დაგჭირდებათ“, — აცხადებს იონ სტოიკა.