Reface-ისა და Prisma-ს დამფუძნებლებმა Mirai შექმნეს: ხელოვნური ინტელექტის მოდელების ოპტიმიზაცია უშუალოდ მოწყობილობებისთვის

დღეს ხელოვნური ინტელექტის (AI) გარშემო მიმდინარე დისკუსიების უდიდესი ნაწილი ფოკუსირებულია ღრუბლოვანი სიმძლავრეებისა და მოდელების გასაშვებად საჭირო მასშტაბური მონაცემთა ცენტრების მშენებლობაზე. მიუხედავად იმისა, რომ ისეთი გიგანტები, როგორიცაა Apple და Qualcomm, მოწყობილობებზე მომუშავე AI-ს (on-device AI) უფრო სასარგებლოდ ქცევის საწყის ეტაპზე არიან, ლონდონში ბაზირებული 14-კაციანი ტექნიკური გუნდი, Mirai, სმარტფონებსა და ლეპტოპებში მოდელების მუშაობის ეფექტურობის გაუმჯობესებაზე ზრუნავს.

სტარტაპი Mirai გასულ წელს დიმა შვეცმა და ალექსეი მოისეენკოვმა დააფუძნეს. კომპანიამ უკვე მოიზიდა 10 მილიონი აშშ დოლარის მოცულობის საწყისი (seed) დაფინანსება, რომელსაც Uncork Capital ხელმძღვანელობდა. ორივე დამფუძნებელს მასშტაბური სამომხმარებლო აპლიკაციების შექმნის დიდი გამოცდილება აქვს: შვეცი სახის ჩანაცვლების პოპულარული აპლიკაციის, Reface-ის თანადამფუძნებელია, ხოლო მოისეენკო გასული ათწლეულის ვირუსული AI ფილტრების აპლიკაციის, Prisma-ს აღმასრულებელი დირექტორი და თანადამფუძნებელი იყო.

როგორც სამომხმარებლო სექტორის დეველოპერები, ორივე მათგანი ჯერ კიდევ გენერაციული AI-ს პოპულარიზაციამდე ფიქრობდა მოწყობილობებზე მომუშავე ხელოვნურ ინტელექტსა და მანქანურ სწავლებაზე. შვეცის თქმით, როდესაც ისინი ლონდონში შეხვდნენ, გააცნობიერეს, რომ AI-ს გარშემო არსებული აჟიოტაჟის ფონზე, ყველა საუბრობს ღრუბლოვან სერვერებზე და ზოგადი ხელოვნური ინტელექტის (AGI) მოახლოებაზე, თუმცა სამომხმარებლო აპარატურისთვის განკუთვნილი ლოკალური AI ის გამოტოვებული რგოლია, რომელიც სისტემას აკლია.

ტექნოლოგიური ინოვაცია და ეფექტურობა

Mirai ამჟამად ავითარებს სპეციალურ ფრეიმვორკს მოდელებისთვის, რათა მათ მოწყობილობებზე უკეთესი წარმადობა ჰქონდეთ. კომპანიამ შექმნა ინფერენსის ძრავა (inference engine) Apple Silicon-ისთვის, რომელიც ოპტიმიზაციას უკეთებს მოწყობილობაზე მონაცემთა გამტარუნარიანობას. ახალი SDK-ის მეშვეობით, დეველოპერებს შეეძლებათ ამ სისტემის ინტეგრირება საკუთარ აპლიკაციებში სულ რამდენიმე ხაზი კოდის დამატებით.

კომპანიის ხედვაა, დეველოპერებს შესთავაზონ Stripe-ის მსგავსი მარტივი გამოცდილება — დაახლოებით რვა ხაზი კოდი, რაც საკმარისი იქნება პლატფორმაზე გასაწევრიანებლად და ტექსტის შეჯამების (summarization), კლასიფიკაციის ან სხვა ფუნქციების გამოსაყენებლად. აღსანიშნავია, რომ ძრავა აგებულია Rust პროგრამირების ენაზე, რაც, სტარტაპის მტკიცებით, მოდელის გენერაციის სიჩქარეს 37%-მდე ზრდის.

მოდელის კონკრეტული პლატფორმისთვის მორგებისას, Mirai არ ცვლის მოდელის წონებს (weights), რაც უზრუნველყოფს იმას, რომ შედეგის ხარისხი არ გაუარესდეს. ამჟამად Mirai-ს ტექნოლოგიური სტეკი ფოკუსირებულია ტექსტურ და ხმოვან მოდალობებზე, თუმცა სამომავლოდ იგეგმება ვიზუალური (vision) მხარდაჭერის დამატებაც.

სამომავლო გეგმები და ბაზრის პერსპექტივა

გუნდმა უკვე დაიწყო მუშაობა წამყვანი მოდელების პროვაიდერებთან და მოლაპარაკებებს აწარმოებს სხვადასხვა ჩიპების მწარმოებლებთან. უახლოეს გეგმებში შედის ძრავის Android სისტემაზე ადაპტირება და ლოკალური ბენჩმარკების გამოშვება, რათა მოდელების შემქმნელებმა შეძლონ მოწყობილობებზე წარმადობის ტესტირება.

შვეცი აღიარებს, რომ ხელოვნურ ინტელექტთან დაკავშირებული ყველა ამოცანის შესრულება ლოკალურად შეუძლებელია. ამიტომ, გუნდი აშენებს ორკესტრაციის შრეს (orchestration layer), რომელიც იმ მოთხოვნებს, რომელთა შესრულებაც მოწყობილობაზე ვერ ხერხდება, ღრუბლოვან სერვერზე გადაამისამართებს. Mirai-ს ძრავას შეუძლია გააძლიეროს ლოკალური ასისტენტები, ტრანსკრიფციის ხელსაწყოები, მთარგმნელები და ჩატ-აპლიკაციები.

Uncork Capital-ის მმართველი პარტნიორი, ენდი მაკლოკლინი აღნიშნავს, რომ ღრუბლოვანი ინფერენსის მაღალი ხარჯების გამო, სიტუაცია აუცილებლად შეიცვლება. მისი თქმით, ვენჩურული კაპიტალისტები ამჟამად სიამოვნებით აფინანსებენ კომპანიებს, რომლებიც კოლოსალურ თანხებს ხარჯავენ ღრუბლოვან სერვერებზე, თუმცა დადგება მომენტი, როდესაც ბიზნესის ეკონომიკური მხარე უფრო მნიშვნელოვანი გახდება. მაკლოკლინის აზრით, ყველა მოდელის შემქმნელს დასჭირდება ინფერენსის ნაწილის ედჯ-ტექნოლოგიებზე (edge) გადატანა, რისთვისაც Mirai საუკეთესო პოზიციაშია.

Mirai-ს საწყის რაუნდში ასევე მონაწილეობდნენ ცნობილი ინდივიდუალური ინვესტორები, მათ შორის:

• დევიდ სინგლტონი (Dreamer-ის აღმასრულებელი დირექტორი);
• ფრანსუა შობარი (YC-ის პარტნიორი);
• მარცინ ჟუკოვსკი (Snowflake-ის თანადამფუძნებელი);
• მატი სტანიშევსკი (ElevenLabs-ის თანადამფუძნებელი);
• გოკულ რაჯარამი (Coinbase-ის საბჭოს წევრი);
• სკუტერ ბრაუნი (Groq-ის ინვესტორი);
• ვიჯაი კრიშნანი (Turing.com-ის ტექნიკური დირექტორი);
• ადიტია ჯამი (Netflix-ის ყოფილი ტექნიკური ლიდერი).