სტარტაპი Gimlet Labs ხელოვნური ინტელექტის გამოთვლით ბარიერებს ინოვაციური გზით ლახავს

სტენფორდის უნივერსიტეტის მოწვეულმა პროფესორმა და გამოცდილმა ანტრეპრენერმა, ზეინ ასგარმა, სტარტაპ Gimlet Labs-ისთვის A სერიის დაფინანსების ფარგლებში 80 მილიონი დოლარი მოიზიდა. საინვესტიციო რაუნდს Menlo Ventures ხელმძღვანელობდა. კომპანიის მიზანი ხელოვნური ინტელექტის ინფერენსის (inference) პროცესში არსებული შეფერხებების აღმოფხვრაა.

Gimlet Labs-მა შექმნა ტექნოლოგია, რომელსაც თავად „მრავალჩიპიან ინფერენსის ღრუბელს“ (multi-silicon inference cloud) უწოდებს. ეს არის პროგრამული უზრუნველყოფა, რომელიც ხელოვნური ინტელექტის სამუშაო დატვირთვას სხვადასხვა ტიპის აპარატურაზე ერთდროულად ანაწილებს. სისტემას შეუძლია AI აპლიკაციის ამოცანები გაყოს როგორც ტრადიციულ ცენტრალურ პროცესორებზე (CPU) და სპეციალიზებულ გრაფიკულ პროცესორებზე (GPU), ისე მაღალი მეხსიერების მქონე სისტემებზე.

როგორც ზეინ ასგარმა TechCrunch-თან საუბრისას აღნიშნა, ტექნოლოგია მუშაობს ნებისმიერ ხელმისაწვდომ აპარატურაზე. Menlo Ventures-ის პარტნიორი, ტიმ ტალი, განმარტავს, რომ ერთიანი AI აგენტი ხშირად რამდენიმე საფეხურისგან შედგება, რომელთაგან თითოეული სხვადასხვა რესურსს მოითხოვს: ინფერენსი დამოკიდებულია გამოთვლით სიმძლავრეზე, დეკოდირება — მეხსიერებაზე, ხოლო ხელსაწყოების გამოძახება (tool calls) — ქსელურ კავშირზე. ამჟამად არ არსებობს ერთი კონკრეტული ჩიპი, რომელიც ყველა ამ ფუნქციას თანაბარი ეფექტურობით ასრულებს.

რესურსების ოპტიმიზაცია და ეკონომიკური ეფექტი

McKinsey-ის პროგნოზით, თუ მონაცემთა დამუშავების სიმძლავრეებზე მოთხოვნის ზრდის ტენდენცია შენარჩუნდება, 2030 წლისთვის მონაცემთა ცენტრების ხარჯები 7 ტრილიონ დოლარს მიაღწევს. ასგარის თქმით, არსებული აპარატურა ამჟამად მხოლოდ 15-30%-ით არის დატვირთული, რაც ასობით მილიარდი დოლარის რესურსის ფუჭად კარგვას ნიშნავს. Gimlet Labs-ის მიზანია, ხელოვნური ინტელექტის სამუშაო პროცესები დღესვე 10-ჯერ უფრო ეფექტური გახადოს.

სტარტაპის დამფუძნებლებმა — ზეინ ასგარმა, მიშელ ნგუენმა, ომიდ აზიზიმ და ნატალი სერინომ — შექმნეს ორკესტრირების პროგრამული უზრუნველყოფა, რომელიც აგენტურ დატვირთვებს ნაწილებად ყოფს და სხვადასხვა აპარატურაზე ანაწილებს. კომპანიის მტკიცებით, ეს მეთოდი AI ინფერენსს 3-დან 10-ჯერ აჩქარებს, თანაც ხარჯებისა და ენერგიის მოხმარების გაზრდის გარეშე.

ტექნოლოგიური შესაძლებლობები და პარტნიორობა

Gimlet Labs-ის ტექნოლოგიას შეუძლია თავად AI მოდელის დაყოფაც კი, რათა მისი სხვადასხვა ნაწილი სხვადასხვა არქიტექტურის ჩიპებზე გაეშვას. კომპანიას უკვე აქვს პარტნიორობა ისეთ გიგანტებთან, როგორიცაა:

• NVIDIA
• AMD
• Intel
• ARM
• Cerebras
• d-Matrix

პროდუქტი ხელმისაწვდომია როგორც ცალკეული პროგრამული უზრუნველყოფა ან API-ს მეშვეობით Gimlet Cloud-ში. ის განკუთვნილია არა რიგითი დეველოპერებისთვის, არამედ უმსხვილესი AI ლაბორატორიებისა და მონაცემთა ცენტრებისთვის. ოქტომბერში საჯარო გაშვებისას კომპანიამ უკვე დააფიქსირა რვანიშნა შემოსავალი (მინიმუმ 10 მილიონი დოლარი). ბოლო ოთხ თვეში მომხმარებელთა ბაზა გაორმაგდა და მასში შედიან მოდელების მწარმოებელი მსხვილი კომპანია და გიგანტური ქლაუდ-პროვაიდერი.

გუნდი და ფინანსური ისტორია

დამფუძნებლები მანამდე ერთად მუშაობდნენ სტარტაპ Pixie-ში, რომელიც Kubernetes-ისთვის ღია კოდის მონიტორინგის ხელსაწყოს ქმნიდა. Pixie 2020 წელს კომპანია New Relic-მა შეიძინა, მისი გაშვებიდან სულ რაღაც ორ თვეში. ამჟამად Gimlet Labs-ში 30 ადამიანია დასაქმებული.

ბოლო ინვესტიციის ჩათვლით, სტარტაპმა ჯამში 92 მილიონი დოლარი მოიზიდა. ინვესტორებს შორის არიან Sequoia-ს ბილ კოგრანი, სტენფორდის პროფესორი ნიკ მაკკეონი, VMware-ის ყოფილი აღმასრულებელი დირექტორი რაღუ რაღურამი და Intel-ის აღმასრულებელი დირექტორი ლიპ-ბუ ტანი. პროექტში ასევე მონაწილეობენ ფონდები: Factory, Eclipse Ventures, Prosperity7 და Triatomic.