Niv-AI ბაზარზე გამოდის: სტარტაპი GPU-ების სიმძლავრის ოპტიმიზაციას და ენერგიის დანაკარგების შემცირებას გეგმავს

ელექტროენერგია ხელოვნური ინტელექტის განვითარების ერთ-ერთი უმნიშვნელოვანესი რესურსია. თუმცა, დამუშავების ახალი ტექნიკები ხშირად აჭარბებს მონაცემთა ცენტრების ოპერატორების შესაძლებლობებს, მართონ ელექტროქსელთან ურთიერთქმედება. ეს მათ აიძულებს, სიმძლავრე 30%-მდე შეამცირონ (throttle down).

Nvidia-ს აღმასრულებელმა დირექტორმა, ჯენსენ ჰუანგმა, კომპანიის ყოველწლიურ GTC კონფერენციაზე აღნიშნა, რომ AI ქარხნებში უამრავი ენერგია იხარჯება ფუჭად. კომპანიის განცხადებით, „ყოველი გამოუყენებელი ვატი დაკარგული შემოსავალია“.

ამ პრობლემის მოსაგვარებლად, სტარტაპი Niv-AI საჯარო ხდება და 12 მილიონი დოლარის მოცულობის საწყის (seed) დაფინანსებას აანონსებს. კომპანია მიზნად ისახავს GPU-ების მიერ ენერგიის მოხმარების ზუსტ გაზომვას ახალი სენსორების მეშვეობით და მათი ეფექტური მართვის ინსტრუმენტების შექმნას. თელ-ავივში ბაზირებული სტარტაპი გასულ წელს დააარსეს აღმასრულებელმა დირექტორმა ტომერ ტიმორმა და ტექნიკურმა დირექტორმა ედვარდ კიზისმა. პროექტს მხარს უჭერენ Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward და Aurora Capital Partners. კომპანიამ საკუთარი საბაზრო ღირებულების (valuation) გამჟღავნებაზე უარი თქვა.

როდესაც მოწინავე ლაბორატორიები ათასობით GPU-ს ერთდროულად იყენებენ რთული მოდელების მოსამზადებლად, ხშირად წარმოიქმნება ენერგიის მოთხოვნის მწვავე ნახტომები მილიწამების დონეზე. ეს ხდება მაშინ, როდესაც პროცესორები გამოთვლითი ამოცანებიდან სხვა GPU-ებთან კომუნიკაციაზე გადადიან. ასეთი ნახტომები მონაცემთა ცენტრებისთვის ელექტროქსელიდან მიღებული ენერგიის მართვას ართულებს.

იმისათვის, რომ ელექტროენერგიის დეფიციტი თავიდან აიცილონ, მონაცემთა ცენტრები ან იხდიან ენერგიის დროებითი შენახვის საფასურს, ან ზღუდავენ GPU-ების გამოყენებას. ორივე შემთხვევაში, ძვირადღირებულ ჩიპებში ჩადებული ინვესტიციის უკუგება მცირდება. „ჩვენ უბრალოდ ვერ გავაგრძელებთ მონაცემთა ცენტრების მშენებლობას იმავე მეთოდებით, რომლებითაც ახლა ვაშენებთ“, — აცხადებს ლიორ ჰანდელსმანი, Grove Ventures-ის პარტნიორი და Niv-AI-ს საბჭოს წევრი.

Niv-AI-ს სამოქმედო გეგმა და ტექნოლოგია

კომპანიის სტრატეგია რამდენიმე ძირითად ეტაპს მოიცავს, რაც მონაცემთა ცენტრების ენერგოეფექტურობის გაზრდას ისახავს მიზნად:

• მონაცემთა შეგროვება: პირველი ნაბიჯი არსებული მდგომარეობის შესწავლაა. კომპანია ნერგავს სენსორებს, რომლებიც მილიწამების სიზუსტით აფიქსირებენ ენერგიის მოხმარებას GPU-ებზე.
• ანალიზი: მიზანია სხვადასხვა ღრმა სწავლების (deep learning) ამოცანის სპეციფიკური ენერგოპროფილების გაგება.
• ოპტიმიზაცია: ისეთი მეთოდების შემუშავება, რომლებიც მონაცემთა ცენტრებს არსებული რესურსების სრულად ათვისების საშუალებას მისცემს.
• AI მოდელის შექმნა: ინჟინრები გეგმავენ შეგროვებულ მონაცემებზე დაყრდნობით შექმნან ხელოვნური ინტელექტის მოდელი, რომელიც მონაცემთა ცენტრის მასშტაბით ენერგეტიკული დატვირთვის პროგნოზირებასა და სინქრონიზაციას მოახდენს — ერთგვარი „Copilot“ ინჟინრებისთვის.

Niv-AI ვარაუდობს, რომ უახლოესი 6-8 თვის განმავლობაში მათ სისტემას აშშ-ის რამდენიმე მონაცემთა ცენტრში აამუშავებენ. ეს იდეა განსაკუთრებით მიმზიდველია იმ კომპანიებისთვის, რომლებიც ახალი ცენტრების მშენებლობისას მიწის გამოყენებისა და მიწოდების ჯაჭვის პრობლემებს აწყდებიან. დამფუძნებლები თავიანთ პროდუქტს განიხილავენ, როგორც „ინტელექტუალურ ფენას“, რომელიც მონაცემთა ცენტრებსა და ელექტროქსელს შორის არსებულ ნაპრალს შეავსებს.

„ელექტროქსელს რეალურად ეშინია, რომ მონაცემთა ცენტრი კონკრეტულ მომენტში ზედმეტ ენერგიას მოიხმარს“, — განუცხადა ტიმორმა TechCrunch-ს. „ჩვენი მიზანია, ერთის მხრივ, დავეხმაროთ მონაცემთა ცენტრებს მეტი GPU-ს გამოყენებაში და უკვე გადახდილი ენერგიის ეფექტურად ათვისებაში, ხოლო მეორეს მხრივ, შევქმნათ ბევრად უფრო პასუხისმგებლიანი ენერგოპროფილები ქსელთან მიმართებით“.