ორშაბათს Amazon Web Services-მა (AWS) წარადგინა ახალი ინსტრუმენტი, სახელწოდებით TorchNeuron, რომელიც ხელოვნური ინტელექტის მიმართულებით მომუშავე სტარტაპებს საშუალებას აძლევს, საკუთარი აპლიკაციები Amazon-ის სპეციალიზებულ AI ჩიპზე, Trainium-ზე მარტივად გადაიტანონ. ამ ნაბიჯით Amazon პირდაპირ უპირისპირდება Nvidia-ს პროგრამულ უპირატესობას, რამაც ეს უკანასკნელი AI აპლიკაციებისთვის აპარატურის ნაგულისხმევ არჩევნად აქცია და მისი, როგორც წამყვანი მომწოდებლის, პოზიციები გაამყარა.
TorchNeuron მუშაობს PyTorch-თან — უფასო, ღია კოდის მქონე ინსტრუმენტების ნაკრებთან, რომელსაც დეველოპერები AI მოდელების შესაქმნელად, მოსამზადებლად და გასაშვებად იყენებენ. Amazon-ის განცხადებით, PyTorch-ზე დაწერილი აპლიკაციების Trainium-ზე გაშვება კონფიგურაციის მხოლოდ ერთი ხაზის შეცვლით არის შესაძლებელი, რაც კოდის ხელახლა დაწერის საჭიროებას გამორიცხავს. კომპანიის მონაცემებით, AI აპლიკაციების დაახლოებით 85% სწორედ PyTorch-ის გამოყენებით იქმნება. თავდაპირველად ის Facebook-მა შეიმუშავა, თუმცა 2022 წლიდან Linux Foundation-ის ნაწილია, რომელიც ღია კოდის მქონე პროექტებს კურირებს.
Nvidia წლების განმავლობაში მუშაობდა იმაზე, რომ მის CUDA პროგრამულ ინფრასტრუქტურას — სისტემას, რომელიც აპლიკაციებს Nvidia-ს გრაფიკულ პროცესორებზე (GPU) მუშაობის საშუალებას აძლევს — შეუფერხებლად დაეჭირა მხარი PyTorch-ზე დაწერილი აპლიკაციებისთვის. შედეგად, Nvidia-ს აპარატურა ამ სისტემაში ღრმად არის ინტეგრირებული. ვინაიდან TorchNeuron ადაპტირებულია PyTorch-დან, დეველოპერებს, რომლებმაც უკვე იციან ეს სისტემა, მისი გამოყენება დამატებითი სწავლის გარეშე შეუძლიათ.
კონკურენცია და AWS-ის ეკოსისტემა
Amazon არ არის პირველი კომპანია, რომელიც საკუთარი ჩიპების პლატფორმაზე მარტივად ინტეგრირებას ცდილობს. PyTorch-ის მომხმარებლებს აპლიკაციების გადატანა AMD-ის გრაფიკულ პროცესორებზე ან თუნდაც Apple-ის ჩიპებზე კონფიგურაციის მარტივი ცვლილებით შეუძლიათ. თუმცა, Amazon ამტკიცებს, რომ Trainium-ზე გადასვლა არა მხოლოდ მარტივია, არამედ სტარტაპებს Amazon-ის მთლიან ღრუბლოვან სერვისებთან წვდომასაც აძლევს.
AWS-ის მტკიცებით, ეს ბევრად უკეთესი არჩევანია სტარტაპებისთვის, ვიდრე ე.წ. „ნეო-ღრუბლების“ (neoclouds) გამოყენება, რომელთაგან ბევრი Nvidia-სა და მის აპარატურაზეა დამოკიდებული (მაგალითად, CoreWeave, Nebius და Firmus).
„თქვენ აშენებთ AWS-ზე. თქვენ არ დებთ ფსონს ვიწრო სპეციალიზაციის მქონე გამოთვლითი სიმძლავრის მომწოდებელზე, რის შემდეგაც ყველაფერი დანარჩენის ნულიდან აწყობა მოგიწევდათ,“ — განაცხადა კოლინ ბრეისმა, AWS Annapurna Labs-ის (Amazon-ის ჩიპების მწარმოებელი დანაყოფი) ტექნოლოგიური პროგრამული უზრუნველყოფის ვიცე-პრეზიდენტმა TechCrunch-თან საუბრისას. „AWS-ზე პროტოტიპიდან წარმოებამდე მისასვლელი ინფრასტრუქტურა უკვე მზადაა, რაც დამფუძნებლებს საშუალებას აძლევს, სწრაფად იმოქმედონ და საჭიროებისამებრ გაფართოვდნენ.“
ეკონომიკური ეფექტიანობა და შესრულება
AWS-ის განმარტებით, ვინაიდან ერთი და იგივე ჩიპი უზრუნველყოფს როგორც მოდელის სწავლებას (training), ისე მის მუშაობას (inference — როდესაც მოდელი მომხმარებლის კითხვებს პასუხობს), ეს სტარტაპებს თანხებს დაუზოგავს. ბრეისის თქმით, Trainium-ის მთავარი ღირებულება ფასისა და წარმადობის ბალანსია, რაც აუმჯობესებს ეკონომიკურ მაჩვენებლებს მთლიანი სამუშაო პროცესის განმავლობაში.
მაგალითად მოყვანილია კომპანია Deepgram — AI ხმოვანი აპლიკაციების მომწოდებელი და ElevenLabs-ის კონკურენტი. მათ Trainium-ზე გადასვლის შემდეგ, წარმოების დონის სიზუსტის შენარჩუნებით, ყოველ დახარჯულ დოლარზე 70%-ით მეტი აუდიო მასალის დამუშავება შეძლეს.
PyTorch-ის გათავისუფლება Nvidia-ს გავლენისგან
Amazon-ის სტრატეგია მხოლოდ საკუთარ აპარატურაზე გადასვლის გამარტივებით არ შემოიფარგლება. კომპანია გეგმავს, PyTorch-ის მთავარ პროექტში შეიტანოს ისეთი ცვლილებები, რომლებიც ჩარჩოს (framework) კონკრეტულ ჩიპებზე დამოკიდებულებისგან გაათავისუფლებს. ბლოგპოსტში, სადაც ახალი ინსტრუმენტი დაანონსდა, კომპანიამ აღნიშნა:
Amazon-ის მიდგომა სცილდება საკუთარ აპარატურას. კომპანია მუშაობს PyTorch-ის საზოგადოებასთან, რათა ამოიღოს კოდი, რომელიც ამ სისტემას კონკრეტულ ჩიპებთან აკავშირებს. მიზანია, PyTorch გახდეს აპარატურის მიმართ ნეიტრალური (hardware-agnostic) მთელი დეველოპერული საზოგადოებისთვის და არა მხოლოდ Trainium-ის მომხმარებლებისთვის.
მიუხედავად იმისა, რომ ეს ტაქტიკა მომგებიანია Nvidia-ს კონკურენტებისთვის, PyTorch-ის ერთ-ერთი მთავარი დანიშნულება სწორედ აპარატურასთან დაკავშირებული სირთულეების დაფარვაა. დრო აჩვენებს, Nvidia-ს გავლენის შემცირება დეველოპერებს მეტ არჩევანსა და ხელმისაწვდომობას მისცემს, თუ დამატებით კონფიგურაციულ სირთულეებს შეუქმნის. ნებისმიერ შემთხვევაში, თუ Amazon შეძლებს PyTorch-ის Nvidia-სგან გამიჯვნას, ამას შესაძლოა ბევრად უფრო დიდი შედეგები ჰქონდეს GPU გიგანტისთვის, ვიდრე უბრალოდ ჩიპების ბაზარზე კონკურენციას. როგორც ბრეისმა აღნიშნა: „მთავარი მიზანი იმ შეზღუდვების მოხსნაა, რომლებიც დეველოპერებს რეალური არჩევანის საშუალებას არ აძლევდა“.
