Rippling-მა AI-ზე მილიონების დახარჯვის შემდეგ ხარჯების კონტროლისა და ROI-ს საზომი ხელსაწყო შექმნა

HR პროგრამული უზრუნველყოფის პროვაიდერმა Rippling-მა ამ კვირაში წარადგინა AI Spend Console — პროდუქტი, რომელიც კომპანიებს AI-ზე გაწეული ხარჯების თვალყურის დევნებასა და კონტროლში ეხმარება. ხელსაწყოს ერთ-ერთი ყველაზე საინტერესო ფუნქციაა იმის გაანალიზება, თუ რამდენს ხარჯავენ ცალკეული თანამშრომლები, გუნდები თუ პოზიციები და რამდენად პროდუქტიულია ეს ხარჯი, თუ პირიქით — მხოლოდ უხარისხო AI კონტენტის (ე.წ. AI slop) გენერირებას ემსახურება.

კომპანიის განცხადებით, ხელსაწყო აჩვენებს, მაგალითად, „რომელ ინჟინრებს აქვთ AI-ზე მაღალი დანახარჯი მაშინ, როდესაც კოლეგებს ხშირად უწევთ მათი კოდის გადაკეთება“. ეს პროდუქტი მას შემდეგ შეიქმნა, რაც Rippling-მა წლის დასაწყისში AI-ზე დიდი რესურსები მიმართა, თუმცა მალევე აღმოაჩინა, რომ თანამშრომლები კოლოსალურ თანხებს არაეფექტურად ხარჯავდნენ.

პროდუქტების დირექტორი მეტ მაკინისი იხსენებს მარტის თვის შეხვედრას, როდესაც ფინანსურმა დირექტორმა ადამ სვიციკიმ შოკისმომგვრელი მონაცემები წარადგინა. Rippling-ი გეგმავდა R&D (კვლევისა და განვითარების) დეპარტამენტის ბიუჯეტის 40%-ის დახარჯვას მხოლოდ AI ტოკენებზე. ეს ნიშნავდა, რომ ტოკენებზე იმდენივე იხარჯებოდა, რამდენიც ამავე განყოფილების თანამშრომლების ანაზღაურების 40%-ს შეადგენდა — საუბარია მილიონობით დოლარზე. ხარჯები ყოველთვიურად 80%-ით იზრდებოდა და არსებული ტენდენციით, მომდევნო წელს AI ტოკენების ხარჯი თითქმის გაუტოლდებოდა მაღალანაზღაურებადი R&D გუნდის ხელფასებს.

ხარჯების ანალიზი და პრობლემის იდენტიფიცირება

მენეჯმენტმა დაუყოვნებლივ დაიწყო პროექტი ხარჯების მიზნობრიობის დასადგენად. Rippling-ის მიერ ჩატარებულმა ანალიზმა აჩვენა შემდეგი ფაქტები:

• თანამშრომლების დაახლოებით 10-15% აგენერირებდა მთლიანი AI ხარჯების 60%-ს.
• ერთ-ერთი ინჟინერი თვეში 50,000 დოლარს ხარჯავდა AI-ზე.
• თანამშრომლები ავტომატურად იყენებდნენ ყველაზე ახალ და ძვირადღირებულ მოდელებს ნებისმიერი ტიპის დავალებისთვის.

მაკინისის თქმით, Anthropic-ისა და OpenAI-ს მსგავს პროვაიდერებს არ აქვთ მოტივაცია, დაეხმარონ კლიენტებს ხარჯების კონტროლში. პირიქით, მათთვის მომგებიანია ხარჯების ზრდა, რის გამოც ისინი არ სთავაზობენ მომხმარებლებს დეტალურ ანალიტიკას ან ერთმანეთთან კოლაბორაციას ხარჯების ოპტიმიზაციისთვის.

ოპტიმიზაციის სტრატეგია და AI Gateway

პრობლემის მოსაგვარებლად Rippling-მა რამდენიმე ნაბიჯი გადადგა:

1. ლიმიტების დაწესება: კომპანიამ მოლაპარაკებები აწარმოა Cursor-თან, OpenAI-სა და Anthropic-თან ხარჯების მაქსიმალური ზღვრის დასაწესებლად.
2. მოდელების დივერსიფიკაცია: კომპანიამ აღმოაჩინა, რომ სხვადასხვა დავალებისთვის სხვადასხვა ფასის მოდელებია საჭირო. მაგალითად, შიდა ტესტებმა აჩვენა, რომ SpaceX-ის მფლობელობაში არსებული Cursor-ის Grok მოდელი ლიდერი იყო, თუმცა ჩინური GLM 5.2 მოდელი 85%-ით იაფია და თითქმის იდენტურ შედეგს იძლევა კოდირების დავალებებში.
3. AI Gateway-ს დანერგვა: Rippling-მა შექმნა საკუთარი „AI კარიბჭე“ (Gateway), რომელიც ავტომატურად გადაამისამართებს მოთხოვნებს (prompts) კონკრეტული დავალებისთვის ყველაზე ეფექტურ და იაფ მოდელთან.

AI Spend Console-ის მომხმარებლებს შეუძლიათ გამოიყენონ Rippling-ის Gateway ხარჯების სამართავად, თუმცა სხვა Gateway-ს გამოყენების შემთხვევაშიც შესაძლებელია ანალიტიკური დაფების (dashboards) მიღება.

შედეგები და პროდუქტიულობის გაზომვა

ამ ხელსაწყოს დანერგვის შემდეგ, Rippling-მა ტოკენების ხარჯი ბიუჯეტის 40%-დან 15%-მდე შეამცირა, თუმცა AI-ს გამოყენების ინტენსივობა არ შემცირებულა. ივლისში კომპანიამ კვლავ 600 მილიარდი ტოკენი გამოიყენა, მაგრამ ამის ღირებულება აპრილის ხარჯის მხოლოდ 37% იყო. ეს მიიღწევა მოთხოვნების უფრო ეფექტურ მოდელებზე გადამისამართებით — მაგალითად, გაყიდვების გუნდს აღარ ეძლევა უფლება, გამოიყენოს უძვირფასესი მოდელები უბრალო გრამატიკული შესწორებებისთვის.

„ჩვენ უნდა შევძლოთ ტოკენების მოხმარების დაკავშირება პროდუქტიულობასთან. თუ ამას ვერ ვიზამთ, AI-ზე წვდომა ყველა თანამშრომლისთვის ხელმისაწვდომი ვერ დარჩება“, — აცხადებს მაკინისი.

ტექნოლოგიური გადაწყვეტილებების გარდა, კომპანიამ დანიშნა „AI კაპიტნები“ — თანამშრომლები, რომლებიც სხვებს AI-ს ეფექტურად გამოყენებაში ეხმარებიან. ამჟამად მუშაობა მიმდინარეობს AI-ს ინტეგრირებაზე მომხმარებელთა მომსახურების გუნდებში, სადაც სისტემა ავტომატურად დაამუშავებს მონაცემებს, ხოლო Dashboard-ი გაზომავს, რამდენად გაიზარდა მომსახურებული კლიენტების რაოდენობა ამ ტექნოლოგიის დახმარებით.