OpenAI-მ Decisions API ფართოდ ხელმისაწვდომი გახადა: კონკურენცია „გადაწყვეტილების მიმღებ“ მოდელებს შორის მწვავდება

OpenAI-მ თავისი Decisions API მოდელი მომხმარებელთა ფართო წრისთვის პირველად გახადა ხელმისაწვდომი. ამ ნაბიჯით კომპანია შევიდა სწრაფი და იაფი ხელოვნური ინტელექტის ბაზარზე, სადაც ცოტა ხნის წინ სტარტაპი TypeSafe — დაფუძნებული OpenAI-ის ყოფილი მკვლევრის მიერ — 7.6 მილიარდ დოლარად შეფასებულ კომპანიად იქცა.

TypeSafe-ის Jev მოდელმა საფუძველი ჩაუყარა ღრმა სწავლების (deep learning) მოდელების ახალ კატეგორიას, რომლებიც „სუპერ კლასიფიკატორების“ როლს ასრულებენ. მოცემული არჩევანის ვარიანტებიდან მათ შეუძლიათ სწრაფად მიიღონ გადაწყვეტილება და მიუთითონ მისი სარწმუნოობის რეიტინგი. პროგრამული უზრუნველყოფის დეველოპერებმა აღმოაჩინეს, რომ ამ „გადაწყვეტილების მიმღებ“ ან „პირველი სისტემის“ (System One) მოდელებს შეუძლიათ ჩაანაცვლონ დიდი ენობრივი მოდელები (LLM) სხვადასხვა სამუშაო პროცესში, რაც უზრუნველყოფს უფრო მაღალ სიჩქარესა და მნიშვნელოვნად დაბალ ხარჯებს.

ნიკუნჯ ჰანდამ, OpenAI-ის API პროდუქტების ხელმძღვანელმა, TechCrunch-თან საუბრისას აღნიშნა, რომ მისმა კოლეგებმა Jev-ის ნახვის შემდეგ ამ ტექნოლოგიის გამოყენების უამრავი შესაძლებლობა დაინახა. ჰანდას გუნდმა ოპერატიულად იმუშავა საკუთარი ვერსიის შესაქმნელად: სპეციალურად დაკალიბრებული მოდელის აგების ნაცვლად, გუნდმა აიღო ChatGPT Luna და მისი კონფიგურაცია შეცვალა ინფერენციის (inference) დასაჩქარებლად და ხარჯების შესამცირებლად.

სიჩქარის მკვეთრი ზრდა და ახალი შესაძლებლობები

„Decisions API-ს მთავარი მიღწევა სიჩქარეა — რეაგირების დრო 1-3 წამიდან 100, 120 ან 180 მილიწამამდე შემცირდა“, — განაცხადა ჰანდამ. მისივე თქმით, მომავალში შესაძლოა ჩატარდეს სპეციალური წვრთნა მოდელების კიდევ უფრო გასაუმჯობესებლად, თუმცა ამ ეტაპზე სტანდარტული Luna მოდელიც ეფექტურად ასრულებს დაკისრებულ ამოცანას.

კომპანიის დეველოპერების დღეზე, 29 სექტემბერს დაანონსებული Decisions API ყველა მომხმარებლისთვის ხუთშაბათიდან გახდა ხელმისაწვდომი. OpenAI-მ საჯარო ვერსიას დაამატა ახალი ხმოვანი და ვიზუალური მოდალობები და იმუშავა დაყოვნების (latency) შემცირებაზე მსოფლიოს სხვადასხვა რეგიონში ინფერენციის რესურსების გეოგრაფიული მიზნობრიობის მეშვეობით.

პრაქტიკული გამოყენების მაგალითები

საწყის ეტაპზე ისეთმა კლიენტებმა, როგორებიცაა Box, Datadog, Ramp და Speak, API გამოიყენეს OpenAI-ის LLM-ების ჩასანაცვლებლად უფრო მაღალი გამტარუნარიანობის მისაღწევად:

• Speak: AI ენის მასწავლებლების პლატფორმის ტექნიკურმა დირექტორმა, ენდრიუ ჰსუმ აღნიშნა, რომ Decisions API-მ ქმედებებს შორის დრო 1.4 წამიდან 0.13 წამამდე შეამცირა.
• Dots: OpenAI-მ თავად გამოიყენა ეს პროდუქტი საკუთარი ხმოვანი ასისტენტის, Dots-ის რეაგირების სიჩქარის გასაუმჯობესებლად.

ბაზრის კონკურენცია და ბენჩმარკები

ჯერ კიდევ ბუნდოვანია, კონკრეტულად რა ხდის გადაწყვეტილების მოდელს „კარგს“, გარდა იმისა, რომ ის კონკრეტულ მომხმარებელზე უნდა იყოს მორგებული. ოპტიმიზაცია ინტელექტს, ღირებულებას, კალიბრაციასა და სიჩქარეს შორის განსხვავდება სამუშაო დატვირთვის მიხედვით. TypeSafe-ის გენერალური დირექტორი, დიოგო ალმეიდა, სკეპტიკურად უყურებს სტანდარტულ ბენჩმარკებს და მომხმარებლებს ურჩევს, მოდელები საკუთარ სამუშაო პროცესში გამოსცადონ.

მიუხედავად ამისა, TypeSafe-მა გასულ კვირას გამოაქვეყნა საკუთარი რეიტინგები Jev-ის უახლეს მოდელთან ერთად, რომელსაც დაემატა გამოსახულებების მხარდაჭერა და „smart-if“ ფუნქციები. საჯარო ბენჩმარკები, როგორიცაა AIM System One Index და Artificial Analysis Decision Index, უპირატესობას ანიჭებენ Liquid-ის ახალ მოდელს — D1 Ultra-ს და Base Lab-ის Elephant-1-ს. Jev-ის უახლესი მოდელი ამ ინდექსებში მეშვიდე და მესამე ადგილებს იკავებს, ხოლო OpenAI-ის მოდელი — მერვე და მეთოთხმეტე ადგილებს.

საინტერესოა JevMan-ის ბენჩმარკიც, სადაც მოდელები ერთმანეთს PacMan-ის თამაშში ეჯიბრებიან. ამ რეიტინგში Jev-ის ბოლო მოდელი ლიდერობს. Felix Wunderlich-მა, Opper AI-ის ზრდის მიმართულების ხელმძღვანელმა, აღნიშნა, რომ ეს კლასიკური თამაში საინტერესო ტესტია, რადგან ის მოითხოვს სწრაფი და მაღალი რისკის მქონე გადაწყვეტილებების უწყვეტ ნაკადს რამდენიმე ასეულ მილიწამში.

მულტიმოდალობა და მომავლის პერსპექტივა

OpenAI-ის მოდელს შესაძლოა უპირატესობა ჰქონდეს მულტიმოდალობის კუთხით. გამოსახულების კლასიფიკაციისთვის Luna მოდელი საკმაოდ მძლავრია და უკეთეს კალიბრაციას აჩვენებს. ჰანდას თქმით, მომხმარებლებს სურთ, რომ Decisions API უფრო მოქნილი იყოს გამოსახულებების გამომავალ მონაცემებად გამოყენებისას.

სამომავლოდ იგეგმება სიჩქარის კიდევ უფრო გაზრდა, რაც ახალ შესაძლებლობებს გააჩენს. ჰანდა ვარაუდობს, რომ თუ რეაგირების დრო 60 მილიწამამდე შემცირდება, შესაძლებელი გახდება API-ს გამოყენება ვიდეოს თითოეული კადრის დასამუშავებლად. ტექნოლოგიების გაიაფებასთან და აჩქარებასთან ერთად, მოსალოდნელია „ჯევონსის პარადოქსის“ (Jevons paradox) გამოვლინება: რესურსის უფრო ეფექტური გამოყენება მის კიდევ უფრო ფართო გავრცელებას გამოიწვევს.