OpenAI-მ Jev-ის ანალოგი წარადგინა: როგორ დაეხმარება Decisions API ავტონომიური აგენტების უსაფრთხოებას

OpenAI-ს სამშაბათს გამართულ Dev Day ღონისძიებაზე ერთ-ერთი ყველაზე საინტერესო სიახლე კომპანიის აღმასრულებელმა დირექტორმა, სემ ალტმანმა გააჟღერა. მან წარადგინა ახალი „Decisions API“, რომელიც ფუნქციონალით ძალიან ჰგავს კომპანია TypeSafe AI-ს მიერ ამავე თვეში გამოშვებულ მოდელს, სახელწოდებით Jev. ეს უკანასკნელი სპეციალურად პროგრამული უზრუნველყოფის ავტომატიზაციისთვის შეიქმნა.

Decisions API წარმოადგენს დიდ ენობრივ მოდელზე (LLM) დაფუძნებულ მძლავრ კლასიფიკატორს. დეველოპერებს შეუძლიათ მოდელს მიაწოდონ არჩევანის ვარიანტები, რის საფუძველზეც ის მაღალი სიჩქარითა და დაბალი დანახარჯებით გასცემს პასუხებს ალბათობების სახით. ღონისძიებაზე ალტმანმა განმარტა, რომ ეს API საშუალებას იძლევა Luna მოდელს მიეცეს წინასწარ განსაზღვრული ოფციები — მაგალითად, გამოსახულების კატეგორიზაციისთვის ან აგენტის ქცევის სხვადასხვა სცენარის ასარჩევად.

„კლონების ომი“ და სისტემური აზროვნება

„მოდელის კონკრეტულ არჩევანზე ფოკუსირებით, ჩვენ შეგვიძლია ის უკიდურესად სწრაფი გავხადოთ, ამასთანავე შევინარჩუნოთ ისეთი შესაძლებლობები, როგორიცაა გამოსახულების აღქმა, ენების ფართო მხარდაჭერა და უსაფრთხოების მექანიზმები“, — აღნიშნა ალტმანმა. TypeSafe-ის აღმასრულებელმა დირექტორმა, დიოგო ალმეიდამ, რომელიც წარსულში OpenAI-ს ინჟინერი იყო, სოციალურ ქსელ X-ში ხუმრობით „კლონების ომის“ დაწყებაზე მიანიშნა.

ალმეიდას თქმით, OpenAI-ს დაინტერესება ამ მიმართულებით მიუთითებს იმაზე, რომ მომავალი „პირველი სისტემის“ (System One) თავსებად ტექნოლოგიებს ეკუთვნის. TypeSafe-ის ტერმინოლოგიით, „პირველი სისტემა“ სწრაფ, ინტუიციურ აზროვნებას გულისხმობს, ხოლო „მეორე სისტემა“ (System Two) — უფრო ნელ, გააზრებულ მსჯელობას. არსებული LLM-ები ხშირად არ არის ოპტიმალური პროგრამული უზრუნველყოფისთვის მათი სიძვირისა და სინელის გამო. დეველოპერები Jev-ს სწორედ LLM-ების გასაძლიერებლად იყენებენ, რაც მუშაობას უფრო სწრაფს და იაფს ხდის.

ეფექტურობა და უსაფრთხოების მონიტორინგი

მიუხედავად იმისა, რომ Decisions API ჯერჯერობით მხოლოდ შეზღუდული წვდომის რეჟიმშია (limited preview), დეველოპერებში ინტერესი დიდია. ბაზარზე სხვა სტარტაპებიც სთავაზობენ მსგავს გადაწყვეტებს, თუმცა მთავარი კითხვა მოდელების სიზუსტესა და რეალურ სამყაროსთან შესაბამისობას ეხება. ალმეიდა მიიჩნევს, რომ მისი კომპანიის უპირატესობა სინთეტიკური მონაცემებია, რომლებიც სტატისტიკურად სასარგებლო შედეგებს იძლევა. „ინტელექტი ყველაზე რთული ნაწილია. ჩემი მიზანია მაქსიმალურად გავზარდო ინტელექტის კოეფიციენტი თითოეულ დახარჯულ დოლარზე“, — განაცხადა მან.

ამ ტიპის მოდელების ერთ-ერთი მთავარი გამოყენების სფერო AI აგენტების მონიტორინგი და უსაფრთხოებაა. OpenAI-მ ბოლო დროს მომხდარი ინციდენტების შემდეგ, როდესაც აგენტები ინტერნეტში არასწორად იქცეოდნენ, ცალკეული მოდელი გამოიყენა მათ გასაკონტროლებლად, რაც დიდ გამოთვლით რესურსებს მოითხოვს. კიბერუსაფრთხოების ექსპერტი შაპორ ნაღიბზადე, რომელიც სტარტაპ QueryStory-ს ხელმძღვანელობს, მიიჩნევს, რომ Jev-ის მსგავსი მოდელები ამ პროცესს ბევრად გააიაფებს.

ნაღიბზადემ შექმნა დემო ვერსია, რომელიც Jev-ის მეშვეობით ამოწმებს აგენტის ყოველ ქმედებას და ბლოკავს მათ, თუ დარწმუნებულია, რომ ისინი დავალებას არ შეესაბამება. თეორიულად, ასეთ მონიტორინგს შეეძლო Hugging Face-ის ინციდენტის თავიდან აცილება. Jev-ის გამოყენებით მსგავსი კონტროლი მხოლოდ $2.94 ჯდება, მაშინ როცა წამყვანი LLM-ების შემთხვევაში ეს ხარჯი $372-ს აღწევს. ეს ფასთა სხვაობა საშუალებას იძლევა, რომ რევიზიის ფენა ყველა ქმედებაზე გავრცელდეს, რაც აგენტების საიმედოობას მნიშვნელოვნად გაზრდის.