Anthropic-ის მკვლევარმა თვითგაუმჯობესებადი ხელოვნური ინტელექტის მუშაობის პრინციპი წარმოადგინა

ხელოვნური ინტელექტის მოდელების სხვა AI მოდელების მეშვეობით წვრთნა თანამედროვე ლაბორატორიების ერთ-ერთი მთავარი მიზანი გახდა. Anthropic-ის მკვლევართა პროგრამის ფარგლებში მომუშავე სპეციალისტმა ახლახან გამოაქვეყნა ნაშრომი, რომელიც ამ პროცესის პრაქტიკულ მხარეს აღწერს.

Anthropic-ის ახალ ნაშრომში, სახელწოდებით „ავტომატიზებულ მკვლევარებს შეუძლიათ საიმედოდ აღმოფხვრან შესაბამისობის (alignment) ხარვეზები“, დეტალურად არის აღწერილი, თუ როგორ შეუძლიათ AI სისტემებს გააუმჯობესონ მოდელის მუშაობა სპეციფიკურ ტესტებში. 10 სხვადასხვა ბენჩმარკის გამოყენებისას, ავტომატიზებულმა სისტემებმა შეძლეს შედეგების გაუმჯობესება თითოეულ მათგანში, ისე რომ მოდელის საერთო წარმადობა არ დაზიანებულა.

Anthropic-ის მკვლევარის, ჩენ იუე-ჰანის (Chen Yueh-Han) ხელმძღვანელობით შექმნილი სისტემა დიდწილად იმეორებს კვლევის ტრადიციულ მიდგომას. თითოეული ავტომატიზებული სისტემა მუშაობს შემდეგი ეტაპების მიხედვით:

• იძიებს ხელმისაწვდომ სამეცნიერო ლიტერატურას;
• გვთავაზობს კვლევის კონკრეტულ მეთოდს;
• ამ მეთოდის გამოყენებით წვრთნის მოდელს 30 წუთის განმავლობაში;
• რამდენიმე იტერაციის შემდეგ თანდათან ზრდის ბენჩმარკის მაჩვენებელს.

ეფექტური მეთოდები ნარჩუნდება, ხოლო არაეფექტური — უარიყოფა, რაც სისტემას საშუალებას აძლევს იმუშაოს სწრაფად და მასშტაბურად. ნაშრომის თანახმად, ეს შედეგები იძლევა ადრეულ მტკიცებულებას იმისა, რომ ავტომატიზებული შესაბამისობის წვრთნა (automated alignment post-training) შესაძლოა უახლოეს მომავალში პრაქტიკულად გამოსაყენებელი გახდეს.

ეს კვლევა მნიშვნელოვანი ნაბიჯია რეკურსიული თვითგაუმჯობესებისკენ, რასაც ბევრი ექსპერტი ხელოვნური ინტელექტის განვითარების შემდეგ მნიშვნელოვან ეტაპად მიიჩნევს. თუ მოდელებს შეუძლიათ საკუთარი შესაბამისობის წვრთნის გაუმჯობესება, სავარაუდოა, რომ ისინი შეძლებენ წვრთნის პრაქტიკის უფრო ფართო მასშტაბით დახვეწასაც. ამ შემთხვევაში, ადამიანური რესურსი AI კვლევებში შესაძლოა მალე ნაკლებად საჭირო გახდეს.

ნაშრომში ავტომატიზებული შესაბამისობის მკვლევარი (AAR) პირდაპირ არის შედარებული მის ადამიანურ ეკვივალენტთან. ავტორების თქმით, ადამიანის მიერ მართული კვლევის მიმართულებები ყოველთვის არ იძლევა საუკეთესო შედეგს.

„საუკეთესო AAR მეთოდი საშუალოდ ექვს საათში სჯობნის გამოცდილი ადამიანების მიერ შემოთავაზებულ ვარიანტებს. ადამიანის მიერ მართული კვლევის მიმართულებები არ იწვევს უფრო ძლიერ წარმადობას“, — ნათქვამია ნაშრომში.

გარდა ეფექტურობისა, ნაშრომში მოყვანილია ხარჯების შედარებაც: AAR-ის მუშაობა API-ს მეშვეობით საათში დაახლოებით 4 დოლარი ჯდება, მაშინ როცა ადამიან მკვლევარებს საათში საშუალოდ 150 დოლარს უხდიან.

თუმცა, კვლევაში აღნიშნულია გარკვეული შეზღუდვებიც. ავტომატიზებული სისტემა ეფექტურია მხოლოდ მანამ, სანამ ბენჩმარკები ზუსტად ასახავს რეალურ მიზნებს. გარდა ამისა, საჭიროა მნიშვნელოვანი სამუშაოს შესრულება ამ ბენჩმარკების შესაქმნელად და შესანარჩუნებლად, ისევე როგორც იმ ლიტერატურის ბაზის გასაფართოებლად, რომელსაც ავტომატიზებული მკვლევარები ეყრდნობიან.