Anthropic-ი ხელოვნური ინტელექტის მოდელების ავთენტურობის დასადასტურებლად ახალ სისტემას ქმნის

Anthropic-ი მუშაობს ღია კოდის მქონე სისტემაზე, რომელიც საშუალებას იძლევა გადამოწმდეს, თუ რომელმა ხელოვნური ინტელექტის მოდელმა შექმნა კონკრეტული პასუხი. სამშაბათს გამოქვეყნებული ბლოგპოსტის თანახმად, სისტემას FlashProve ეწოდება და მისი მიზანი AI ინდუსტრიაში გამჭვირვალობის გაზრდაა.

FlashProve შექმნილია იმისთვის, რასაც მკვლევრები „დასაბუთებად დასკვნას“ (provable inference) უწოდებენ. ეს არის კრიპტოგრაფიული მტკიცებულება — ფაქტობრივად მათემატიკური გარანტია — რომ კონკრეტული შედეგი ნამდვილად სპეციფიკური მოდელისგან მომდინარეობს. სისტემა მომხმარებლებს საშუალებას აძლევს დარწმუნდნენ, რომ მათ მიერ მიღებული პასუხი ნამდვილად იმ მოდელის გენერირებულია, რომლის გამოყენებასაც ისინი აპირებდნენ.

ეს მექანიზმი ელექტრონული ფოსტის კრიპტოგრაფიული ხელმოწერების მსგავსია, რაც ადრესატს საშუალებას აძლევს დაადასტუროს, რომ შეტყობინება ნამდვილად მითითებული გამომგზავნისგანაა. FlashProve ეფექტური იქნება იმ შემთხვევებშიც კი, როდესაც ვინმე შეეცდება ერთი მოდელი მეორედ გაასაღოს, მაშინაც კი, თუ ამას თავად მოდელის შემქმნელი ლაბორატორია ცდილობს.

თაღლითობის პრევენცია და ხარჯების ოპტიმიზაცია

მკვლევრები აღნიშნავენ, რომ სისტემა შეიძლება გამოყენებულ იქნას AI კომპანიების მხრიდან არაკეთილსინდისიერი ქმედებების აღსაკვეთად. კერძოდ, ის ხელს შეუშლის კომპანიებს, ფარულად ჩაანაცვლონ ძვირადღირებული მოდელები უფრო იაფი ალტერნატივებით ხარჯების შესამცირებლად, ან პირიქით — გამოიყენონ უფრო ძლიერი მოდელები საკუთარი პროდუქტის მუშაობის შედეგების ხელოვნურად გასაუმჯობესებლად.

FlashProve ასევე გამოდგება მესამე მხარის მიერ გაკეთებული განცხადებების გადასამოწმებლად. მკვლევრები განმარტავენ:

„დეველოპერმა შეიძლება განაცხადოს, რომ მისმა პროგრამულმა ბიბლიოთეკამ კიბერუსაფრთხოების მოწინავე მოდელით შემოწმება გაიარა, ან კომპანიამ შეიძლება თქვას, რომ მის ბიზნესგეგმას თანხმობა შესაბამისმა მოდელმა მისცა. როგორ შეუძლია მომხმარებელს ამ განცხადებების სისწორეში დარწმუნება?“

ტექნიკური მუშაობის პრინციპი და კონფიდენციალურობა

სისტემის ფუნქციონირებისთვის AI ლაბორატორიებმა უნდა გამოაქვეყნონ თითოეული მოდელის „ციფრული ანაბეჭდი“ (fingerprint), რომელიც მოგვიანებით კონკრეტულ პასუხებს შეედარება და კრიპტოგრაფიულად გადამოწმდება. მნიშვნელოვანია, რომ ეს ანაბეჭდები არ ამჟღავნებს მოდელის „წონებს“ (weights) — შიდა პარამეტრებს, რომლებიც განსაზღვრავენ მოდელის ქცევას და რომლებსაც ისეთი კომპანიები, როგორიცაა Anthropic-ი და OpenAI, მკაცრად ასაიდუმლოებენ.

ეს ნიშნავს, რომ ლაბორატორიებს შეუძლიათ გამოაქვეყნონ ანაბეჭდები თავიანთი ყველაზე ღირებული აქტივების გამჟღავნების გარეშე, რაც სისტემას კომერციული მოდელებისთვისაც ხელმისაწვდომს ხდის. გარდა ამისა, FlashProve შექმნილია როგორც მსუბუქი სისტემა, რაც საშუალებას იძლევა გადამოწმების პროცესი ლოკალურ მოწყობილობებზეც განხორციელდეს.

ხელმისაწვდომობა და სამომავლო გეგმები

განცხადების ფარგლებში, მკვლევრებმა გამოაქვეყნეს დეტალური ტექნიკური სპეციფიკაცია და სისტემის სხვადასხვა ელემენტის სამუშაო კოდი, რომელიც საჯაროდ ხელმისაწვდომია GitHub-ზე ღია კოდის ლიცენზიით. მიუხედავად ამისა, სისტემაზე მუშაობა კვლავ გრძელდება და Anthropic-ს ან სხვა ლაბორატორიებს მისი დაუყოვნებლივ დანერგვის გეგმა ამ ეტაპზე არ აქვთ.

„ეს პოსტი ემსახურება შუალედური პროგრესის გაზიარებას და არა დასრულებული კვლევითი დღის წესრიგის წარდგენას. ჩვენ ამას ვაკეთებთ იმ მიზნით, რომ სხვებმა ნახონ ჩვენი ნამუშევარი, გამოიყენონ იგი და გააუმჯობესონ“, — განმარტავენ მკვლევრები.