Pramaana Labs-მა 27 მილიონი დოლარი მოიზიდა: ხელოვნური ინტელექტის საიმედოობის უზრუნველყოფა მათემატიკური ვერიფიკაციით

ბიზნესსექტორში ხელოვნური ინტელექტის საპილოტე პროგრამების სრულფასოვან სამუშაო პროცესებად გარდაქმნა ხშირად სირთულეებთან არის დაკავშირებული, რის გამოც სისტემების საიმედოობა მთავარ გამოწვევად იქცა. ახალი სტარტაპი ამ პრობლემის გადაჭრას მათემატიკური ფორმალიზაციის ინსტრუმენტების გამოყენებით გეგმავს. კომპანია ცდილობს გააერთიანოს კომპიუტერული მეცნიერების ერთ-ერთი ყველაზე სანდო სისტემა და ყველაზე ქაოსური ტექნოლოგია.

ოთხშაბათს Pramaana Labs-მა 27 მილიონი აშშ დოლარის ოდენობის საწყისი (seed) დაფინანსების მოზიდვის შესახებ გამოაცხადა. საინვესტიციო რაუნდს Khosla Ventures ხელმძღვანელობდა, მასში ასევე მონაწილეობდნენ Accel, BoldCap, Nexus Venture Partners, Premji Invest და Unbound. Pramaana ფოკუსირებული იქნება ისეთ მაღალი პასუხისმგებლობის სფეროებზე, როგორიცაა სამართალი, მედიკამენტების შექმნა და საგადასახადო დეკლარირება — სფეროები, სადაც შეცდომა ძვირად ფასობს და საიმედოობას გადამწყვეტი მნიშვნელობა აქვს.

ხელოვნური ინტელექტის დანერგვა ამგვარ სისტემებში მოითხოვს გაცილებით ძლიერ დაცვას „ჰალუცინაციებისა“ და შეცდომებისგან, ვიდრე ეს დღეს არის შესაძლებელი. Pramaana-ს თანადამფუძნებელი და აღმასრულებელი დირექტორი, რანჯან რაჯაგოპალანი მიიჩნევს, რომ ეს სფეროები უნიკალურად შეეფერება ფორმალიზაციას. მისი თქმით, საგადასახადო კოდექსი მათემატიკას ჰგავს, რადგან არსებობს უამრავი წესი, რომელთა დაცვაც სავალდებულოა. როგორც კი ამ წესების კოდიფიცირებული ვერსია შეიქმნება, მათზე დაფუძნებული ლოგიკური მსჯელობა დეტერმინირებული ხდება.

ტექნოლოგიური მიდგომა: LLM და დეტერმინირებული შრე

Pramaana-ს სისტემა კვლავ ჩვეულებრივ დიდ ენობრივ მოდელებზე (LLM) მუშაობს, რაც მას საშუალებას აძლევს, უპასუხოს ბუნებრივ ენაზე დასმულ კითხვებს და გადაჭრას რთული ამოცანები, რომლებსაც ტრადიციული კომპიუტერები ვერ უმკლავდებიან. თუმცა, ამ მოდელის თავზე დამატებულია დეტერმინირებული შრე, რომელიც ამოწმებს LLM-ის მიერ შესრულებულ სამუშაოს.

ენობრივი მოდელისა და დეტერმინირებული ვერიფიკაციის კომბინაცია პოპულარული მიდგომაა, თუმცა Pramaana-ს უნიკალურობა ფორმალური ვერიფიკაციის ინსტრუმენტების გამოყენებაში მდგომარეობს. კერძოდ, კომპანია ეყრდნობა ღია კოდის მქონე პროგრამირების ენას — LEAN-ს, რომელიც მათემატიკური მტკიცებულებების დასადასტურებლად გამოიყენება.

რეალური პრეცედენტები და ექსპერტთა ზედამხედველობა

ამ მიდგომას რეალური პრეცედენტი გააჩნია. რაჯაგოპალანი მიუთითებს საფრანგეთის CATALA პროექტზე, რომელმაც ქვეყნის საგადასახადო და სოციალური შეღავათების სისტემის დიდი ნაწილი შესასრულებელ კოდად გარდაქმნა. თითოეული კონკრეტული შემთხვევისთვის Pramaana შექმნის საკუთარ, LEAN-ის სტილის ფორმალური ვერიფიკაციის სისტემას, რომელსაც დარგის ექსპერტები გაუწევენ ზედამხედველობას:

• საგადასახადო სამართალი: კომპანია თანამშრომლობს აშშ-ის საშემოსავლო სამსახურის (IRS) ყოფილ კომისართან, დენი ვერფელთან.
• კიბერუსაფრთხოება და მედიკამენტების შექმნა: სისტემებს ზედამხედველობას უწევენ პროფესორები დელის ტექნოლოგიური ინსტიტუტიდან (IIT Delhi), მადრასის ტექნოლოგიური ინსტიტუტიდან (IIT Madras) და ბერკლის უნივერსიტეტიდან (UC Berkeley).

„მსოფლიოს ყველაზე რთული პრობლემები გადაუჭრელი კი არა, არაფორმალიზებულია. ყველა სფეროს, სადაც შეცდომამ შეიძლება ზიანი მიაყენოს ადამიანის ჯანმრთელობას, ფინანსებს ან თავისუფლებას, თავისი წესები აქვს“, — აცხადებს რაჯაგოპალანი.

მისი ხედვით, ახლა მხოლოდ ამ წესების კოდიფიცირებაა საჭირო, რათა ხელოვნური ინტელექტი კრიტიკულად მნიშვნელოვან სფეროებში საიმედო ინსტრუმენტად იქცეს.