როგორ შეიძლება შეცვალოს ხელოვნური ინტელექტის გადაწყვეტილების მიმღებმა მოდელებმა კონტენტის მოდერაცია

ხელოვნური ინტელექტის ინდუსტრიაში გადაწყვეტილების მიმღები მოდელების (decision models) პოპულარობის ზრდასთან ერთად, კომპანია Musubi-მ მათი გამოყენების ახალი გზა — კონტენტის მოდერაცია შემოგვთავაზა. სამშაბათს კომპანიამ წარადგინა PolicyLM-1.7B, რომელიც რეალურ დროში მოდერაციისთვის შექმნილი მსუბუქი მოდელია და ღია წონებით (open weights) ვრცელდება.

მოდელის მთავარი იდეაა, რომ ჩვეულებრივ ინგლისურ ენაზე დაწერილი კონტენტის პოლიტიკა შეტყობინებებზე 50 მილიწამზე ნაკლებ დროში გამოიყენოს. Musubi-ს მოდელი თავისი ღირებულებითა და სიჩქარით იმ AI კლასიფიკატორების მსგავსია, რომლებიც დღეს სოციალური პლატფორმების უმეტესობას მართავს. თუმცა, რადგან მას თანამედროვე დიდი ენობრივი მოდელების (LLM) მოქნილობა გააჩნია, მას რთული პოლიტიკის გატარება სპეციალური დამატებითი წვრთნის გარეშე შეუძლია.

რაც კიდევ უფრო მნიშვნელოვანია, პოლიტიკის ცვლილების შემთხვევაში მოდელს ხელახალი წვრთნა არ სჭირდება. ეს ადამიანებს, რომლებიც პოლიტიკას ადგენენ, საშუალებას აძლევს, იმდენი ცვლილება შეიტანონ, რამდენიც საჭიროა. Musubi-ს თანადამფუძნებელი და ხელოვნური ინტელექტის მიმართულების ხელმძღვანელი, ფილიპ იანკოვიჩი მიიჩნევს, რომ ეს პლატფორმის მენეჯერებს კონტენტის პროაქტიული მარკირების საშუალებას აძლევს.

„პროდუქტის გუნდებს უბრალოდ სურთ უკეთ გაიგონ, რა ხდება მათ პლატფორმაზე, მით უმეტეს, როდესაც კონტენტის რაოდენობა ექსპონენციალურად იზრდება,“ — აღნიშნავს იანკოვიჩი. „ყველაფერი ამის მარკირება ძალიან მასშტაბირებადი და მორგებადი გზით უკიდურესად სასარგებლოა.“

გადაწყვეტილების მიმღები მოდელების უპირატესობები

გადაწყვეტილების მიმღები მოდელები AI სამყაროში აქტუალური თემა მას შემდეგ გახდა, რაც სექტემბერში TypeSafe AI-მ მოდელი Jev გამოუშვა, რასაც მალევე მოჰყვა OpenAI-სა და Amazon-ის კონკურენტული მოდელები. ტექსტის გენერირების ნაცვლად, გადაწყვეტილების მიმღები მოდელი შედეგის ალბათობებს აჩვენებს. მოცემულ შემთხვევაში, მოდელი ბინარულ გადაწყვეტილებას იღებს: კონტენტი ან მიეკუთვნება კონკრეტულ კატეგორიას, ან არა.

მოდელის გამომავალი მონაცემების წინასწარ განსაზღვრული არჩევანით შეზღუდვა საშუალებას იძლევა, რომ სისტემამ დიდ ენობრივ მოდელებზე სწრაფად და იაფად იმუშაოს, ამასთანავე შეინარჩუნოს ტრანსფორმერული (transformer) არქიტექტურის მოქნილობა. ერთ-ერთი ადრეული გამოყენების შემთხვევა AI აგენტების არასწორი ქცევის შეზღუდვაა, ამიტომ ბუნებრივია იგივე ტექნოლოგიის გამოყენება ადამიანების ქცევის გასაკონტროლებლადაც.

Musubi-ს ხედვა და სამომავლო პერსპექტივები

აღსანიშნავია, რომ იანკოვიჩის ინტერესი გადაწყვეტილების მიმღები მოდელების მიმართ Jev-ის გამოჩენამდე გაჩნდა. ის 2024 წლის პროექტს, GLiNER-ს (Generalist Model for Named Entity Recognition) უკავშირდება, სადაც მრავალი მსგავსი ტექნიკა გამოიყენებოდა. მიუხედავად ამისა, Musubi არ ერიდება შედარებებს. პირიქით, კომპანიას სურს გამოიყენოს ამ მოდელების მიმართ გაზრდილი ინტერესი კონტენტის მოდერაციის საკითხების წინ წამოსაწევად.

„თუ Jev-მა თქვენი ყურადღება მიიპყრო, PolicyLM-1.7B არის იმავე ტიპის მოდელი, რომელიც სპეციალურად კონტენტის მოდერაციისთვისაა გაწვრთნილი და მისი გაშვება თავად შეგიძლიათ,“ — ნათქვამია პროდუქტის შესახებ განცხადებაში.