Meta კონტენტის მონიტორინგის ახალ AI სისტემებს ნერგავს და გარე კონტრაქტორებზე დამოკიდებულებას ამცირებს

Meta-მ განაცხადა, რომ იწყებს კონტენტის მონიტორინგის უფრო მოწინავე ხელოვნური ინტელექტის სისტემების დანერგვას. ეს ნაბიჯი მიზნად ისახავს მესამე მხარის მომწოდებლებზე (ვენდორებზე) დამოკიდებულების შემცირებას. კონტენტის კონტროლის პროცესი მოიცავს ისეთ საკითხებს, როგორიცაა ტერორიზმი, ბავშვთა ექსპლუატაცია, ნარკოტიკები, თაღლითობა და სხვადასხვა სახის მაქინაციები.

კომპანიის განმარტებით, ახალი AI სისტემები ყველა აპლიკაციაში მას შემდეგ ამოქმედდება, რაც ისინი არსებულ მეთოდებზე სტაბილურად უკეთეს შედეგებს აჩვენებენ. პარალელურად, Meta გეგმავს მესამე მხარის ვენდორების ჩართულობის შემცირებას კონტენტის მოდერაციის პროცესში.

„მიუხედავად იმისა, რომ კონტენტის განხილვაში ადამიანები კვლავ მიიღებენ მონაწილეობას, ეს სისტემები გადაიბარებენ იმ სამუშაოს, რომელიც ტექნოლოგიებისთვის უფრო შესაფერისია. მაგალითად, გრაფიკული კონტენტის განმეორებითი გადამოწმება ან ისეთი სფეროები, სადაც ბოროტმოქმედები მუდმივად ცვლიან ტაქტიკას, როგორიცაა ნარკოტიკების უკანონო გაყიდვები ან თაღლითობა“, — განმარტავს Meta ოფიციალურ ბლოგპოსტში.

AI სისტემების ეფექტურობა და უპირატესობები

Meta-ს მიაჩნია, რომ ხელოვნური ინტელექტის სისტემებს შეუძლიათ დარღვევების უფრო დიდი სიზუსტით გამოვლენა, თაღლითობის უკეთ პრევენცია, რეალურ მოვლენებზე სწრაფი რეაგირება და ზედმეტი შეზღუდვების (over-enforcement) შემცირება. ადრეულმა ტესტებმა იმედისმომცემი შედეგები აჩვენა:

• სისტემებს შეუძლიათ ორჯერ მეტი ზრდასრულთა სექსუალური ხასიათის შეთავაზების გამოვლენა, ვიდრე ადამიანთა გუნდებს.
• შეცდომების მაჩვენებელი 60%-ზე მეტით შემცირდა.
• გაუმჯობესდა ცნობილი ადამიანების სახელით შექმნილი ყალბი ანგარიშების იდენტიფიცირება და პრევენცია.
• სისტემები ეხმარება ანგარიშების მიტაცების აღკვეთას ისეთი სიგნალების აღმოჩენით, როგორიცაა შესვლა ახალი ლოკაციებიდან, პაროლის შეცვლა ან პროფილის რედაქტირება.

გარდა ამისა, Meta-ს მონაცემებით, სისტემებს დღეში დაახლოებით 5,000 თაღლითური მცდელობის იდენტიფიცირება და აღკვეთა შეუძლიათ, სადაც ბოროტმოქმედები მომხმარებლებისგან შესვლის მონაცემების მოპოვებას ცდილობენ.

ადამიანის როლი და კონტროლი

მიუხედავად ავტომატიზაციისა, ადამიანური რესურსი კვლავ გადამწყვეტ როლს შეასრულებს. „ექსპერტები შეიმუშავებენ, გაწვრთნიან, ზედამხედველობას გაუწევენ და შეაფასებენ ჩვენს AI სისტემებს, გაზომავენ მათ ეფექტურობას და მიიღებენ ყველაზე კომპლექსურ, მაღალი გავლენის მქონე გადაწყვეტილებებს“, — აცხადებს კომპანია. ადამიანები კვლავაც იქნებიან პასუხისმგებელნი კრიტიკულ გადაწყვეტილებებზე, როგორიცაა ანგარიშის გაუქმების გასაჩივრება ან სამართალდამცავ ორგანოებთან თანამშრომლობა.

ეს ცვლილებები ხორციელდება იმ ფონზე, როდესაც Meta ბოლო ერთი წლის განმავლობაში კონტენტის მოდერაციის წესებს ამსუბუქებს, რაც დაემთხვა პრეზიდენტ დონალდ ტრამპის მეორე ვადით არჩევას. გასულ წელს კომპანიამ შეწყვიტა მესამე მხარის ფაქტების გადამოწმების პროგრამა და გადავიდა Community Notes მოდელზე (X-ის მსგავსად). ასევე მოიხსნა შეზღუდვები „მეინსტრიმ დისკურსის ნაწილად ქცეულ თემებზე“ და მომხმარებლებს პოლიტიკური კონტენტისადმი „პერსონალიზებული“ მიდგომისკენ მოუწოდეს.

ამავდროულად, Meta და სხვა ტექნოლოგიური გიგანტები რამდენიმე სასამართლო დავას აწყდებიან, რომლებიც მიზნად ისახავს სოციალური მედიის პასუხისმგებლობის დადგენას ბავშვებისა და ახალგაზრდა მომხმარებლებისთვის მიყენებულ ზიანზე.

ახალი Meta AI მხარდაჭერის ასისტენტი

კომპანიამ ასევე დააანონსა Meta AI მხარდაჭერის ასისტენტის გაშვება, რომელიც მომხმარებლებს 24/7 რეჟიმში დაეხმარება. ასისტენტი ეტაპობრივად ხელმისაწვდომი ხდება გლობალურად Facebook-ისა და Instagram-ის აპლიკაციებში (iOS და Android), ასევე Facebook-ისა და Instagram-ის დახმარების ცენტრებში (Help Center) დესკტოპ ვერსიებზე.