Meta მოზარდებისთვის AI პერსონაჟებზე წვდომას დროებით ზღუდავს: რა იცვლება პლატფორმაზე

Meta-მ მიიღო გადაწყვეტილება, გლობალურად შეაჩეროს მოზარდების წვდომა ხელოვნური ინტელექტის (AI) პერსონაჟებზე თავის ყველა აპლიკაციაში. კომპანიამ TechCrunch-თან ექსკლუზიურ საუბარში განმარტა, რომ ეს ნაბიჯი არ ნიშნავს პროექტზე უარის თქმას, არამედ მიზნად ისახავს მოზარდებისთვის AI პერსონაჟების უფრო დახვეწილი და უსაფრთხო ვერსიის შექმნას.

ეს გადაწყვეტილება რამდენიმე დღით უსწრებს ნიუ-მექსიკოს შტატში Meta-ს წინააღმდეგ დაგეგმილ სასამართლო პროცესს. კომპანიას ბრალად ედება ბავშვების სექსუალური ექსპლუატაციისგან დაცვის მექანიზმების არასათანადო დანერგვა. პარალელურად, გამოცემა Wired-ის ინფორმაციით, Meta ცდილობდა შეეზღუდა იმ მონაცემების გამჟღავნება, რომლებიც სოციალური მედიის მოზარდების ფსიქიკურ ჯანმრთელობაზე გავლენას ეხება.

გასული წლის ოქტომბერში კომპანიამ წარადგინა მშობელთა კონტროლის ფუნქციები AI პერსონაჟებისთვის, რაც მეურვეებს საშუალებას აძლევდა, თვალი ედევნებინათ საუბრის თემებისთვის და დაებლოკათ კონკრეტული პერსონაჟები. Meta-ს განცხადებით, მშობლებს ასევე ექნებოდათ AI-სთან ჩატების სრული გათიშვის შესაძლებლობა. მიუხედავად იმისა, რომ ამ ფუნქციების გამოშვება მიმდინარე წელს იგეგმებოდა, კომპანიამ ამჟამად სრულიად გათიშა წვდომა მოზარდებისთვის, სანამ სისტემა ახალ ვერსიაზე არ გადავა.

ცვლილებების მიზეზები და უსაფრთხოების ზომები

Meta-ს განმარტებით, გადაწყვეტილება მშობლებისგან მიღებულ უკუკავშირს ეფუძნება, რომლებიც შვილებისა და ხელოვნური ინტელექტის ინტერაქციაზე მეტ კონტროლსა და გამჭვირვალობას ითხოვდნენ. კომპანია აქტიურად მუშაობს მოზარდების წვდომის შეზღუდვაზე AI კონტენტთან. ოქტომბერში Instagram-ზე დაინერგა მშობელთა კონტროლის ფუნქციები, რომლებიც PG-13 ფილმების რეიტინგის მსგავსად მუშაობს და ზღუდავს წვდომას ისეთ თემებზე, როგორიცაა უკიდურესი ძალადობა, სიშიშვლე და ნარკოტიკების მოხმარება.

კომპანიის განახლებულ ბლოგპოსტში ნათქვამია:

„უახლოესი კვირებიდან მოზარდები ვეღარ შეძლებენ AI პერსონაჟებთან წვდომას ჩვენს აპლიკაციებში, სანამ განახლებული ვერსია არ მომზადდება. ეს შეზღუდვა შეეხება ყველას, ვისაც მითითებული აქვს შესაბამისი ასაკი, ასევე მათ, ვისაც სისტემა ასაკის პროგნოზირების ტექნოლოგიით მოზარდად მიიჩნევს“ .

ახალი ვერსიის გამოსვლისას, AI პერსონაჟები აღჭურვილი იქნება ჩაშენებული მშობელთა კონტროლით. კომპანია ირწმუნება, რომ პერსონაჟების პასუხები იქნება ასაკის შესაბამისი და ფოკუსირებული ისეთ პოზიტიურ თემებზე, როგორიცაა განათლება, სპორტი და ჰობი. მნიშვნელოვანია აღინიშნოს, რომ განახლებული ვერსია ხელმისაწვდომი იქნება ყველასთვის და არა მხოლოდ მოზარდებისთვის.

ინდუსტრიული კონტექსტი და სამართლებრივი წნეხი

სოციალური მედიის გიგანტები რეგულატორების მხრიდან მკაცრი მეთვალყურეობის ქვეშ არიან. ნიუ-მექსიკოს საქმის გარდა, Meta-ს მომავალ კვირას კიდევ ერთი სასამართლო პროცესი ელის, სადაც პლატფორმას სოციალურ მედიაზე დამოკიდებულების გამოწვევაში ადანაშაულებენ. მოსალოდნელია, რომ ამ საქმეზე ჩვენებას თავად მარკ ცუკერბერგი მისცემს.

სხვა AI კომპანიებმაც მოუწიათ თავიანთი პროდუქტების მოდიფიცირება მოზარდებისთვის მას შემდეგ, რაც წაეყენათ ბრალდებები თვითდაზიანების წახალისებაში მონაწილეობის შესახებ:

• Character.AI: ოქტომბერში აკრძალა ღია ტიპის საუბრები 18 წლამდე მომხმარებლებისთვის, ნოემბერში კი ბავშვებისთვის ინტერაქციული ისტორიების შექმნის გეგმა დააანონსა.
• OpenAI: ChatGPT-ისთვის დანერგა უსაფრთხოების ახალი წესები მოზარდებისთვის და დაიწყო ასაკის პროგნოზირების ტექნოლოგიის გამოყენება კონტენტის შესაზღუდად.