ChatGPT მომხმარებლების ასაკის პროგნოზირებას იწყებს: OpenAI-ს ახალი ზომები არასრულწლოვანთა დასაცავად

OpenAI-მ ChatGPT-ში „ასაკის პროგნოზირების“ ახალი ფუნქცია დანერგა, რომელიც არასრულწლოვანი მომხმარებლების იდენტიფიცირებასა და მათთვის კონტენტის გონივრული შეზღუდვების დაწესებას ისახავს მიზნად. ეს გადაწყვეტილება ხელოვნური ინტელექტის ახალგაზრდებზე ზეგავლენის შესახებ მზარდი შეშფოთების ფონზე იქნა მიღებული.

ბოლო წლებში OpenAI არაერთხელ გახდა კრიტიკის ობიექტი იმ გავლენის გამო, რაც ChatGPT-ს ბავშვებზე შეიძლება ჰქონდეს. რამდენიმე შემთხვევა მოზარდების სუიციდსაც კი დაუკავშირდა. გარდა ამისა, სხვა AI მომწოდებლების მსგავსად, კომპანია გააკრიტიკეს იმის გამოც, რომ ჩატბოტი ახალგაზრდა მომხმარებლებთან სექსუალური ხასიათის თემებს განიხილავდა. გასულ აპრილში კომპანიას მოუწია ხარვეზის გამოსწორება, რომელიც 18 წლამდე მომხმარებლებისთვის ეროტიკული შინაარსის ტექსტების გენერირების საშუალებას იძლეოდა.

არასრულწლოვანთა უსაფრთხოების საკითხზე მუშაობა OpenAI-სთვის სიახლე არ არის, თუმცა „ასაკის პროგნოზირების“ ფუნქცია არსებულ დამცავ მექანიზმებს კიდევ უფრო აძლიერებს. სამშაბათს გამოქვეყნებულ ბლოგპოსტში კომპანიამ განმარტა, რომ ახალი ფუნქცია იყენებს ხელოვნური ინტელექტის ალგორითმს, რომელიც აანალიზებს მომხმარებლის ანგარიშის კონკრეტულ „ქცევით და ანგარიშის დონის სიგნალებს“.

როგორ მუშაობს ასაკის პროგნოზირების მექანიზმი

მომხმარებლის ასაკის დასადგენად სისტემა რამდენიმე ფაქტორს ითვალისწინებს, რომლებსაც კომპანია „სიგნალებს“ უწოდებს:

• მომხმარებლის მიერ მითითებული ასაკი;
• ანგარიშის არსებობის ხანგრძლივობა;
• დღის ის მონაკვეთები, როდესაც ანგარიში ჩვეულებრივ აქტიურია.

კომპანიას უკვე აქვს კონტენტის ფილტრები, რომლებიც 18 წლამდე მომხმარებლებისთვის სექსის, ძალადობისა და სხვა პოტენციურად პრობლემური თემების შესახებ დისკუსიებს ზღუდავს. თუ ასაკის პროგნოზირების მექანიზმი დაადგენს, რომ მომხმარებელი არასრულწლოვანია, ეს ფილტრები ავტომატურად ამოქმედდება.

შეცდომით იდენტიფიცირებული ანგარიშების აღდგენა

იმ შემთხვევაში, თუ მომხმარებელი შეცდომით მიიჩნიეს არასრულწლოვნად, არსებობს „ზრდასრული“ სტატუსის აღდგენის გზა. OpenAI-ს განცხადებით, მომხმარებელს შეუძლია გაიაროს იდენტიფიკაცია კომპანიის პარტნიორ პლატფორმა Persona-ს მეშვეობით.

ასაკის დასადასტურებლად მომხმარებელმა უნდა წარადგინოს სელფი (თვითფოტო) პირადობის დამადასტურებელ დოკუმენტთან ერთად, რის შემდეგაც ანგარიშზე არსებული შეზღუდვები მოიხსნება.