OpenAI ევროკავშირში ChatGPT-ის ტექსტებზე ფარულ ნიშნებს დაამატებს და API-ს მომხმარებლებს არჩევანის საშუალებას მისცემს

OpenAI ევროკავშირის რეგიონში ChatGPT-ისა და Codex-ის მიერ გენერირებულ ტექსტებში უხილავი ციფრული ნიშნების (watermarking) დანერგვას გეგმავს. ეს გადაწყვეტილება მიზნად ისახავს ხელოვნური ინტელექტის მიერ შექმნილი მასალის იდენტიფიცირების გამარტივებას, რაც განსაკუთრებით მნიშვნელოვანია დეზინფორმაციასთან ბრძოლისა და გამჭვირვალობის გაზრდის კონტექსტში.

აღნიშნული ფუნქცია თავდაპირველად ევროკავშირის წევრ ქვეყნებში მცხოვრები მომხმარებლებისთვის იქნება ხელმისაწვდომი. კომპანია ამ ნაბიჯით პასუხობს რეგიონში არსებულ მკაცრ რეგულაციებს, რომლებიც ხელოვნური ინტელექტის სისტემებისგან მეტ ანგარიშვალდებულებასა და კონტენტის წარმომავლობის მკაფიო მითითებას მოითხოვს.

API მომხმარებლების ჩართულობა და დეტექტორზე წვდომა

API-ს (Application Programming Interface) მომხმარებლებს საშუალება ექნებათ, თავად გადაწყვიტონ, გამოიყენებენ თუ არა ამ ფუნქციას კონკრეტულ მოდელებზე. ეს ნებაყოფლობითი არჩევანი (opt-in) დეველოპერებს საშუალებას აძლევს, თავიანთი პროექტების საჭიროებების მიხედვით მართონ გენერირებული კონტენტის მარკირება.

ტექსტში არსებული ფარული ნიშნების ამოსაცნობად OpenAI სპეციალურ დეტექტორსაც ავითარებს. თუმცა, ამ ინსტრუმენტზე წვდომა ამ ეტაპზე შეზღუდულია და ის მხოლოდ ავტორიზებული მკვლევრებისთვის იქნება ხელმისაწვდომი. ეს მიდგომა კომპანიას საშუალებას აძლევს, ტექნოლოგიის ეფექტურობა კონტროლირებად გარემოში შეამოწმოს და დახვეწოს.

ტესტირების შედეგები და გამოწვევები

OpenAI-მ ჩაატარა შიდა კვლევები, რათა დაედგინა, რამდენად მდგრადია ეს ციფრული ნიშნები სხვადასხვა ტიპის მანიპულაციის მიმართ. ტესტირების შედეგად გამოიკვეთა რამდენიმე მნიშვნელოვანი გარემოება, რომელიც გავლენას ახდენს სისტემის სიზუსტეზე:

• სინონიმებით რედაქტირება: ტექსტში სიტყვების სინონიმებით ჩანაცვლება მნიშვნელოვნად ასუსტებს ფარული ნიშნის აღმოჩენის შესაძლებლობას.
• მოკლე ტექსტები: მცირე მოცულობის პასაჟებში ციფრული ნიშნის ინტეგრირება და შემდგომი იდენტიფიცირება გაცილებით რთულია, ვიდრე ვრცელ სტატიებში.
• ტექსტის მოდიფიკაცია: ნებისმიერი სახის მნიშვნელოვანი სტრუქტურული ცვლილება ან რედაქტირება გავლენას ახდენს მარკირების მდგრადობაზე.

მიუხედავად ამ გამოწვევებისა, OpenAI აგრძელებს მუშაობას ტექნოლოგიის გასაუმჯობესებლად, რათა უზრუნველყოს ხელოვნური ინტელექტის მიერ შექმნილი კონტენტის მაქსიმალური იდენტიფიცირებადობა ევროპულ ბაზარზე.