OpenAI ევროკავშირში ChatGPT-ის მიერ გენერირებულ ტექსტებზე უხილავ წყლის ნიშნებს დაამატებს

OpenAI ევროკავშირში ChatGPT-ისა და Codex-ის მიერ გენერირებულ ტექსტებზე უხილავი წყლის ნიშნების (watermark) დამატებას იწყებს. კომპანიის განცხადებით, ეს გადაწყვეტილება ევროკავშირის ხელოვნური ინტელექტის შესახებ აქტთან (EU AI Act) შესაბამისობის უზრუნველსაყოფად იქნა მიღებული.

ევროკავშირის ხელოვნური ინტელექტის აქტის გამჭვირვალობის წესები, რომლებიც ძალაში 2 აგვისტოს შევიდა, AI კომპანიებისგან მოითხოვს, რომ ხელოვნური ინტელექტის მიერ შექმნილი კონტენტი ისე მონიშნონ, რომ სხვა სისტემებმა მისი იდენტიფიცირება შეძლონ. OpenAI-ის განმარტებით, წყლის ნიშნები უახლოეს კვირებში ევროკავშირში მყოფი ChatGPT-ისა და Codex-ის ყველა გეგმის მომხმარებლისთვის გახდება ხელმისაწვდომი.

რაც შეეხება დეველოპერებს, რომლებიც OpenAI-ის API-ს მსოფლიოს ნებისმიერ წერტილში იყენებენ, მათ ამ ფუნქციის გააქტიურება გარკვეული მოდელებისთვის უკვე შეუძლიათ, თუმცა ის სტანდარტულად გამორთულია. კომპანია აღნიშნავს, რომ ამ ეტაპზე ტექსტის წყლის ნიშნით მონიშვნას გლობალურ სტანდარტად არ აქცევს.

როგორ მუშაობს ტექსტის წყლის ნიშანი?

წყლის ნიშანი არ წარმოადგენს ვიზუალურ სიმბოლოს. ის მუშაობს მოდელის მიერ სიტყვების შერჩევის პროცესის დახვეწილი ფორმირებით, რაც ქმნის გარკვეულ შაბლონს. მკითხველი ამას ვერ ამჩნევს, თუმცა სპეციალურ დეტექტორს მისი ამოცნობა შეუძლია. ვინაიდან ეს ნიშანი თავად სიტყვებშია ჩაქსოვილი, ის ტექსტთან ერთად გადაადგილდება მისი კოპირებისა და ჩასმის (copy-paste) დროსაც.

OpenAI-ის განცხადებით, წყლის ნიშანი არ ახდენს მომხმარებლის იდენტიფიცირებას და მის გააქტიურებას მოდელების წარმადობაზე მნიშვნელოვანი გავლენა არ მოუხდენია.

ტექნიკური მეთოდი: textGrain

კომპანიამ ამ მეთოდის შესახებ ტექნიკური ანგარიშიც გამოაქვეყნა, რომელსაც textGrain ეწოდება. პენსილვანიის უნივერსიტეტისა და იელის მკვლევარებთან ერთად მომზადებულ ნაშრომში აღწერილია, თუ როგორ გამოიყენება საიდუმლო გასაღები შემდეგი სიტყვის პროგნოზირების დასახარისხებლად. ასობით ასეთი მცირე მინიშნების დაჯამების შემდეგ, დეტექტორს შეუძლია მხოლოდ ტექსტისა და გასაღების გამოყენებით ამოიცნოს AI-ის მიერ გენერირებული კონტენტი.

შეზღუდვები და რედაქტირების გავლენა

შეიძლება თუ არა წყლის ნიშნის მოცილება ტექსტის რედაქტირებით? OpenAI-ის ტესტები აჩვენებს, რომ ეს შესაძლებელია. ერთ-ერთი ექსპერიმენტის დროს, სიტყვების 10%-ის სინონიმებით ჩანაცვლებამ დეტექციის მაჩვენებელი 92%-დან 66%-მდე შეამცირა. კომპანია ასევე აღნიშნავს, რომ რთულია წყლის ნიშნის ამოცნობა მოკლე პასაჟებში, მათემატიკურ ამოცანებსა და ნათარგმნ ტექსტებში.

„ეს შეზღუდვები გახდა მიზეზი იმისა, რომ დეტექტორზე წვდომას თავდაპირველად მხოლოდ ავტორიზებულ მკვლევარებსა და ექსპერტულ ორგანიზაციებს მივცემთ, რომლებიც დაგვეხმარებიან საიმედოობისა და პასუხისმგებლიანი გამოყენების შეფასებაში“, — აცხადებენ კომპანიაში.

OpenAI ასევე აფრთხილებს მომხმარებლებს, რომ წყლის ნიშნის არარსებობა „არ ამტკიცებს ტექსტის ადამიანის მიერ ავტორობას“. ტექსტი შესაძლოა იყოს ძალიან მოკლე, ზედმეტად რედაქტირებული ან სხვა კომპანიის ხელოვნური ინტელექტის მიერ შექმნილი. წყლის ნიშნებს შეუძლიათ მიუთითონ, რომ OpenAI-ის სისტემამ შექმნა ან დაამუშავა ტექსტის ნაწილი, მაგრამ ისინი ვერ განსაზღვრავენ, თუ რა მოცულობის ადამიანური განსჯა, რედაქტირება ან კრეატიულობა ჩაიდო მასში.

ეს გადაწყვეტილება მოჰყვა Anthropic-ის მიერ ორი თვის წინ გაკეთებულ განცხადებას, რომლის მიხედვითაც კომპანია Claude-ის მიერ გენერირებულ ტექსტებს გლობალურად მონიშნავს. Anthropic-ის ამ ნაბიჯმა ზოგიერთი მომხმარებლის უკმაყოფილება გამოიწვია, რომლებიც ამტკიცებდნენ, რომ ინსტრუქციები, კონტექსტი და გადაწყვეტილებები მათ ეკუთვნოდათ, Claude კი მხოლოდ ინსტრუმენტი იყო.

აღსანიშნავია, რომ OpenAI-ს ტექსტის წყლის ნიშანი ადრეც ჰქონდა შექმნილი, თუმცა მის გამოშვებას თავს არიდებდა. 2024 წელს The Wall Street Journal იტყობინებოდა, რომ კომპანიას ჰქონდა შიში, მომხმარებლები გადასულიყვნენ კონკურენტებთან, რომლებიც მსგავს შეზღუდვებს არ აწესებდნენ. ამჟამად Anthropic, Google, Meta, Microsoft და OpenAI იმ კომპანიებს შორის არიან, რომლებმაც აიღეს ვალდებულება, დაიცვან ევროკავშირის პრაქტიკის კოდექსი AI-გენერირებულ კონტენტთან დაკავშირებით.

სტატიებში მოცემული ბმულების საშუალებით პროდუქტის შეძენის შემთხვევაში, შესაძლოა მცირე საკომისიო იქნას გამომუშავებული. ეს გავლენას არ ახდენს სარედაქციო დამოუკიდებლობაზე.