Anthropic-მა გაამჟღავნა, რა არის ციფრული წყლის ნიშანი და როგორ შეიძლება მისი გვერდის ავლით

Anthropic-მა წარმოადგინა დეტალური ინფორმაცია თავისი ტექსტური წყლის ნიშნის (watermark) ტექნოლოგიის შესახებ, რომელიც ხელოვნური ინტელექტის მიერ გენერირებული ტექსტის იდენტიფიცირებისთვის გამოიყენება. კომპანიამ განმარტა, თუ როგორ მუშაობს ეს სისტემა და რა სუსტი წერტილები გააჩნია მას, რაც მომხმარებლებს საშუალებას აძლევს, გვერდი აუარონ დაცვის ამ მექანიზმს.

ციფრული წყლის ნიშანი არის ფარული სიგნალი, რომელიც ჩაქსოვილია ხელოვნური ინტელექტის მიერ შექმნილ ტექსტში. მისი მიზანია, პროგრამულად შესაძლებელი გახდეს იმის დადგენა, არის თუ არა კონკრეტული შინაარსი AI-ს მიერ გენერირებული. ეს განსაკუთრებით მნიშვნელოვანია დეზინფორმაციასთან ბრძოლისა და კონტენტის ავთენტურობის დასადასტურებლად.

როგორ მუშაობს Anthropic-ის წყლის ნიშანი

ტექნოლოგია ეფუძნება ტექსტის გენერირების პროცესში სიტყვების (ანუ ტოკენების) შერჩევის სპეციფიკურ მეთოდს. ნაცვლად იმისა, რომ AI-მ სრულიად შემთხვევით ან მხოლოდ ალბათობის მიხედვით შეარჩიოს მომდევნო სიტყვა, სისტემა იყენებს მათემატიკურ ალგორითმს, რომელიც გარკვეულ კანონზომიერებას ამკვიდრებს.

• ტოკენების შერჩევა: გენერირებისას სისტემა ანიჭებს უპირატესობას გარკვეულ სიტყვებს, რაც ქმნის სტატისტიკურ „ხელწერას“.
• უხილავობა: ადამიანის თვალისთვის ეს ცვლილებები შეუმჩნეველია და ტექსტი ბუნებრივად იკითხება.
• დეტექცია: სპეციალური ხელსაწყოები აანალიზებენ ტექსტში სიტყვების განლაგებას და ადგენენ, შეესაბამება თუ არა ის წყლის ნიშნის ალგორითმს.

როგორ შეიძლება წყლის ნიშნის დაძლევა

მიუხედავად იმისა, რომ წყლის ნიშანი ეფექტურია პირდაპირი კოპირების შემთხვევაში, Anthropic აღიარებს, რომ მისი „წაშლა“ ან გვერდის ავლით რამდენიმე გზით არის შესაძლებელი. კომპანიამ ჩამოთვალა ძირითადი მეთოდები, რომლებიც ამცირებს დეტექციის სიზუსტეს:

1. პარაფრაზირება: ტექსტის შინაარსის შენარჩუნებით მისი გადაწერა მნიშვნელოვნად ცვლის ტოკენების თანმიმდევრობას, რაც წყლის ნიშანს შლის.
2. რედაქტირება: ტექსტში მნიშვნელოვანი ცვლილებების შეტანა, წინადადებების სტრუქტურის შეცვლა ან ახალი ინფორმაციის დამატება არღვევს ალგორითმულ კანონზომიერებას.
3. თარგმნა: ტექსტის სხვა ენაზე გადაყვანა და შემდეგ უკან თარგმნა (back-translation) სრულად აქრობს თავდაპირველ ციფრულ კვალს.
4. სხვა AI-ს გამოყენება: ერთი მოდელის მიერ გენერირებული ტექსტის მეორე მოდელით (მაგალითად, სხვადასხვა პარამეტრებით) გადამუშავება ასევე ეფექტურია დაცვის მოსახსნელად.

Anthropic-ის განცხადებით, წყლის ნიშანი არ არის აბსოლუტური თავდაცვის გარანტია, არამედ ეს არის უსაფრთხოების ერთ-ერთი შრე, რომელიც სხვა ინსტრუმენტებთან ერთად უნდა იქნას გამოყენებული ხელოვნური ინტელექტის პასუხისმგებლიანი გამოყენებისთვის.