Anthropic-მა Claude-ის ტექსტური წყლის ნიშნების მუშაობის პრინციპები განმარტა

Anthropic-მა გამოაქვეყნა ბლოგპოსტი, სადაც განმარტავს, თუ როგორ იმუშავებს ჩატბოტ Claude-ის მიერ გენერირებული ტექსტის მარკირება (watermarking). კომპანია პასუხობს ისეთ ფუნდამენტურ კითხვებს, როგორიცაა: როგორ მუშაობს წყლის ნიშანი პრაქტიკაში? შესაძლებელია თუ არა მისი დამალვა რედაქტირებით? და რა გავლენას მოახდენს ეს პროგრამულ კოდზე?

Claude-ის მომხმარებლები ამ სიახლეს აქტიურად განიხილავენ მას შემდეგ, რაც კომპანიამ ევროკავშირის ხელოვნური ინტელექტის აქტის (EU AI Act) გამჭვირვალობის კოდექსთან შესაბამისობის მიზნით წყლის ნიშნების დანერგვა დააანონსა. აღნიშნული რეგულაცია AI კომპანიებისგან მოითხოვს ისეთი სისტემების გამოყენებას, რომლებიც ხელოვნური ინტელექტის მიერ შექმნილი კონტენტის იდენტიფიცირებას შესაძლებელს გახდის.

სოციალურ ქსელებში აზრები ორად გაიყო. მაგალითად, Reddit-ზე ზოგიერთი მომხმარებელი ამ გადაწყვეტილებას „შეთქმულებად“ მიიჩნევს, სხვები კი თვლიან, რომ მარკირების წინააღმდეგი მხოლოდ ის შეიძლება იყოს, ვისაც სხვების მოტყუება სურს. Business Insider-ის ინფორმაციით, პლატფორმა X-ზე ათობით მომხმარებელმა განაცხადა, რომ ამ სიახლის გამო Claude-ის გამოწერას აუქმებს.

როგორ მუშაობს ტექსტის მარკირება?

Anthropic-ის განმარტებით, როდესაც მოდელი აკეთებს „დაბალი რისკის არჩევანს“ — მაგალითად, ამინდის აღწერისას ირჩევს სიტყვებს „მოღრუბლული“ (overcast) ან „ნაცრისფერი“ (grey) — Claude-ს შეუძლია პასუხებში შექმნას გარკვეული კანონზომიერება. ეს შაბლონი მკითხველისთვის შეუმჩნეველია, თუმცა მისი ამოცნობა შესაძლებელია სპეციალური კოდირებული გასაღების მეშვეობით.

„წყლის ნიშანი გავლენას არ ახდენს Claude-ის პასუხების ხარისხზე,“ — აცხადებენ კომპანიაში. „მკითხველისთვის მარკირებული ტექსტი არაფრით განსხვავდება ჩვეულებრივისგან.“

კონკრეტულად, Anthropic გამოიყენებს SynthID-Text მიდგომას, რომელიც Google DeepMind-ის გუნდმა 2024 წელს წარადგინა. კომპანია ასევე გეგმავს წყლის ნიშნების ამომცნობი API-ს გამოშვებას. ხაზგასმით აღინიშნა, რომ ეს მეთოდი განსხვავდება ისეთი კომპანიების მიერ შემოთავაზებული AI დეტექტორებისგან (მაგალითად, Pangram), რომლებიც ტექსტში სპეციფიკურ სტილისტურ მინიშნებებს ეძებენ. ასეთი შაბლონების აღმოჩენა ფუნდამენტურად განსხვავდება წყლის ნიშნის შემოწმებისგან.

შესაძლებელია თუ არა წყლის ნიშნის დამალვა?

Anthropic-ის თქმით, მარკირების დამალვა შესაძლებელია, თუმცა „მცირე რედაქტირება, სავარაუდოდ, სრულად ვერ წაშლის წყლის ნიშანს“. ამისთვის საჭიროა ტექსტის სრული გადაწერა, სადაც თითოეული სიტყვა შეიცვლება. ასეთ შემთხვევაში კი, კომპანიის აზრით, სადავოა, შეიძლება თუ არა ტექსტს კვლავ ეწოდოს ხელოვნური ინტელექტის მიერ გენერირებული.

რაც შეეხება ტექსტებს, რომლებიც Claude-მა მხოლოდ შეამოწმა ან დაარედაქტირა, მარკირების არსებობა დამოკიდებული იქნება ტექსტის სიგრძესა და რედაქტირების ხარისხზე. თუ ცვლილებები მინიმალურია და სიტყვების უმეტესობა ადამიანის დაწერილია, წყლის ნიშნის „მიმაგრების“ შანსი ძალიან მცირეა.

გავლენა პროგრამულ კოდზე

პროგრამულ კოდში წყლის ნიშანი ნაკლებად იქნება გამოყენებული, რადგან მოდელმა უნდა შექმნას მუშა კოდი და მას არ აქვს დიდი თავისუფლება სინტაქსურად სწორ ვარიანტებს შორის არჩევანის გაკეთებისას. თუმცა, იქ, სადაც არჩევანი ნებაყოფლობითია — მაგალითად, კოდის შიგნით არსებულ კომენტარებში — მარკირება შესაძლებელია.

Anthropic-ის განმარტებით, ამას საბოლოო პროდუქტზე უმნიშვნელო გავლენა ექნება. კომპანიამ ასევე აღნიშნა, რომ Claude არ იქნება ერთადერთი ჩატბოტი, რომელიც ამ სისტემას დანერგავს. სხვა მსხვილმა დეველოპერებმაც მოაწერეს ხელი შესაბამის ეთიკის კოდექსს და საკუთარ პლატფორმებზე წყლის ნიშნების დანერგვას გეგმავენ.