Claude-ის ახალი „წყლის ნიშნები“: რატომ არიან უკმაყოფილო მომხმარებლები Anthropic-ის გადაწყვეტილებით?

კომპანია Anthropic-მა მიიღო გადაწყვეტილება Claude-ის მიერ გენერირებულ ტექსტებში „წყლის ნიშნები“ (watermarks) დაამატოს. ეს გულისხმობს ჩატბოტის მიერ შექმნილ სარედაქციო ტექსტებში უხილავი კოდის ჩასმას, რომელიც მას ხელოვნური ინტელექტის მიერ გენერირებულად ნიშნავს. Anthropic-მა ეს ახალი პოლიტიკა ევროკავშირის ხელოვნური ინტელექტის აქტის (EU AI Act) გამჭვირვალობის კოდექსის დასაკმაყოფილებლად დანერგა. აღნიშნული რეგულაცია ტექნოლოგიურ კომპანიებს ავალდებულებს, მონიშნონ AI-ს მიერ გენერირებული ან რედაქტირებული კონტენტი ისე, რომ მისი იდენტიფიცირება კომპიუტერული სისტემებისთვის შესაძლებელი იყოს.

მიუხედავად იმისა, რომ ევროპელი რეგულატორები ამ ნაბიჯით შესაძლოა კმაყოფილნი იყვნენ, ხელოვნური ინტელექტის მომხმარებელთა ნაწილი აშკარა უკმაყოფილებას გამოთქვამს. Reddit-ზე გამართული დისკუსიები მოწმობს მზარდ პროტესტს, თუმცა პლატფორმის სხვა მომხმარებლები ამ პოზიციას არ იზიარებენ. ერთ-ერთი ყველაზე ემოციური პოსტი მომხმარებელ visionode-ს ეკუთვნის, რომლის არგუმენტითაც, წყლის ნიშნების ახალი სისტემა არის „დრაკონული შეთქმულება“, რომელიც მიზნად ისახავს ჩატბოტის უდანაშაულო მომხმარებლების მსხვერპლად ქცევას მთელ მსოფლიოში.

Visionode-ის ძირითადი მოსაზრება მდგომარეობს იმაში, რომ სანამ გამოცდილი მომხმარებლები შეძლებენ AI-ს გამოყენების კვალის დაფარვას პერაფრაზირებით ან სხვა AI სერვისების მეშვეობით ტექსტის დამუშავებით, Claude-ის რიგითი მომხმარებლები აუცილებლად „გამოიჭერენ“. მისი თქმით:

„ვინ აღმოჩნდება დარტყმის ქვეშ? თქვენ. სტუდენტი, რომელმაც Claude აბზაცის რეორგანიზაციისთვის გამოიყენა. ჟურნალისტი, რომელმაც AI-ს ორასგვერდიანი ტრანსკრიპტის შეჯამება სთხოვა. მწერალი, რომელსაც შემოქმედებითი კრიზისი ჰქონდა და სინონიმები იკითხა. ამ ადამიანებს პროცესის დასრულებისას შუბლზე ციფრული დაღი დაესმებათ“.

თუმცა, ბევრი მიიჩნევს, რომ ეს მაგალითები არ არის ყველაზე დამაჯერებელი. ჟურნალისტი, რომელიც AI-ს 200-გვერდიანი ტრანსკრიპტის შეჯამებას სთხოვს, არ უნდა შეწუხდეს ამ შეჯამებაზე მიბმული წყლის ნიშნით, თუ ის ამ ტექსტს პირდაპირ, უცვლელად არ აკოპირებს თავის სტატიაში — რაც არაეთიკურია. ანალოგიურად არაეთიკურია სტუდენტის ქმედებაც, რომელიც Claude-ის მიერ „რეორგანიზებულ“ აბზაცს საკუთარ ესეში უცვლელად სვამს.

Reddit-ის სხვა მომხმარებლებმაც არ გამოხატეს განსაკუთრებული მხარდაჭერა ამ პროტესტის მიმართ. ერთ-ერთმა მათგანმა ავტორს „ღრმად ჩასუნთქვა“ ურჩია. მიუხედავად ამისა, visionode არ იყო ერთადერთი უკმაყოფილო. კიდევ ერთმა მომხმარებელმა წყლის ნიშნებს „არაეთიკური“ და „ამაზრზენი“ უწოდა და აღნიშნა, რომ Claude-ის გამოყენებისას სამუშაოს ლომის წილი თავად შეასრულა, ჩატბოტი კი მხოლოდ „ინსტრუმენტი“ იყო, რომელმაც მისი მძიმე შრომა გაამარტივა.

„მე მივეცი ინსტრუქციები, კონტექსტი, მივიღე გადაწყვეტილებები და უამრავი შესწორება შევიტანე, Claude კი მხოლოდ ინსტრუმენტი იყო. თუ Claude იწყებს კოდის ან სხვა გენერირებული პროდუქტის მარკირებას, კონკრეტულად რაზე აცხადებს ის პრეტენზიას?“ — კითხულობს მომხმარებელი.

ამ კრიტიკასაც სხვა მომხმარებლების მხრიდან მყისიერი პასუხი მოჰყვა. ერთ-ერთმა მათგანმა აღნიშნა, რომ საუბარია არა ავტორობაზე, არამედ AI-ს მიერ გენერირებული პროდუქტის იდენტიფიცირებაზე იმ რისკების გამო, რაც ასეთ კონტენტს სხვადასხვა სიტუაციაში შეიძლება ახლდეს. მეორემ კი იხუმრა, რომ მომხმარებელმა Claude-ზე საჩივარიც კი თავად Claude-ის დახმარებით დაწერა.

ზოგიერთმა კრიტიკოსმა გვერდი აუარა „მსხვერპლის ნარატივს“ და უფრო ნიუანსირებული არგუმენტები წამოაყენა Anthropic-ის ახალი პოლიტიკის წინააღმდეგ. მაგალითად, ერთ-ერთმა პოსტმა ყურადღება გაამახვილა ზოგად თვალთმაქცობაზე: იმ სარედაქციო პროდუქტის მარკირებაზე, რომელიც თავად სხვისი ნამუშევრების უნებართვო გამოყენებით (ე.წ. hoovering) შეიქმნა.

„ვფიქრობ, ეს ძალიან საშიში მიმართულებაა. მე არ ვიყენებ Claude-ს ტექსტების დასაწერად, მაგრამ AI-ს ქონა, რომელიც თქვენს ნამუშევარს წყლის ნიშანს ადებს, საშინლად ირონიულია იმის გათვალისწინებით, თუ როგორ მოიპოვა უახლესმა მოდელებმა საწვრთნელი მონაცემები“, — აღნიშნა მომხმარებელმა.

ზოგადად, მომხმარებელთა უმრავლესობა მაინც მხარს უჭერს წყლის ნიშნების სისტემას, როგორც ალგორითმით გენერირებული მასალის კონტროლის გონივრულ გზას. „არ არსებობს არცერთი რეალური არგუმენტი, თუ რატომ არ არის ეს კარგი იდეა. ერთადერთი მიზეზი, რის გამოც ეს შეიძლება არ გინდოდეთ, არის ადამიანების მოტყუების სურვილი“, — ნათქვამია კიდევ ერთ დისკუსიაში.