Claude-ის ახალი წესები ყალბი წყაროების წინააღმდეგ: Anthropic ხელოვნური ინტელექტის პასუხებით მანიპულირებას კრძალავს

Anthropic-მა განაახლა თავისი პროდუქტების გამოყენების პოლიტიკა, რომელიც ახლა პირდაპირ კრძალავს საძიებო სისტემებისა და ხელოვნური ინტელექტის (AI) პასუხების წყაროების შევსებას შეცდომაში შემყვანი კონტენტით. ცვლილებები ასევე ეხება იმ ვებგვერდების ქსელებს, რომლებიც თავს დამოუკიდებელ პლატფორმებად ასაღებენ, და მათ უკან მდგარ ტექნიკურ ინსტრუმენტებს.

აღსანიშნავია, რომ განახლებული დოკუმენტაციიდან „ავტომატური გამოქვეყნება“ მაღალი რისკის მქონე აქტივობების სიიდან ამოღებულია. ეს ნიშნავს, რომ კონტენტის ავტომატური გენერირება და მისი გარე მოხმარებისთვის გამოქვეყნება აღარ განიხილება კრიტიკულ საფრთხედ, თუმცა ეს არ ნიშნავს პოლიტიკიდან სრულ გათავისუფლებას — წესების დარღვევა კვლავ მკაცრად კონტროლდება.

Anthropic-ის მიერ წარმოდგენილი ინფორმაციით, პოლიტიკის განახლება ეყრდნობა 2025 წლის სექტემბრისა და 2026 წლის ნოემბრის დოკუმენტაციას. კომპანია განმარტავს, რომ თუ კონკრეტული პრაქტიკა 2025 წლის ტექსტში არ იყო დასახელებული, ეს არ ნიშნავდა მის დაშვებას, არამედ უბრალოდ არ იყო დეტალურად აღწერილი.

Anthropic-ის მიერ გამოვლენილი დარღვევები

სექტემბრის ანგარიშში Anthropic-მა ახალი დეზინფორმაციული აქტივობების სექცია დაუკავშირა კონკრეტულ საფრთხეებს. მაგალითად, გამოვლინდა დაახლოებით 70 ვებგვერდი, რომლებიც თავს დამოუკიდებელ ადგილობრივ საინფორმაციო გამოცემებად ასაღებდნენ, თუმცა ყველა მათგანი საფრანგეთში ბაზირებულ სარეკლამო სააგენტოსთან იყო დაკავშირებული.

აღნიშნული ოპერაცია იყენებდა Claude-ს სტატიების შესაქმნელად ერთიანი ფორმატით. თითოეული სტატია შეიცავდა სამიდან ოთხ შიდა ბმულს და ქვეყნდებოდა ავტომატურად. ანგარიშის თანახმად, ეს სტატიები სპეციალურად იყო შექმნილი საძიებო სისტემებში საიტის ავტორიტეტის (Authority Rankings) ხელოვნურად გასაზრდელად.

ამ ქსელმა 20-მდე ენაზე სულ მცირე 8,913 სტატია გამოაქვეყნა. მიუხედავად იმისა, რომ რეალური აუდიტორიის მხრიდან ჩართულობა დაბალი იყო, Anthropic-მა მიიღო მკაცრი ზომები: გააუქმა Claude-ის ანგარიში და დაბლოკა ამ საქმიანობასთან დაკავშირებული ორგანიზაცია. ჯერჯერობით უცნობია, მოახერხეს თუ არა ამ საიტებმა რეიტინგების გაუმჯობესება ან AI-ს მიერ გენერირებულ პასუხებში მოხვედრა.

ავტომატური გამოქვეყნება და მაღალი რისკის სია

ადრე Anthropic-ის პოლიტიკა „მედიას ან პროფესიულ ჟურნალისტურ კონტენტს“ მაღალი რისკის კატეგორიაში აერთიანებდა. ახალ ვერსიაში კი ჩამოთვლილია 11 მაღალი რისკის სფერო, სადაც AI-ს რეკომენდაციები საჭიროებს სავალდებულო გადამოწმებას და გამჭვირვალობას. ეს სფეროებია:

• იურიდიული კონსულტაციები;
• სამედიცინო რჩევები;
• ფინანსური გადაწყვეტილებები;
• კრედიტთან, საცხოვრებელთან და დასაქმებასთან დაკავშირებული საკითხები.

საინტერესოა, რომ საგამომცემლო საქმიანობა ამ სიაში აღარ ფიგურირებს. ძველი წესებით, მაღალი რისკის შემცველი რჩევები ან სუბიექტური გადაწყვეტილებები, რომლებიც ადამიანებზე პირდაპირ გავლენას ახდენდა, კვალიფიციურ სპეციალისტს უნდა გადაემოწმებინა. ასევე, მომხმარებლისთვის უნდა ეცნობებინათ, რომ კონტენტის მომზადებაში AI მონაწილეობდა.

კომპანია აცხადებს, რომ მოთხოვნები მაღალი რისკის რეკომენდაციებზე არ შეცვლილა, თუმცა სექცია გადაიწერა უფრო მკაფიო სპეციფიკაციებისთვის. წესი, რომელიც კრძალავს AI-ს მიერ შესრულებული სამუშაოს წარდგენას სათანადო ნებართვის ან ავტორობის მითითების გარეშე, ძალაში რჩება. ასევე, ჩატბოტებმა კვლავ უნდა აცნობონ მომხმარებლებს, რომ ისინი ხელოვნურ ინტელექტს ესაუბრებიან.

რატომ არის ეს მნიშვნელოვანი მარკეტინგისთვის?

Google-ის სპამის საწინააღმდეგო პოლიტიკა „Google Search-ში გენერაციული AI პასუხებით მანიპულირების მცდელობას“ სპამად განიხილავს. 15 მაისის განახლებამ დაადასტურა, რომ ეს წესები ვრცელდება ძიების შედეგებში გამოჩენილ AI პასუხებზეც. Cornell Tech-ის კვლევამ აჩვენა, რომ ამგვარი მანიპულაციების წყაროსთან აღკვეთა საკმაოდ რთულია.

მთავარი განსხვავება აღსრულების მექანიზმებშია:

• Google სანქციებს აწესებს ვებგვერდებზე, რაც იწვევს რეიტინგის დაწევას ან ძიებიდან გაქრობას.
• Anthropic სანქციებს აწესებს Claude-ის მომხმარებლებზე, რაც შეიძლება გამოიხატოს წვდომის შეზღუდვაში ან სრულ გაუქმებაში.

სამოქმედო გეგმა მომხმარებლებისთვის

Anthropic გეგმავს გამოყენების პოლიტიკის ყოველწლიურ განახლებას Claude-ის შესაძლებლობების განვითარების შესაბამისად. 12 ნოემბრისთვის რეკომენდებულია შემდეგი ნაბიჯების გადადგმა:

1. გადაამოწმეთ, ხომ არ ქვეყნდება Claude-ით შექმნილი კონტენტი (თქვენი ან სააგენტოს მიერ) ისეთ საიტებზე, რომლებიც ერთმანეთისგან დამოუკიდებელ პლატფორმებად არის წარმოდგენილი.
2. შეადარეთ თქვენი მიმდინარე გადამოწმებისა და გამჭვირვალობის პროცედურები ახალ მაღალი რისკის სიას, რათა დარწმუნდეთ, რომ აკმაყოფილებთ Anthropic-ის განახლებულ მოთხოვნებს.