კიბერუსაფრთხოების ვეტერანები Anthropic-ის მძლავრი მოდელების აკრძალვას „სახიფათოს“ უწოდებენ

კიბერუსაფრთხოების ათობით ექსპერტმა, მათ შორის ინდუსტრიის ცნობილმა ვეტერანებმა, ღია წერილით მიმართეს აშშ-ის მთავრობას. ისინი ითხოვენ Anthropic-ის მოდელებზე — Fable-სა და Mythos-ზე — დაწესებული საექსპორტო კონტროლის გაუქმებას. წერილის ავტორთა განცხადებით, ამ გადაწყვეტილებამ კიბერუსაფრთხოების დამცველებს წაართვა საუკეთესო ინსტრუმენტები, რომლებსაც ისინი პროგრამულ უზრუნველყოფაში მოწყვლადობების აღმოსაჩენად და პროდუქტების დასაცავად იყენებდნენ.

„საკმარისი დასაბუთების გარეშე დამცველებისთვის საუკეთესო შესაძლებლობების ჩამორთმევა მაშინ, როდესაც ჩვენი მოწინააღმდეგეები სწრაფად პროგრესირებენ, სახიფათოა“, — ნათქვამია წერილში. გასულ პარასკევს აშშ-ის მთავრობამ Anthropic-ს Fable-ისა და Mythos-ის ექსპორტის შეზღუდვა უბრძანა, რაც ეროვნული უსაფრთხოების ინტერესებით ახსნა, თუმცა კონკრეტული მიზეზები არ დაუკონკრეტებია. საპასუხოდ, კომპანიამ ამ მოდელებზე წვდომა მთელ მსოფლიოში შეაჩერა.

ამ დროისთვის წერილს ხელს აწერს 76 ექსპერტი, მათ შორის ისეთი გავლენიანი ფიგურები, როგორებიც არიან: ალექს სტამოსი (Facebook-ის უსაფრთხოების ყოფილი ხელმძღვანელი), ქეისი ელისი (Bugcrowd-ის დამფუძნებელი), ჯონ კალასი (ცნობილი კრიპტოგრაფი და Apple-ის უსაფრთხოების არქიტექტურის ყოფილი მენეჯერი), პოლ ვიქსი (კომპიუტერული მეცნიერი), დინო დაი ძოვი (Block-ის გამოყენებითი უსაფრთხოების ინჟინერიის ყოფილი ხელმძღვანელი), ქეითი მუსურისი (Luta Security-ის დამფუძნებელი) და რეიჩელ ტობაკი (SocialProof Security-ის აღმასრულებელი დირექტორი).

მოდელების შეზღუდვის ისტორია და მიზეზები

როდესაც Mythos-ის სატესტო ვერსია აპრილში გამოვიდა, Anthropic აცხადებდა, რომ მოდელი იმდენად ეფექტური იყო უსაფრთხოების ხარვეზების პოვნაში, რომ საჭირო გახდა მასზე წვდომის მკაცრად შეზღუდვა. ეს კეთდებოდა იმისთვის, რომ ბოროტმოქმედ ჰაკერებს ან უცხო ქვეყნებს მისი გამოყენებით ინტერნეტში ქაოსი არ დაეთესათ. პრაქტიკაში ეს ნიშნავდა, რომ თავდაპირველად მოდელზე წვდომა მხოლოდ 50 კომპანიას ჰქონდა, მოგვიანებით კი ეს ჯგუფი 15 ქვეყნის 150 ორგანიზაციამდე გაიზარდა.

გასულ კვირას Anthropic-მა გამოუშვა Fable — Mythos-ის საჯარო ვერსია, რომელსაც კომპანიის თქმით, ჰქონდა მკაცრი „დამცავი ბარიერები“ (guardrails). ეს ბარიერები კრძალავდა მოდელის გამოყენებას ბიოლოგიის, ქიმიისა და კიბერუსაფრთხოების სფეროებში, ასევე ხელს უშლიდა მოდელის დისტილაციას მისი ხელახალი შექმნის მიზნით. თუმცა, ეს შეზღუდვები იმდენად მკაცრი აღმოჩნდა, რომ ექსპერტების თქმით, მოდელი ფაქტობრივად ბლოკავდა ნებისმიერ მოთხოვნას, რომელიც კიბერუსაფრთხოებას უკავშირდებოდა.

დაპირისპირება Amazon-ის კვლევის გარშემო

Anthropic-ის განმარტებით, თეთრი სახლის საექსპორტო ბრძანება შესაძლოა ეყრდნობოდეს ანგარიშს, რომლის მიხედვითაც არსებობს Fable-ის ბარიერების გვერდის ავლის (jailbreak) მეთოდი, რაც მოდელის სრულ, Mythos-ის დონის შესაძლებლობებს ხსნის. ქეითი მუსურისის თქმით, ეს მეთოდი Amazon-ის მკვლევრებმა აღწერეს ნაშრომში, რომელიც საჯარო არ არის, თუმცა მან მისი გაცნობა შეძლო.

მუსურისმა ბლოგპოსტში აღნიშნა, რომ Amazon-ის ნაშრომი რეალურად არ ადასტურებს სისტემის გატეხვას. მისი თქმით, მკვლევრებმა უბრალოდ სთხოვეს Fable-ს, გამოესწორებინა ღია კოდში არსებული ცნობილი და „განზრახ ჩადებული“ ხარვეზები მას შემდეგ, რაც მოდელმა თავდაპირველად უარი თქვა უსაფრთხოების შემოწმებაზე.

„ნაშრომში აღწერილი ქცევის გამოსწორება შეუძლებელია და ნებისმიერი მცდელობა მხოლოდ დაასუსტებს მოდელს თავდაცვითი მიზნებისთვის. დამცველებს სჭირდებათ, რომ AI-ს სთხოვონ ფაილში ხარვეზების გასწორება, ახსნა, თუ რატომ არის ეს მნიშვნელოვანი და ტესტების დაწერა პატჩის მუშაობის დასადასტურებლად. ეს არ არის ბარიერის გვერდის ავლი. ეს არის ყველაზე ღირებული რამ, რაც AI მოდელს შეუძლია გააკეთოს თავდაცვითი უსაფრთხოებისთვის“, — აცხადებს მუსურისი.

კონკურენცია და რეგულაციების მოთხოვნა

ღია წერილში ექსპერტები აღნიშნავენ, რომ Amazon-ის ნაშრომში აღწერილი შესაძლებლობების რეპლიკაცია შესაძლებელია სხვა მოდელებზეც, როგორიცაა OpenAI-ის GPT-5.5, Anthropic-ის საჯაროდ ხელმისაწვდომი Claude Opus 4.8 და Sonnet, და ჩინური მოდელი Kimi 2.7-იც კი. მუსურისის თქმით, სხვა მოდელებს ხშირად არ აქვთ Fable-ის მსგავსი მკაცრი ბარიერები, ამიტომ ისინი პირდაპირ ასრულებენ უსაფრთხოების ხარვეზების ძებნის მოთხოვნას და მათთვის „გვერდის ავლის“ მეთოდები საჭიროც არ არის.

წერილის ავტორები ითხოვენ გამჭვირვალე და სამართლიან რეგულაციებს, რომლებიც შეიქმნება „დემოკრატიული პროცესით“ და დაეფუძნება დარგის ექსპერტებისა და აკადემიური წრეების სამეცნიერო კვლევებს. მათი აზრით, შეზღუდვები მხოლოდ მინიმალური და აუცილებელი დოზით უნდა იქნას გამოყენებული ამერიკული საზოგადოების უსაფრთხოების უზრუნველსაყოფად.