Anthropic-ის უსაფრთხოების გაფრთხილებებმა საპირისპირო შედეგი გამოიღო — მთავრობამ კომპანიის ყველაზე მძლავრი AI მოდელები დაბლოკა

აშშ-ის მთავრობამ პარასკევს კომპანია Anthropic-ს მისი ორი ყველაზე მძლავრი ხელოვნური ინტელექტის მოდელის — Claude Fable 5-ისა და Claude Mythos 5-ის — დაუყოვნებლივ გათიშვა დაავალა. გადაწყვეტილების მიზეზად ეროვნული უსაფრთხოების საკითხები დასახელდა. Anthropic-მა სოციალურ ქსელ X-ის მეშვეობით დაადასტურა, რომ მოთხოვნა შეასრულა, თუმცა იქვე აღნიშნა, რომ მთავრობის ეს ნაბიჯი მცდარია.

დირექტივა, რომელიც კომპანიამ პარასკევს, აღმოსავლეთის დროით 17:21 საათზე მიიღო, ავალდებულებს მას, ორივე მოდელი ხელმიუწვდომელი გახადოს მომხმარებლებისთვის მთელ მსოფლიოში. აღსანიშნავია, რომ თავდაპირველად მთავრობის საექსპორტო კონტროლის ბრძანება მხოლოდ უცხო ქვეყნის მოქალაქეებზე იყო გათვლილი. Anthropic-ის სხვა მოდელებზე ეს შეზღუდვა არ ვრცელდება.

რატომ არის ეს გადაწყვეტილება მნიშვნელოვანი?

Mythos კომპანია Anthropic-ის ყველაზე მაღალტექნოლოგიური AI მოდელია, რომელიც აპრილის დასაწყისში წარადგინეს. მასზე წვდომა მას შემდეგ მკაცრად იყო შეზღუდული, რადგან კომპანიის განმარტებით, მას პროგრამულ უზრუნველყოფაში უსაფრთხოების ხარვეზების პოვნის განსაკუთრებული უნარი აქვს. Anthropic-ის თქმით, Mythos-მა ყველა ძირითად ოპერაციულ სისტემასა და ვებ-ბრაუზერში, რომელიც კი შემოწმდა, ხარვეზები აღმოაჩინა.

ფართო საზოგადოებისთვის ხელმისაწვდომობის ნაცვლად, კომპანიამ აამოქმედა კონტროლირებადი პროგრამა სახელწოდებით Project Glasswing. ამ პროექტის ფარგლებში მოდელზე წვდომა მხოლოდ 50-მდე შემოწმებულ ორგანიზაციას ჰქონდა, მათ შორის Amazon-ს, Apple-ს, Google-ს, Microsoft-სა და CrowdStrike-ს, რათა მათ მოდელი თავდაცვითი კიბერუსაფრთხოების მიზნებისთვის გამოეყენებინათ.

Fable 5, რომელიც სულ რაღაც სამი დღის წინ გამოვიდა, Anthropic-ის პასუხი იყო კომერციულ ზეწოლაზე. ეს არის Mythos-ის ვერსია, რომელიც აღჭურვილია სპეციალური დამცავი მექანიზმებით (guardrails). ეს მექანიზმები ბლოკავს პასუხებს ისეთ მაღალი რისკის სფეროებში, როგორიცაა კიბერუსაფრთხოება და ბიოლოგია, რაც, კომპანიის მტკიცებით, მას საჯარო გამოყენებისთვის უსაფრთხოს ხდის. Vals AI-ის ტესტების მიხედვით, ის მყისიერად გახდა ყველაზე მძლავრი საჯაროდ ხელმისაწვდომი AI მოდელი ბაზარზე.

მთავრობის არგუმენტები და Anthropic-ის პასუხი

მიუხედავად იმისა, რომ მთავრობის დირექტივა საექსპორტო კონტროლის აქტად არის ფორმულირებული, Anthropic-ის ვრცელ ბლოგპოსტში ნათქვამია, რომ რეალური მიზეზი Fable 5-ის შესაძლო „გატეხვა“ (jailbreak) გახდა. კომპანიის განცხადებით, მთავრობამ მხოლოდ ზეპირი მტკიცებულებები წარადგინა „პოტენციური ვიწრო და არაუნივერსალური გატეხვის“ შესახებ. ეს გულისხმობს მოდელის მიერ კონკრეტული კოდის წაკითხვას და პროგრამული ხარვეზების იდენტიფიცირებას.

Anthropic-ი აღნიშნავს, რომ მსგავსი შესაძლებლობები უკვე ფართოდ არის ხელმისაწვდომი სხვა საჯარო მოდელებშიც, მათ შორის OpenAI-ის GPT-5.5-ში. გარდა ამისა, კიბერუსაფრთხოების სპეციალისტები ამ ფუნქციებს რეგულარულად იყენებენ თავდაცვითი მიზნებისთვის.

კომპანიის მთავარი არგუმენტი ისაა, რომ მათი ყველაზე ძლიერი დამცავი მექანიზმები დამოუკიდებელი კლასიფიკატორების მეშვეობით მუშაობს, რომლებიც თავად მოდელისგან განცალკევებულია. ეს ნიშნავს, რომ მაშინაც კი, თუ ვინმე აიძულებს Fable-ს საუბრის გაგრძელებას უარის შემდეგ, ძირითადი დაცვა ყველაზე სახიფათო შედეგებისგან მაინც ძალაში რჩება.

„ჩვენ არ ვეთანხმებით მოსაზრებას, რომ ვიწრო პოტენციური ხარვეზის აღმოჩენა უნდა გახდეს ასეულობით მილიონი ადამიანისთვის განკუთვნილი კომერციული მოდელის გაწვევის მიზეზი. თუ ეს სტანდარტი მთელ ინდუსტრიაზე გავრცელდება, ეს ფაქტობრივად შეაჩერებს ყველა ახალი მოდელის დანერგვას წამყვანი პროვაიდერების მიერ“, — აცხადებენ კომპანიაში.

უსაფრთხოებაზე ორიენტირებული იმიჯი და მისი შედეგები

მოსალოდნელია, რომ Anthropic-ი წელს აქციების საჯარო განთავსებას (IPO) განახორციელებს. კომპანიამ თავისი იდენტობა სწორედ იმაზე ააგო, რომ ის კონკურენტებთან შედარებით უფრო მეტად არის ორიენტირებული უსაფრთხოებაზე. თუმცა, დამკვირვებლებისთვის ირონიულია ის ფაქტი, რომ სწორედ იმ სიფრთხილემ, რომელიც კომპანიამ Mythos-ის მიმართ გამოიჩინა, მთავრობის ისეთი ყურადღება მიიპყრო, რამაც შესაძლოა მის ბიზნესს სერიოზული ზიანი მიაყენოს.

OpenAI-ის ხელმძღვანელმა, სემ ალტმანმა, ჯერ კიდევ აპრილში გააკრიტიკა Anthropic-ის მიდგომა და მას „შიშზე დაფუძნებული მარკეტინგი“ უწოდა. მისი თქმით, ეს არის მარკეტინგული სვლა, როდესაც ამბობ: „ჩვენ ავაგეთ ბომბი, რომლის ჩამოგდებასაც ვაპირებდით, მაგრამ ახლა 100 მილიონ დოლარად ბომბსაფარს მოგყიდით“.

ალტმანს, რომლის კომპანიაც ასევე ემზადება IPO-სთვის, მთავრობის მიერ მოდელების გათიშვა არ უწინასწარმეტყველებია, თუმცა მან ზუსტად შენიშნა პრობლემა: როდესაც თვეების განმავლობაში მსოფლიოს ეუბნები, რომ შენი ხელოვნური ინტელექტი უნიკალურად სახიფათოა, მსოფლიო — მათ შორის აშშ-ის მთავრობაც — ამას იჯერებს და შესაბამისად მოქმედებს.