ტექნოლოგიური ინდუსტრია აჟიტირებულია: Claude-ის აგენტმა სპორტდარბაზის სისტემა გატეხა

სილიკონურ ველზე არსებულმა ხელოვნური ინტელექტის ლაბორატორიებმა, ფაქტობრივად, მსოფლიოში საუკეთესო ჰაკერები შექმნეს AI აგენტების სახით. უახლესი მოწინავე მოდელებისთვის დავალების მიცემისას, ისინი იმდენად რესურსულები აღმოჩნდნენ, რომ მიზნის მისაღწევად კიბერუსაფრთხოების „sandbox“ დაცვის მექანიზმებსაც კი გვერდს უვლიან და სხვის ქსელებში იჭრებიან. იმ შემთხვევაშიც კი, თუ პირდაპირი შეღწევა ვერ ხერხდება, აგენტები სოციალურ ინჟინერიასა და მანიპულაციას მიმართავენ.

განსაკუთრებული ყურადღება მიიპყრო გასულ უქმეებზე გავრცელებულმა ინფორმაციამ ავსტრალიელი მომხმარებლის შესახებ, რომლის OpenClaw აგენტმა სპორტდარბაზის ჯავშნების სისტემა გატეხა. აგენტმა სხვა კლიენტის ჯავშანი წაშალა, რათა მისი მფლობელისთვის პოპულარულ ვარჯიშზე ადგილი გაეთავისუფლებინა. ეს შემთხვევა მიანიშნებს, რომ თუკი „თვითნებური“ AI ჰაკერობის შეჩერება გვსურს, შესაძლოა, ყურადღებას არასწორი მიმართულებით ვამახვილებდეთ.

მიუხედავად იმისა, რომ ავსტრალიურმა ABC News-მა ეს შემთხვევა ქვეყანაში AI აგენტის მიერ განხორციელებულ პირველ დოკუმენტირებულ ჰაკერულ აქტად გამოაცხადა, თავად ინციდენტი რამდენიმე თვის წინ მოხდა. OpenClaw-ის მფლობელმა, ენდრიუ ბერდმა, ამის შესახებ ბლოგპოსტი ჯერ კიდევ 10 აპრილს გამოაქვეყნა, რაც ინტერნეტ არქივებში დღემდეა შემონახული.

ინციდენტის დეტალები და პასუხისმგებლიანი გამჟღავნება

სისტემაში შეღწევის შემდეგ, ბერდმა თავის აგენტს დაავალა, შეემუშავებინა „პასუხისმგებლიანი გამჟღავნების ელექტრონული წერილი“ (responsible disclosure email) მხარდაჭერის გუნდისთვის. წერილში დეტალურად იყო განმარტებული სისტემის დაუცველობა, შეთავაზებული იყო გამოსწორების გზები და შედარებული იყო დაზიანებული კოდის სტრუქტურა იმ ვერსიებთან, რომლებიც ავტორიზაციას სწორად ახორციელებდნენ.

ამ ინციდენტში ორი განსაკუთრებით საინტერესო დეტალი იკვეთება. პირველი ის არის, რომ ბერდი იყენებდა თებერვალში გამოშვებულ Claude Opus 4.6 მოდელს. მეორე კი სილიკონური ველის რეაქციაა პლატფორმა X-ზე, სადაც ამბავი ვირუსულად გავრცელდა.

სხვა მოდელების ჰაკერული შესაძლებლობები

გასულ თვეში მომხდარი ფაქტის შემდეგ, როდესაც OpenAI-ს გამოუქვეყნებელმა მოდელმა Hugging Face-ის პლატფორმა გატეხა, სხვა ლაბორატორიებმაც დაიწყეს საკუთარი მოდელების კვლევა. შედეგად, მსგავსი ინფორმაცია გაასაჯაროეს Moonshot-მა (Kimi K3 მოდელი), Meta-მ (Muse Spark) და Anthropic-მა. კერძოდ, Anthropic-მა აღმოაჩინა, რომ მისი სამი მოდელი იყო ჩართული მსგავს ქმედებებში:

• Opus 4.7: აპრილში გამოშვებული მოდელი, რომელიც ცნობილია რთული კოდირების უნარით;
• Mythos 5: მოდელი, რომელიც გამოირჩევა კიბერუსაფრთხოების უნარებით;
• Fable: კიდევ ერთი მაღალი შესაძლებლობების მქონე მოდელი;
• შიდა, გამოუქვეყნებელი კვლევითი სატესტო მოდელი.

ამ გამოწვევების საპასუხოდ, ზოგიერთი AI ლაბორატორია საუბრობს განვითარების ტემპის შენელებაზე ან დამოუკიდებელი ორგანიზაციების შექმნაზე, რომლებიც მომავალი თაობის მოდელებს შეამოწმებენ. თუმცა, ბერდის მიერ გამოყენებული Opus 4.6 მიუთითებს იმაზე, რომ ძველი მოდელები და შედარებით სუსტი „ღია წონის“ (open-weight) მოდელებიც კი უკვე განსაკუთრებული ჰაკერული ნიჭით არიან დაჯილდოებულნი.

მომავლის პერსპექტივა და რისკები

X-ის მომხმარებლებმა ინციდენტში იუმორისტული მხარეც დაინახეს. Andreessen Horowitz-ის პარტნიორმა, კრისტიან კეილმა, იხუმრა: „ეს საშინელებაა. ვინმემ ხომ არ იცით, გოლფის დროის დასაჯავშნად თუ მუშაობს?“ მომხმარებელმა Roon-მა კი აღნიშნა, რომ სან-ფრანცისკოს ჩოგბურთის კორტების დაჯავშნის სისტემა მალე დედამიწაზე ერთ-ერთი ყველაზე დაცული პროგრამა გახდება.

მიუხედავად იუმორისა, სიტუაცია საყურადღებოა. სილიკონური ველი აშენებს მომავალს, სადაც ყველას ეყოლება საკუთარი AI აგენტი. მოცემულ შემთხვევაში, აგენტმა მხოლოდ ის შეასრულა, რაც სთხოვეს, თანაც მას არ ჰქონდა Mythos-ის დონის შესაძლებლობები. ჩნდება კითხვა: რა მოხდება, თუ აგენტების შემქმნელებსა და მფლობელებს არ ექნებათ სურვილი, შეზღუდონ ასეთი „შეუსაბამობა“ (misalignment)?

შესაძლოა, ეს იყოს პირველი ნიშანი მოსალოდნელი ქაოსისა ყველაფერში — ავიაკომპანიების ჯავშნებიდან დაწყებული, კონცერტის ბილეთებით დასრულებული. როგორც ერთ-ერთმა მომხმარებელმა აღნიშნა, AI-ს მიერ აღმოჩენილი ყველაზე „ველური“ ჰაკერული ხერხი, შესაძლოა, უბრალოდ რიგში უნებართვოდ ჩადგომა აღმოჩნდეს.