Meta AI-ს მკვლევრის OpenClaw აგენტი კონტროლიდან გამოვიდა და ელფოსტის წაშლა დაიწყო

Meta AI-ს უსაფრთხოების მკვლევრის, სამერ იუეს (Summer Yue) პოსტი პლატფორმა X-ზე თავიდან სატირას ჰგავდა. მან თავის OpenClaw ხელოვნური ინტელექტის აგენტს დაავალა, გადაემოწმებინა მისი გადავსებული ელფოსტა და შეეთავაზებინა, რომელი წერილები უნდა წაეშალა ან დაეარქივებინა. თუმცა, პროცესი მოულოდნელი სცენარით განვითარდა.

აგენტმა თვითნებურად დაიწყო ყველა იმეილის წაშლა „სწრაფ რეჟიმში“ და სრულიად დააიგნორა ტელეფონიდან გაგზავნილი ბრძანებები პროცესის შეჩერების შესახებ. იუეს თქმით, მას ფიზიკურად მოუწია თავის Mac Mini-სთან მირბენა, რათა მოწყობილობა გაეთიშა, რაც მან „ბომბის გაუვნებელყოფას“ შეადარა. მტკიცებულების სახით მან გამოაქვეყნა სკრინშოტები, სადაც ჩანს, რომ ხელოვნური ინტელექტი მის შეჩერების მოთხოვნებს ყურადღებას არ აქცევდა.

Mac Mini, Apple-ის კომპაქტური და ხელმისაწვდომი კომპიუტერი, ბოლო დროს OpenClaw-ის გასაშვებად ერთ-ერთ ყველაზე პოპულარულ მოწყობილობად იქცა. ცნობილმა AI მკვლევარმა ანდრეი კარპატიმ (Andrej Karpathy) აღნიშნა, რომ Apple-ის თანამშრომლის თქმით, ეს მოდელები ძალიან სწრაფად იყიდება მას შემდეგ, რაც მომხმარებლებმა OpenClaw-ის ალტერნატივის, NanoClaw-ის გამოყენება დაიწყეს.

რა არის OpenClaw და რატომ არის ის პოპულარული?

OpenClaw არის ღია კოდის მქონე AI აგენტი, რომელმაც პოპულარობა Moltbook-ის — მხოლოდ ხელოვნური ინტელექტისთვის განკუთვნილი სოციალური ქსელის — მეშვეობით მოიპოვა. მიუხედავად იმისა, რომ Moltbook-ზე აგენტების „შეთქმულების“ შესახებ გავრცელებული ისტორიები მეტწილად უარყოფილია, OpenClaw-ის რეალური მისია პერსონალური ასისტენტობაა, რომელიც მომხმარებლის საკუთარ მოწყობილობებზე მუშაობს.

სილიკონის ველზე OpenClaw იმდენად პოპულარული გახდა, რომ ტერმინი „claw“ (კლანჭი) ერთგვარ ბაზვორდად იქცა იმ აგენტებისთვის, რომლებიც პერსონალურ აპარატურაზე მუშაობენ. ბაზარზე უკვე გამოჩნდა სხვა მსგავსი აგენტებიც, როგორიცაა:

• ZeroClaw
• IronClaw
• PicoClaw

ამ ტრენდის პოპულარობაზე ისიც მეტყველებს, რომ Y Combinator-ის პოდკასტის გუნდი ბოლო ეპიზოდში ლობსტერის კოსტიუმებში გამოწყობილიც კი გამოჩნდა.

ინციდენტის მიზეზები: „დამწყების შეცდომა“ და ტექნიკური ხარვეზები

იუეს შემთხვევა სერიოზულ გაფრთხილებად იქცა. კითხვაზე, იყო თუ არა ეს სისტემის შეგნებული ტესტირება, მკვლევარმა უპასუხა, რომ ეს „დამწყების შეცდომა“ იყო. მანამდე ის აგენტს მცირე, სატესტო ინბოქსზე სცდიდა, სადაც ყველაფერი გამართულად მუშაობდა. ნდობის მოპოვების შემდეგ კი გადაწყვიტა, აგენტისთვის რეალურ მონაცემებზე მიეცა წვდომა.

კომპაქციის (Compaction) ფენომენი

მკვლევარი მიიჩნევს, რომ რეალურ ინბოქსში არსებულმა მონაცემების დიდმა რაოდენობამ გამოიწვია ე.წ. „კომპაქცია“. ეს პროცესი მაშინ იწყება, როდესაც კონტექსტური ფანჯარა (context window) — AI-ს მიერ სესიაში მიღებული და დამუშავებული ინფორმაციის ისტორია — ზედმეტად იზრდება. ამ დროს აგენტი იწყებს ინფორმაციის შეჯამებას და შეკუმშვას, რის გამოც შესაძლოა გამოტოვოს მნიშვნელოვანი ინსტრუქციები.

მოცემულ შემთხვევაში, ხელოვნურმა ინტელექტმა სავარაუდოდ გამოტოვა ბოლო ბრძანება, სადაც მომხმარებელი მოქმედების შეწყვეტას სთხოვდა და დაუბრუნდა სატესტო ინბოქსის დროს მიღებულ საწყის ინსტრუქციებს.

უსაფრთხოების რისკები და რეკომენდაციები

როგორც X-ის მომხმარებლებმა აღნიშნეს, პრომპტები (prompts) არ შეიძლება ჩაითვალოს უსაფრთხოების საიმედო ბარიერად, რადგან მოდელებმა შესაძლოა ისინი არასწორად აღიქვან ან საერთოდ უგულებელყონ. ექსპერტებმა რამდენიმე ალტერნატიული გზა შემოგვთავაზეს:

• სპეციალური სინტაქსის გამოყენება აგენტის გასაჩერებლად.
• ინსტრუქციების ჩაწერა სპეციალურ, გამოყოფილ ფაილებში.
• სხვა ღია კოდის ხელსაწყოების გამოყენება უსაფრთხოების ბარიერების გასამყარებლად.

TechCrunch-მა ვერ შეძლო მომხდარის დამოუკიდებლად გადამოწმება, რადგან სამერ იუეს მათ ოფიციალურ მოთხოვნაზე პასუხი არ გაუცია. თუმცა, ეს შემთხვევა ნათლად აჩვენებს, რომ ცოდნაზე დაფუძნებული სამუშაოსთვის განკუთვნილი AI აგენტები განვითარების ამ ეტაპზე ჯერ კიდევ სარისკოა.

მიუხედავად იმისა, რომ ბევრს სურს დახმარება ელფოსტის მართვაში, პროდუქტების შეკვეთასა თუ ექიმთან ვიზიტების დაგეგმვაში, ტექნოლოგია ფართო გამოყენებისთვის სავარაუდოდ მხოლოდ 2027-2028 წლებისთვის იქნება მზად. მანამდე კი, მათი გამოყენება გარკვეულ სიფრთხილესა და დამცავი მექანიზმების დამოუკიდებლად შექმნას მოითხოვს.