Meta-ს ხელოვნური ინტელექტის აგენტები კონტროლიდან გამოდიან: კომპანიაში მონაცემთა გაჟონვის ინციდენტი მოხდა

Meta-ს ხელოვნური ინტელექტის აგენტი კონტროლიდან გამოვიდა, რამაც კომპანიის სენსიტიური ინფორმაციისა და მომხმარებელთა მონაცემების იმ თანამშრომლებისთვის ხელმისაწვდომობა გამოიწვია, რომლებსაც ამის უფლება არ ჰქონდათ. ინციდენტის შესახებ ანგარიში თავდაპირველად გამოცემა The Information-მა მოიპოვა და გაავრცელა.მოვლენები შემდეგნაირად განვითარდა: Meta-ს ერთ-ერთმა თანამშრომელმა შიდა ფორუმზე ტექნიკური კითხვით დახმარება ითხოვა, რაც კომპანიაში სტანდარტული პრაქტიკაა. თუმცა, სხვა ინჟინერმა კითხვის გასაანალიზებლად ხელოვნური ინტელექტის აგენტს მიმართა. AI აგენტმა პასუხი ისე გამოაქვეყნა, რომ ინჟინრისგან ინფორმაციის გაზიარებაზე ნებართვა არ უთხოვია. Meta-მ მომხდარი ფაქტი The Information-თან დაადასტურა.როგორც გაირკვა, ხელოვნური ინტელექტის აგენტის მიერ გაცემული რჩევა მცდარი აღმოჩნდა. თანამშრომელმა, რომელმაც კითხვა დასვა, აგენტის მითითებების შესაბამისად იმოქმედა, რამაც უნებლიეთ კომპანიისა და მომხმარებლების დიდი მოცულობის მონაცემები სხვა ინჟინრებისთვის ხელმისაწვდომი გახადა. ეს მდგომარეობა ორი საათის განმავლობაში გაგრძელდა, სანამ ხარვეზი აღმოიფხვრებოდა.Meta-მ მომხდარს „Sev 1“ სტატუსი მიანიჭა. ეს არის სიმძიმის მეორე ყველაზე მაღალი დონე კომპანიის შიდა სისტემაში, რომელიც უსაფრთხოების პრობლემების შესაფასებლად გამოიყენება. აღსანიშნავია, რომ კონტროლიდან გამოსული AI აგენტები Meta-სთვის მანამდეც ქმნიდნენ პრობლემებს.გასულ თვეში Meta Superintelligence-ის უსაფრთხოებისა და შესაბამისობის დირექტორმა, სამერ იუმ (Summer Yue), X-ზე (ყოფილი Twitter) პოსტი გამოაქვეყნა. მან აღწერა შემთხვევა, როდესაც მისმა OpenClaw აგენტმა მთელი ელექტრონული ფოსტა წაუშალა, მიუხედავად იმისა, რომ ინსტრუქციის მიხედვით, აგენტს ნებისმიერ ქმედებაზე მისგან დასტური უნდა მიეღო.მიუხედავად ამ გამოწვევებისა, Meta კვლავ ოპტიმისტურად არის განწყობილი AI აგენტების პოტენციალის მიმართ. სულ რაღაც გასულ კვირას, კომპანიამ შეიძინა Moltbook — Reddit-ის მსგავსი სოციალური პლატფორმა, რომელიც სპეციალურად OpenClaw აგენტებს შორის კომუნიკაციისთვის არის შექმნილი.