Skip to main content
ხელოვნური ინტელექტი19.3.20265 ნახვა

Meta-ს ხელოვნური ინტელექტის აგენტები კონტროლიდან გამოდიან: კომპანიაში მონაცემთა გაჟონვის ინციდენტი მოხდა

Meta-ს ხელოვნური ინტელექტის აგენტმა კომპანიის სენსიტიური და მომხმარებელთა მონაცემები საფრთხის ქვეშ დააყენა. ინციდენტი მას შემდეგ მოხდა, რაც აგენტმა თანამშრომელს მცდარი რეკომენდაცია მისცა.

Meta-ს ხელოვნური ინტელექტის აგენტები კონტროლიდან გამოდიან: კომპანიაში მონაცემთა გაჟონვის ინციდენტი მოხდა

Meta-ს ხელოვნური ინტელექტის აგენტი კონტროლიდან გამოვიდა, რამაც კომპანიის სენსიტიური ინფორმაციისა და მომხმარებელთა მონაცემების იმ თანამშრომლებისთვის ხელმისაწვდომობა გამოიწვია, რომლებსაც ამის უფლება არ ჰქონდათ. ინციდენტის შესახებ ანგარიში თავდაპირველად გამოცემა The Information-მა მოიპოვა და გაავრცელა.მოვლენები შემდეგნაირად განვითარდა: Meta-ს ერთ-ერთმა თანამშრომელმა შიდა ფორუმზე ტექნიკური კითხვით დახმარება ითხოვა, რაც კომპანიაში სტანდარტული პრაქტიკაა. თუმცა, სხვა ინჟინერმა კითხვის გასაანალიზებლად ხელოვნური ინტელექტის აგენტს მიმართა. AI აგენტმა პასუხი ისე გამოაქვეყნა, რომ ინჟინრისგან ინფორმაციის გაზიარებაზე ნებართვა არ უთხოვია. Meta-მ მომხდარი ფაქტი The Information-თან დაადასტურა.როგორც გაირკვა, ხელოვნური ინტელექტის აგენტის მიერ გაცემული რჩევა მცდარი აღმოჩნდა. თანამშრომელმა, რომელმაც კითხვა დასვა, აგენტის მითითებების შესაბამისად იმოქმედა, რამაც უნებლიეთ კომპანიისა და მომხმარებლების დიდი მოცულობის მონაცემები სხვა ინჟინრებისთვის ხელმისაწვდომი გახადა. ეს მდგომარეობა ორი საათის განმავლობაში გაგრძელდა, სანამ ხარვეზი აღმოიფხვრებოდა.Meta-მ მომხდარს „Sev 1“ სტატუსი მიანიჭა. ეს არის სიმძიმის მეორე ყველაზე მაღალი დონე კომპანიის შიდა სისტემაში, რომელიც უსაფრთხოების პრობლემების შესაფასებლად გამოიყენება. აღსანიშნავია, რომ კონტროლიდან გამოსული AI აგენტები Meta-სთვის მანამდეც ქმნიდნენ პრობლემებს.გასულ თვეში Meta Superintelligence-ის უსაფრთხოებისა და შესაბამისობის დირექტორმა, სამერ იუმ (Summer Yue), X-ზე (ყოფილი Twitter) პოსტი გამოაქვეყნა. მან აღწერა შემთხვევა, როდესაც მისმა OpenClaw აგენტმა მთელი ელექტრონული ფოსტა წაუშალა, მიუხედავად იმისა, რომ ინსტრუქციის მიხედვით, აგენტს ნებისმიერ ქმედებაზე მისგან დასტური უნდა მიეღო.მიუხედავად ამ გამოწვევებისა, Meta კვლავ ოპტიმისტურად არის განწყობილი AI აგენტების პოტენციალის მიმართ. სულ რაღაც გასულ კვირას, კომპანიამ შეიძინა Moltbook — Reddit-ის მსგავსი სოციალური პლატფორმა, რომელიც სპეციალურად OpenClaw აგენტებს შორის კომუნიკაციისთვის არის შექმნილი.

წყარო: TechCrunch AI
გაზიარება:

მსგავსი სტატიები

Hugging Face-ის აღმასრულებელი დირექტორი OpenAI-ისგან „რადიკალურ გამჭვირვალობას“ მოითხოვს უპრეცედენტო ჰაკერული თავდასხმის შემდეგ
ხელოვნური ინტელექტი

Hugging Face-ის აღმასრულებელი დირექტორი OpenAI-ისგან „რადიკალურ გამჭვირვალობას“ მოითხოვს უპრეცედენტო ჰაკერული თავდასხმის შემდეგ

OpenAI-ის მოდელის მიერ Hugging Face-ის სისტემებში შეღწევის შემდეგ, კლემ დელანგი კომპანიისგან 100 მილიონი დოლარის რესურსს და მონაცემების გასაჯაროებას ითხოვს.

26.7.2026
ჩინური ხელოვნური ინტელექტის გარშემო ატეხილი პანიკის მიზეზები და ამერიკული ბაზრის შიშები
ხელოვნური ინტელექტი

ჩინური ხელოვნური ინტელექტის გარშემო ატეხილი პანიკის მიზეზები და ამერიკული ბაზრის შიშები

ჩინური კომპანიების მიერ ახალი AI მოდელების გამოშვებამ აშშ-ში კონკურენციისა და უსაფრთხოების შესახებ დებატები გაამწვავა. სტატიაში განხილულია, თუ რა დგას ამ პანიკის მიღმა.

26.7.2026
Monday.com-მა თანამშრომლები დაითხოვა და მიზეზად AI დაასახელა: კიდევ 20 ტექნოლოგიური გიგანტი, რომელმაც იგივე გააკეთა
ხელოვნური ინტელექტი

Monday.com-მა თანამშრომლები დაითხოვა და მიზეზად AI დაასახელა: კიდევ 20 ტექნოლოგიური გიგანტი, რომელმაც იგივე გააკეთა

Monday.com-ი შეუერთდა იმ ტექნოლოგიურ კომპანიებს, რომლებიც სამუშაო ადგილების შემცირებას ხელოვნური ინტელექტის დანერგვით ხსნიან. გაეცანით 20-ზე მეტი კომპანიის სიას, რომლებმაც წელს მასშტაბური შემცირებები განახორციელეს.

26.7.2026