Anthropic-ის Claude-მა Firefox-ში 22 მოწყვლადობა აღმოაჩინა
Anthropic-ის ხელოვნურმა ინტელექტმა Claude Opus-მა Firefox-ის ბრაუზერში 22 ხარვეზი იპოვა, რომელთაგან 14 მაღალი სიმძიმისაა. კვლევამ აჩვენა AI-ს პოტენციალი ღია კოდის უსაფრთხოებაში.
Anthropic-სა და Mozilla-ს შორის უსაფრთხოების სფეროში პარტნიორობის ფარგლებში, ხელოვნურმა ინტელექტმა Claude-მა Firefox-ის ბრაუზერში 22 სხვადასხვა მოწყვლადობა გამოავლინა. აღსანიშნავია, რომ მათგან 14 ხარვეზი „მაღალი სიმძიმის“ კატეგორიას მიეკუთვნება. აღმოჩენილი ბაგების უმეტესობა უკვე გამოსწორებულია Firefox 148 ვერსიაში, რომელიც მიმდინარე წლის თებერვალში გამოვიდა, თუმცა რამდენიმე შესწორება მომდევნო განახლებებში აისახება.
Anthropic-ის გუნდი ორი კვირის განმავლობაში იყენებდა Claude Opus 4.6-ს. კვლევის პროცესი თავდაპირველად JavaScript-ის ძრავით დაიწყო, შემდეგ კი პროგრამული კოდის სხვა ნაწილებზეც გავრცელდა. Firefox-ის შერჩევის მიზეზი მისი სირთულე და ამავდროულად, მსოფლიოში ერთ-ერთი ყველაზე კარგად შემოწმებული და უსაფრთხო ღია კოდის მქონე (open-source) პროექტის სტატუსი გახდა.
ხელოვნური ინტელექტის შესაძლებლობები და ექსპლოიტების შექმნა
კვლევის შედეგად გამოიკვეთა საინტერესო ტენდენცია: Claude Opus ბევრად უფრო ეფექტური აღმოჩნდა მოწყვლადობების პოვნაში, ვიდრე მათი გამოყენებისთვის საჭირო პროგრამული უზრუნველყოფის (exploit) შექმნაში. გუნდმა დაახლოებით 4,000 აშშ დოლარი დახარჯა API კრედიტებში ე.წ. proof-of-concept ექსპლოიტების მოსამზადებლად, თუმცა წარმატებას მხოლოდ ორ შემთხვევაში მიაღწიეს.
გავლენა ღია კოდის პროექტებზე
ეს შემთხვევა კიდევ ერთხელ შეახსენებს ინდუსტრიას, თუ რამდენად ძლიერი შეიძლება იყოს ხელოვნური ინტელექტის ინსტრუმენტები ღია კოდის პროექტებისთვის. მიუხედავად იმისა, რომ AI-ს შეუძლია სასარგებლო ინფორმაციის მოწოდება, მას ასევე შეუძლია გამოიწვიოს უხარისხო შერწყმის მოთხოვნების (merge requests) მოზღვავება, რაც დამატებით რესურსებს მოითხოვს გადასამუშავებლად.
მსგავსი სტატიები
Laplace Intelligence: რობოტებისა და ავტონომიური მანქანების უსაფრთხოების ტესტირება რეალურ სამყაროში გასვლამდე
სტარტაპი Laplace Intelligence ქმნის ინოვაციურ პლატფორმას, რომელიც სიმულაციურ გარემოში AI-ს მეშვეობით ამოწმებს რობოტებისა და თვითმავალი მანქანების უსაფრთხოებას რეალურ სამყაროში მათ გაშვებამდე.
Facebook მომხმარებლებს ალგორითმზე მეტ კონტროლს აძლევს: რა უნდა ვიცოდეთ ახალი ფუნქციის შესახებ
Meta-მ Facebook-ისთვის ახალი ფუნქცია, Your Algorithm წარადგინა, რომელიც მომხმარებლებს საშუალებას აძლევს, ბუნებრივი ენის გამოყენებით თავად განსაზღვრონ, თუ რა ტიპის კონტენტი გამოჩნდეს მათ ფიდსა და Reels-ში.
Flox Intelligence: ხელოვნური ინტელექტი, რომელიც გარეულ ცხოველებს ინფრასტრუქტურასთან შეჯახებისგან იცავს
Flox Intelligence ქმნის ხელოვნურ ინტელექტზე დაფუძნებულ სისტემას, რომელიც გარეულ ცხოველებს მატარებლებისგან და აეროპორტებისგან უსაფრთხოდ აშორებს და ინფრასტრუქტურულ ზარალს ამცირებს.