Anthropic-ის Claude-მა Firefox-ში 22 მოწყვლადობა აღმოაჩინა
Anthropic-ის ხელოვნურმა ინტელექტმა Claude Opus-მა Firefox-ის ბრაუზერში 22 ხარვეზი იპოვა, რომელთაგან 14 მაღალი სიმძიმისაა. კვლევამ აჩვენა AI-ს პოტენციალი ღია კოდის უსაფრთხოებაში.
Anthropic-სა და Mozilla-ს შორის უსაფრთხოების სფეროში პარტნიორობის ფარგლებში, ხელოვნურმა ინტელექტმა Claude-მა Firefox-ის ბრაუზერში 22 სხვადასხვა მოწყვლადობა გამოავლინა. აღსანიშნავია, რომ მათგან 14 ხარვეზი „მაღალი სიმძიმის“ კატეგორიას მიეკუთვნება. აღმოჩენილი ბაგების უმეტესობა უკვე გამოსწორებულია Firefox 148 ვერსიაში, რომელიც მიმდინარე წლის თებერვალში გამოვიდა, თუმცა რამდენიმე შესწორება მომდევნო განახლებებში აისახება.
Anthropic-ის გუნდი ორი კვირის განმავლობაში იყენებდა Claude Opus 4.6-ს. კვლევის პროცესი თავდაპირველად JavaScript-ის ძრავით დაიწყო, შემდეგ კი პროგრამული კოდის სხვა ნაწილებზეც გავრცელდა. Firefox-ის შერჩევის მიზეზი მისი სირთულე და ამავდროულად, მსოფლიოში ერთ-ერთი ყველაზე კარგად შემოწმებული და უსაფრთხო ღია კოდის მქონე (open-source) პროექტის სტატუსი გახდა.
ხელოვნური ინტელექტის შესაძლებლობები და ექსპლოიტების შექმნა
კვლევის შედეგად გამოიკვეთა საინტერესო ტენდენცია: Claude Opus ბევრად უფრო ეფექტური აღმოჩნდა მოწყვლადობების პოვნაში, ვიდრე მათი გამოყენებისთვის საჭირო პროგრამული უზრუნველყოფის (exploit) შექმნაში. გუნდმა დაახლოებით 4,000 აშშ დოლარი დახარჯა API კრედიტებში ე.წ. proof-of-concept ექსპლოიტების მოსამზადებლად, თუმცა წარმატებას მხოლოდ ორ შემთხვევაში მიაღწიეს.
გავლენა ღია კოდის პროექტებზე
ეს შემთხვევა კიდევ ერთხელ შეახსენებს ინდუსტრიას, თუ რამდენად ძლიერი შეიძლება იყოს ხელოვნური ინტელექტის ინსტრუმენტები ღია კოდის პროექტებისთვის. მიუხედავად იმისა, რომ AI-ს შეუძლია სასარგებლო ინფორმაციის მოწოდება, მას ასევე შეუძლია გამოიწვიოს უხარისხო შერწყმის მოთხოვნების (merge requests) მოზღვავება, რაც დამატებით რესურსებს მოითხოვს გადასამუშავებლად.
მსგავსი სტატიები
OpenAI ბავშვთა ექსპლუატაციის წინააღმდეგ ბრძოლის ახალ სტრატეგიულ გეგმას წარადგენს
OpenAI-მ წარადგინა Child Safety Blueprint, რომელიც ხელოვნური ინტელექტის მეშვეობით ბავშვთა ექსპლუატაციის შემთხვევების გამოვლენასა და პრევენციას ისახავს მიზნად.
Astropad-ის Workbench: დისტანციური მართვის ახალი პლატფორმა AI აგენტების მონიტორინგისთვის
Astropad-მა წარადგინა Workbench — დისტანციური მართვის სპეციალიზებული ხელსაწყო, რომელიც Mac-ზე მომუშავე AI აგენტების მონიტორინგისთვისა და მართვისთვისაა შექმნილი.
Tubi პირველი სტრიმინგ სერვისია, რომელმაც ChatGPT-ში საკუთარი აპლიკაცია ჩააშენა
Tubi პირველი მსხვილი სტრიმინგ სერვისია, რომელმაც ChatGPT-ში საკუთარი აპლიკაცია ჩააშენა, რაც მომხმარებლებს 300 000-ზე მეტი ფილმისა და სერიალის მარტივად პოვნაში ეხმარება.