Anthropic-ის Claude-მა Firefox-ში 22 მოწყვლადობა აღმოაჩინა
Anthropic-ის ხელოვნურმა ინტელექტმა Claude Opus-მა Firefox-ის ბრაუზერში 22 ხარვეზი იპოვა, რომელთაგან 14 მაღალი სიმძიმისაა. კვლევამ აჩვენა AI-ს პოტენციალი ღია კოდის უსაფრთხოებაში.
Anthropic-სა და Mozilla-ს შორის უსაფრთხოების სფეროში პარტნიორობის ფარგლებში, ხელოვნურმა ინტელექტმა Claude-მა Firefox-ის ბრაუზერში 22 სხვადასხვა მოწყვლადობა გამოავლინა. აღსანიშნავია, რომ მათგან 14 ხარვეზი „მაღალი სიმძიმის“ კატეგორიას მიეკუთვნება. აღმოჩენილი ბაგების უმეტესობა უკვე გამოსწორებულია Firefox 148 ვერსიაში, რომელიც მიმდინარე წლის თებერვალში გამოვიდა, თუმცა რამდენიმე შესწორება მომდევნო განახლებებში აისახება.
Anthropic-ის გუნდი ორი კვირის განმავლობაში იყენებდა Claude Opus 4.6-ს. კვლევის პროცესი თავდაპირველად JavaScript-ის ძრავით დაიწყო, შემდეგ კი პროგრამული კოდის სხვა ნაწილებზეც გავრცელდა. Firefox-ის შერჩევის მიზეზი მისი სირთულე და ამავდროულად, მსოფლიოში ერთ-ერთი ყველაზე კარგად შემოწმებული და უსაფრთხო ღია კოდის მქონე (open-source) პროექტის სტატუსი გახდა.
ხელოვნური ინტელექტის შესაძლებლობები და ექსპლოიტების შექმნა
კვლევის შედეგად გამოიკვეთა საინტერესო ტენდენცია: Claude Opus ბევრად უფრო ეფექტური აღმოჩნდა მოწყვლადობების პოვნაში, ვიდრე მათი გამოყენებისთვის საჭირო პროგრამული უზრუნველყოფის (exploit) შექმნაში. გუნდმა დაახლოებით 4,000 აშშ დოლარი დახარჯა API კრედიტებში ე.წ. proof-of-concept ექსპლოიტების მოსამზადებლად, თუმცა წარმატებას მხოლოდ ორ შემთხვევაში მიაღწიეს.
გავლენა ღია კოდის პროექტებზე
ეს შემთხვევა კიდევ ერთხელ შეახსენებს ინდუსტრიას, თუ რამდენად ძლიერი შეიძლება იყოს ხელოვნური ინტელექტის ინსტრუმენტები ღია კოდის პროექტებისთვის. მიუხედავად იმისა, რომ AI-ს შეუძლია სასარგებლო ინფორმაციის მოწოდება, მას ასევე შეუძლია გამოიწვიოს უხარისხო შერწყმის მოთხოვნების (merge requests) მოზღვავება, რაც დამატებით რესურსებს მოითხოვს გადასამუშავებლად.
მსგავსი სტატიები
აშშ ჩინური ხელოვნური ინტელექტის წინააღმდეგ ზომებს განიხილავს: ტექნოლოგიური გიგანტები ღია მოდელების შეზღუდვის წინააღმდეგ გამოდიან
AI ინდუსტრიის გიგანტები, მათ შორის Meta და Nvidia, აშშ-ის მთავრობას მოუწოდებენ, არ დააწესონ მკაცრი შეზღუდვები ღია AI მოდელებზე ჩინეთთან დაპირისპირების ფონზე.
Anthropic-მა Opus 5 წარადგინა: უფრო მძლავრი, იაფი და ნაკლებად შეზღუდული AI მოდელი
Anthropic-მა Opus 5 წარადგინა — მძლავრი AI მოდელი, რომელიც Fable 5-ზე იაფია, უკეთესად მუშაობს კოდზე და სთავაზობს მომხმარებლებს მონაცემთა დაცვის მაღალ სტანდარტებს.
რატომ შეიძინა Cognition-მა Poke: ხელოვნური ინტელექტის „ხასიათი“ ახალ კონკურენტულ უპირატესობად იქცევა
AI სტარტაპმა Cognition-მა შეიძინა Poke — ხელოვნური ინტელექტის ასისტენტი, რომელიც მომხმარებლებს მეგობრული ტონითა და იუმორით ესაუბრება, რათა Devin-ის პროგრამირების აგენტს მეტი პიროვნული თვისება შესძინოს.