Anthropic-ის Claude-მა Firefox-ში 22 მოწყვლადობა აღმოაჩინა
Anthropic-ის ხელოვნურმა ინტელექტმა Claude Opus-მა Firefox-ის ბრაუზერში 22 ხარვეზი იპოვა, რომელთაგან 14 მაღალი სიმძიმისაა. კვლევამ აჩვენა AI-ს პოტენციალი ღია კოდის უსაფრთხოებაში.
Anthropic-სა და Mozilla-ს შორის უსაფრთხოების სფეროში პარტნიორობის ფარგლებში, ხელოვნურმა ინტელექტმა Claude-მა Firefox-ის ბრაუზერში 22 სხვადასხვა მოწყვლადობა გამოავლინა. აღსანიშნავია, რომ მათგან 14 ხარვეზი „მაღალი სიმძიმის“ კატეგორიას მიეკუთვნება. აღმოჩენილი ბაგების უმეტესობა უკვე გამოსწორებულია Firefox 148 ვერსიაში, რომელიც მიმდინარე წლის თებერვალში გამოვიდა, თუმცა რამდენიმე შესწორება მომდევნო განახლებებში აისახება.
Anthropic-ის გუნდი ორი კვირის განმავლობაში იყენებდა Claude Opus 4.6-ს. კვლევის პროცესი თავდაპირველად JavaScript-ის ძრავით დაიწყო, შემდეგ კი პროგრამული კოდის სხვა ნაწილებზეც გავრცელდა. Firefox-ის შერჩევის მიზეზი მისი სირთულე და ამავდროულად, მსოფლიოში ერთ-ერთი ყველაზე კარგად შემოწმებული და უსაფრთხო ღია კოდის მქონე (open-source) პროექტის სტატუსი გახდა.
ხელოვნური ინტელექტის შესაძლებლობები და ექსპლოიტების შექმნა
კვლევის შედეგად გამოიკვეთა საინტერესო ტენდენცია: Claude Opus ბევრად უფრო ეფექტური აღმოჩნდა მოწყვლადობების პოვნაში, ვიდრე მათი გამოყენებისთვის საჭირო პროგრამული უზრუნველყოფის (exploit) შექმნაში. გუნდმა დაახლოებით 4,000 აშშ დოლარი დახარჯა API კრედიტებში ე.წ. proof-of-concept ექსპლოიტების მოსამზადებლად, თუმცა წარმატებას მხოლოდ ორ შემთხვევაში მიაღწიეს.
გავლენა ღია კოდის პროექტებზე
ეს შემთხვევა კიდევ ერთხელ შეახსენებს ინდუსტრიას, თუ რამდენად ძლიერი შეიძლება იყოს ხელოვნური ინტელექტის ინსტრუმენტები ღია კოდის პროექტებისთვის. მიუხედავად იმისა, რომ AI-ს შეუძლია სასარგებლო ინფორმაციის მოწოდება, მას ასევე შეუძლია გამოიწვიოს უხარისხო შერწყმის მოთხოვნების (merge requests) მოზღვავება, რაც დამატებით რესურსებს მოითხოვს გადასამუშავებლად.
მსგავსი სტატიები
Anthropic-ის ჩაშლილი გარიგება პენტაგონთან: გაკვეთილი სტარტაპებისთვის, რომლებიც ფედერალურ კონტრაქტებს ეძებენ
Anthropic-ის ჩაშლილი 200 მილიონიანი კონტრაქტი პენტაგონთან და OpenAI-ის მიმართ გაზრდილი უნდობლობა: რა საფრთხეებს შეიცავს სამხედრო უწყებებთან თანამშრომლობა AI სტარტაპებისთვის.
Microsoft, Google და Amazon: Anthropic-ის Claude ხელმისაწვდომი რჩება არათავდაცვითი სექტორის მომხმარებლებისთვის
Microsoft, Google და Amazon ადასტურებენ, რომ Anthropic-ის Claude ხელმისაწვდომი რჩება სამოქალაქო სექტორისთვის, მიუხედავად პენტაგონის მიერ დაწესებული შეზღუდვებისა.
AWS-მა ჯანდაცვის სექტორისთვის ხელოვნურ ინტელექტზე დაფუძნებული ახალი პლატფორმა წარადგინა
AWS-მა წარადგინა Amazon Connect Health — ხელოვნურ ინტელექტზე დაფუძნებული პლატფორმა, რომელიც ჯანდაცვის სფეროში ადმინისტრაციული დავალებების ავტომატიზაციასა და დოკუმენტაციის წარმოებას უზრუნველყოფს.