Google Chrome-ის ახალი AI ასისტენტი: როგორ დაიცავს კომპანია მომხმარებლების მონაცემებსა და ფინანსებს?

ბრაუზერები სულ უფრო აქტიურად ნერგავენ ე.წ. აგენტურ ფუნქციებს, რომლებსაც მომხმარებლის ნაცვლად შეუძლიათ სხვადასხვა დავალების შესრულება, მაგალითად, ბილეთების დაჯავშნა ან პროდუქტების შეძენა. თუმცა, ამ შესაძლებლობებს თან ახლავს უსაფრთხოების სერიოზული რისკები, რაც შესაძლოა მონაცემების ან ფულის დაკარგვით დასრულდეს. Google-მა დეტალურად აღწერა უსაფრთხოების საკუთარი მიდგომა, რომელსაც Chrome-ში ამ ახალი ფუნქციების დასაცავად გამოიყენებს.

კომპანიამ, რომელმაც აგენტური ფუნქციების პირველადი ვერსია ჯერ კიდევ სექტემბერში წარადგინა და მათ დანერგვას უახლოეს თვეებში გეგმავს, უსაფრთხოების მრავალდონიან სისტემას ქმნის. ამ სისტემის ბირთვს წარმოადგენს სპეციალური დამკვირვებელი მოდელები, რომლებიც ხელოვნური ინტელექტის მოქმედებებს აკონტროლებენ. ერთ-ერთი ასეთი მოდელია Gemini-ზე დაფუძნებული „მომხმარებელთან შესაბამისობის კრიტიკოსი“ (User Alignment Critic).

„კრიტიკოსი“ მოდელის მთავარი ამოცანაა, შეამოწმოს, რამდენად ემსახურება მთავარი AI-აგენტის მიერ დაგეგმილი მოქმედებები მომხმარებლის რეალურ მიზანს. თუ მოდელი ჩათვლის, რომ დაგეგმილი ნაბიჯები არ შეესაბამება მომხმარებლის ინტერესებს, ის დამგეგმავ მოდელს სტრატეგიის გადახედვას სთხოვს. მნიშვნელოვანია, რომ „კრიტიკოსი“ მხოლოდ შემოთავაზებული მოქმედების მეტამონაცემებს ხედავს და არა ვებგვერდის რეალურ შინაარსს.

იმისათვის, რომ აგენტმა დაუშვებელ ან არასანდო საიტებზე წვდომა ვერ მოიპოვოს, Google იყენებს „აგენტის წყაროების ნაკრებებს“ (Agent Origin Sets). ეს სისტემა მკაცრად ზღუდავს, რომელ საიტებთან შეიძლება ჰქონდეს მოდელს ინტერაქცია. წყაროები იყოფა „მხოლოდ წაკითხვად“ და „წაკითხვა-ჩაწერად“ წყაროებად. მაგალითად, სავაჭრო საიტზე პროდუქტების ჩამონათვალი ამოცანისთვის რელევანტურია და წაკითხვადია, ხოლო სარეკლამო ბანერები – არა.

კომპანიის ბლოგპოსტის თანახმად: „ეს დაყოფა უზრუნველყოფს, რომ აგენტისთვის ხელმისაწვდომი იყოს მხოლოდ შეზღუდული რაოდენობის წყაროებიდან მიღებული მონაცემები, რომლებიც, თავის მხრივ, მხოლოდ ჩაწერისთვის ხელმისაწვდომ წყაროებს შეიძლება გადაეცეს. ეს ზღუდავს სხვადასხვა წყაროდან მონაცემების გაჟონვის საფრთხეს. ეს ასევე აძლევს ბრაუზერს შესაძლებლობას, თავად უზრუნველყოს ამგვარი გამიჯვნა, მაგალითად, მოდელს საერთოდ არ გაუგზავნოს ის მონაცემები, რომლებიც წაკითხვადი წყაროების ფარგლებს სცდება“.

Google ასევე აკონტროლებს ვებგვერდებზე ნავიგაციას. კიდევ ერთი დამკვირვებელი მოდელი იკვლევს URL-მისამართებს, რათა თავიდან აიცილოს მოდელის მიერ გენერირებულ მავნე ბმულებზე გადასვლა. გარდა ამისა, აგენტს უფლება აქვს, დააჭიროს ან ტექსტი აკრიფოს გვერდის მხოლოდ კონკრეტულ, წინასწარ განსაზღვრულ ნაწილებში (iframes).

განსაკუთრებით მგრძნობიარე დავალებების შესრულებისას კონტროლი სრულად მომხმარებლის ხელში გადადის. მაგალითად, თუ აგენტი შეეცდება ისეთ საიტზე გადასვლას, რომელიც საბანკო ან სამედიცინო ინფორმაციას შეიცავს, ის ჯერ მომხმარებელს სთხოვს ნებართვას. ავტორიზაციისთვის პაროლების მენეჯერის გამოყენებაზეც მომხმარებლის თანხმობა იქნება საჭირო, თუმცა თავად AI მოდელს პაროლებზე წვდომა არასდროს ექნება.

მომხმარებლის დადასტურება აუცილებელი იქნება ისეთი კრიტიკული მოქმედებების შესრულებამდე, როგორიცაა პროდუქტის შეძენა ან შეტყობინების გაგზავნა. ამ მექანიზმების გარდა, Google-ს დანერგილი აქვს „პრომპტ-ინექციების კლასიფიკატორი“ არასასურველი ქმედებების თავიდან ასაცილებლად და აქტიურად ამოწმებს სისტემას მკვლევარების მიერ შექმნილი თავდასხმების მიმართ.

უსაფრთხოებაზე ზრუნვა მხოლოდ Google-ის პრიორიტეტი არ არის. ხელოვნურ ინტელექტზე დაფუძნებული სხვა ბრაუზერების შემქმნელებიც აქტიურად მუშაობენ ამ მიმართულებით. მაგალითად, კომპანია Perplexity-მ ცოტა ხნის წინ გამოუშვა ღია კოდის მოდელი, რომელიც სწორედ პრომპტ-ინექციებით განხორციელებული თავდასხმებისგან იცავს სისტემას.