ხელოვნური ინტელექტის უსაფრთხოება რეალურ დროში: Google-იც კი ახალი გამოწვევების წინაშეა

ხელოვნური ინტელექტის (AI) უსაფრთხოების თანამედროვე ლანდშაფტში ორიენტირება დღეს ყველა კომპანიისთვის, მათ შორის Google-ისთვისაც, დიდ გამოწვევას წარმოადგენს. Google Cloud-ის საოპერაციო დირექტორი (COO), ფრენსის დე სოუზა, აღნიშნავს, რომ ინდუსტრია ახლა გარდამავალ პერიოდს გადის, რის შემდეგაც უსაფრთხოების უფრო მაღალ სტანდარტებამდე მივალთ. მიუხედავად იმისა, რომ Google თავად არის ამ სფეროს ლიდერი, აშკარაა, რომ ტექნოლოგიური გიგანტებიც კი ჯერ კიდევ სწავლობენ ახალ რეალობასთან ადაპტაციას.

დე სოუზას მთავარი გზავნილი, რომლის გათავისებასაც უსაფრთხოების სპეციალისტები წლებია ცდილობენ, ხელოვნური ინტელექტის ეპოქაში კიდევ უფრო კრიტიკული გახდა: უსაფრთხოება არ შეიძლება იყოს მეორეხარისხოვანი საკითხი. კომპანიებმა AI-ს დანერგვისას პლატფორმული მიდგომა უნდა გამოიყენონ. უსაფრთხოება არ არის ისეთი რამ, რისი დამატებაც მოგვიანებით, პროცესის დასრულების შემდეგაა შესაძლებელი, და არც ისეთი საკითხია, რომელიც მხოლოდ თანამშრომლების კეთილსინდისიერებაზე უნდა იყოს დამოკიდებული.

განსაკუთრებული ყურადღება ეთმობა ე.წ. „ჩრდილოვან AI-ს“ (shadow AI) — შემთხვევებს, როდესაც თანამშრომლები იყენებენ ხელოვნური ინტელექტის ინსტრუმენტებს ორგანიზაციული ზედამხედველობის გარეშე. კომპანიებმა თავიდანვე უნდა მოითხოვონ უსაფრთხოების, მართვისა და აუდიტის მკაცრი მექანიზმები იმ პლატფორმებისგან, რომლებსაც იყენებენ. ხელოვნური ინტელექტის სტრატეგია წარმოუდგენელია მონაცემთა დაცვისა და უსაფრთხოების სტრატეგიის გარეშე; ეს სამი კომპონენტი განუყოფელი უნდა იყოს.

საფრთხეების შეცვლილი ლანდშაფტი

თანამედროვე საფრთხეების გარემო იმდენად ფუნდამენტურად შეიცვალა, რომ თავდაცვის ძველი მოდელები ზედმეტად ნელია. სტატისტიკა აჩვენებს, რომ საშუალო დრო სისტემაში შეღწევასა და შეტევის შემდეგ ეტაპზე გადასვლას შორის 8 საათიდან 22 წამამდე შემცირდა. ამასთანავე, თავდასხმის არეალი ტრადიციულ ქსელურ პერიმეტრს გასცდა.

დაცვას საჭიროებს არა მხოლოდ სტანდარტული ციფრული აქტივები, არამედ:

• ხელოვნური ინტელექტის მოდელები;
• მონაცემთა ნაკადები (pipelines), რომლებიც მოდელების მოსამზადებლად გამოიყენება;
• ავტონომიური აგენტები;
• პრომპტები (ინსტრუქციები).

ერთ-ერთი საფრთხე, რომელსაც ხშირად სათანადო ყურადღება არ ექცევა, არის აგენტების მიერ კომპანიის შიდა სისტემებში მივიწყებული მონაცემთა საცავების აღმოჩენა. ბევრ ორგანიზაციას აქვს ძველი SharePoint სერვერები ან წვდომის კონტროლის მექანიზმები, რომლებიც წლებია არ განახლებულა. აქამდე ეს პრობლემას არ წარმოადგენდა, რადგან მათ შესახებ არავინ იცოდა, თუმცა სისტემაში მოძრავი AI აგენტები ამ აქტივებს მარტივად პოულობენ და მათზე არსებულ მონაცემებს დაუცველს ხდიან.

აგენტური თავდაცვა: მანქანური სიჩქარე მანქანური სიჩქარის წინააღმდეგ

გამოსავალი, დე სოუზას ხედვით, მანქანურ სიჩქარესთან მანქანური სიჩქარითვე დაპირისპირებაა. დღეს ყალიბდება AI-ზე დაფუძნებული, სრულად აგენტური თავდაცვის სისტემები, სადაც ორგანიზაციებს შეუძლიათ გამოიყენონ სპეციალური აგენტები საკუთარი უსაფრთხოების სამართავად. ნაცვლად იმისა, რომ თავდაცვა მთლიანად ადამიანზე იყოს დამოკიდებული, ადამიანები ახლა სრულად აგენტურ თავდაცვის სისტემებს ზედამხედველობენ.

„ეს აღარ არის მხოლოდ ტექნოლოგიური საკითხი; ეს არის მენეჯმენტის, დირექტორთა საბჭოსა და აღმასრულებელი გუნდის დონის პრობლემა. ეს არ ეხება მხოლოდ უსაფრთხოების გუნდს.“

მიუხედავად იმისა, რომ ხელოვნური ინტელექტი თავდაცვითი სამუშაოს დიდ ნაწილს ითავსებს, კვალიფიციური კადრების დეფიციტი მაინც მწვავედ დგას. LinkedIn-ის ინფორმაციული უსაფრთხოების მთავარი ოფიცერი, ლეა კისნერი, აღნიშნავს, რომ ინდუსტრიას დასჭირდება ხალხი „ბაგ-პოკალიფსთან“ (bug-pocalypse) გასამკლავებლად. მისი ვარაუდით, სექტორი AI უსაფრთხოების მდგრად მოდელებს კიდევ რამდენიმე წლის განმავლობაში ვერ ჩამოაყალიბებს.

რეალური რისკები და პლატფორმების პასუხისმგებლობა

უსაფრთხოების ხარვეზებს სავალალო ფინანსური შედეგები მოჰყვება. მაგალითად, პლატფორმ Prentus-ის აღმასრულებელმა დირექტორმა, როდ დანანმა, აღმოაჩინა, რომ მისი API გასაღების მოპარვის შემდეგ, თავდამსხმელებმა 30 წუთში 10,138 აშშ დოლარის ზარალი მიაყენეს. მსგავსი შემთხვევა შეემთხვა დეველოპერ ისურუ ფონსეკასაც, რომლის ანგარიშიდანაც 17,000 ავსტრალიური დოლარი ჩამოიჭრა, მიუხედავად იმისა, რომ მას 250-დოლარიანი ლიმიტი ჰქონდა დაწესებული.

როგორც გაირკვა, Google-ის ავტომატიზებულმა სისტემებმა, ანგარიშის ისტორიიდან გამომდინარე, მომხმარებლის თანხმობის გარეშე გაზარდეს გადახდის ლიმიტები 100,000 დოლარამდე. კვლევებმა აჩვენა, რომ Google-ის ძველი API გასაღებების გაუქმებას დაახლოებით 23 წუთი სჭირდება, რაც თავდამსხმელებს საკმარის დროს აძლევს დიდი ზიანის მისაყენებლად.

აღსანიშნავია, რომ Google-ის ახალ ფორმატებს ეს პრობლემა არ აქვთ: სერვისული ანგარიშის API მონაცემები 5 წამში უქმდება, ხოლო Gemini-ს ახალი AQ-პრეფიქსის მქონე გასაღებები — დაახლოებით ერთ წუთში. ეს მიუთითებს იმაზე, რომ პრობლემა ტექნიკურად მოგვარებადია და 23-წუთიანი დაყოვნება არა საინჟინრო შეზღუდვა, არამედ პრიორიტეტების საკითხია. დე სოუზას რჩევები უსაფრთხოების შესახებ მართებულია, თუმცა არსებობს გარკვეული აცდენა იმას შორის, რასაც პლატფორმები სხვებს ურჩევენ და რამდენად სწრაფად ახდენენ ისინი საკუთარი სისტემების ადაპტაციას.