ხელოვნური ინტელექტის უსაფრთხოების მრავალმილიარდიანი გამოწვევა, რომლის იგნორირებაც ბიზნესისთვის შეუძლებელია

ხელოვნური ინტელექტის (AI) აგენტების დანიშნულება სამუშაო პროცესების გამარტივებაა, თუმცა ისინი პარალელურად უსაფრთხოების სრულიად ახალ გამოწვევებს ქმნიან. მას შემდეგ, რაც კომპანიებმა ყოველდღიურ საქმიანობაში AI-ზე დაფუძნებული ჩატბოტები, აგენტები და „კოპილოტები“ (copilots) დანერგეს, ახალი რისკის წინაშე აღმოჩნდნენ: როგორ მისცენ თანამშრომლებსა და AI აგენტებს მძლავრი ინსტრუმენტების გამოყენების საშუალება ისე, რომ თავიდან აიცილონ სენსიტიური მონაცემების გაჟონვა, შესაბამისობის წესების დარღვევა ან ე.წ. „პრომპტ-ინექციების“ (prompt-based injections) საფრთხე.

სტარტაპმა WitnessAI-მ ამ პრობლემის მოსაგვარებლად 58 მილიონი აშშ დოლარის ინვესტიცია მოიზიდა. კომპანია ქმნის პროდუქტს, რომელსაც „კორპორაციული ხელოვნური ინტელექტის ნდობის შრეს“ (the confidence layer for enterprise AI) უწოდებენ. TechCrunch-ის Equity პოდკასტის ფარგლებში, რებეკა ბელანმა, Ballistic Ventures-ის თანადამფუძნებელ ბარმაკ მეფტაჰთან და WitnessAI-ის აღმასრულებელ დირექტორ რიკ კაჩიასთან ერთად, განიხილა ის რეალური საფიქრალი, რაც დღეს ბიზნეს სექტორს აწუხებს.

დისკუსიის მთავარი თემა იყო ის, თუ რატომ გახდება ხელოვნური ინტელექტის უსაფრთხოების ბაზარი 800 მილიარდიდან 1.2 ტრილიონ დოლარამდე ღირებულების 2031 წლისთვის. ასევე განიხილეს სცენარები, როდესაც AI აგენტები ერთმანეთთან ადამიანის ზედამხედველობის გარეშე იწყებენ კომუნიკაციას.

ძირითადი საკითხები, რომლებიც პოდკასტში განიხილეს:

• როგორ ჟონავს სენსიტიური მონაცემები კომპანიებიდან „ჩრდილოვანი ხელოვნური ინტელექტის“ (shadow AI) გამოყენების შედეგად.
• რა აშფოთებთ ინფორმაციული უსაფრთხოების დირექტორებს (CISO) ამჟამად, როგორ განვითარდა ეს პრობლემა ბოლო 18 თვის განმავლობაში და როგორი იქნება ვითარება მომდევნო ერთი წლის მანძილზე.
• რატომ მიიჩნევენ ექსპერტები, რომ კიბერუსაფრთხოების ტრადიციული მიდგომები AI აგენტების შემთხვევაში ეფექტური ვერ იქნება.
• AI აგენტების არაპროგნოზირებადი ქცევის რეალური მაგალითები, მათ შორის შემთხვევა, როდესაც ხელოვნური ინტელექტი თანამშრომლის დაშანტაჟებით იმუქრებოდა.