როგორ აფერხებს ხელოვნური ინტელექტის უსაფრთხოების ბარიერები კიბერუსაფრთხოების მკვლევრების მუშაობას

თვეების განმავლობაში ხელოვნური ინტელექტის (AI) გიგანტები ქმნიდნენ სპეციალურ ვერიფიკაციის პროგრამებსა და მკაცრ უსაფრთხოების ბარიერებს (guardrails), რათა შეეზღუდათ თავიანთი მოდელების გამოყენება ბოროტმოქმედი ჰაკერების მიერ. თუმცა, ეს შეზღუდვები ახლა ხელს უშლის არა მხოლოდ ქსელის ლეგიტიმურ დამცველებს, არამედ კიბერუსაფრთხოების შემტევ მკვლევრებსაც.

ივნისში აშშ-ის მთავრობამ საექსპორტო კონტროლის შეზღუდვები დააწესა Anthropic-ის გახმაურებულ AI მოდელებზე — Mythos-სა და Fable-ზე. ეს ნაბიჯი ნაწილობრივ განპირობებული იყო ანგარიშით, რომლის თანახმადაც შესაძლებელი იყო მოდელების იმ ბარიერების გვერდის ავლით, რომლებიც მომხმარებლებს მავნე კიბერშეტევების მომზადებასა და განხორციელებაში უშლიდა ხელს. მიუხედავად იმისა, იყო თუ არა ეს ინციდენტი რეალურად გამოწვეული სისტემის გატეხვის (jailbreak) შიშით, ფაქტია, რომ Anthropic მუდმივად ახდენდა Mythos-ის მარკეტინგს, როგორც ერთგვარი „განკითხვის დღის კიბერმანქანის“, რომელიც მხოლოდ მკაცრად შემოწმებულ მომხმარებლებს უნდა გადაეცეთ.

აღსანიშნავია, რომ Fable 5-სა და Mythos 5-ზე საექსპორტო კონტროლი მოგვიანებით მოიხსნა. Fable 5 საჯარო წვდომაში 1 ივლისს დაბრუნდა, ხოლო Mythos 5 ხელახლა მხოლოდ აშშ-ის ვერიფიცირებული ორგანიზაციებისთვის გახდა ხელმისაწვდომი, სამთავრობო განხილვის პროცესის ფარგლებში. მსგავსი მიდგომა მხოლოდ Mythos-ით არ შემოიფარგლება. როგორც Anthropic, ისე OpenAI, კიბერუსაფრთხოების მკვლევრებს სთავაზობენ პროგრამებს, სადაც მათ შეუძლიათ გაიარონ ვერიფიკაცია და დამტკიცების შემთხვევაში მიიღონ წვდომა მოდელებზე ნაკლები შეზღუდვებით. ესენია OpenAI-ის Trusted Access for Cyber და Anthropic-ის Cyber Verification Program.

კრიტიკა უსაფრთხოების ექსპერტების მხრიდან

ეს უსაფრთხოების ბარიერები ფართო კრიტიკის საგანი გახდა, განსაკუთრებით იმ მკვლევრების მხრიდან, რომელთა სამუშაოც სისტემებში უცნობი სუსტი წერტილების პოვნა და მათი გამოყენების გზების შემუშავებაა, სანამ ამას კრიმინალები გააკეთებენ. ცნობილმა უსაფრთხოების მკვლევარმა, მარკ დაუდმა, ერთ-ერთ პოდკასტში აღნიშნა, რომ მისთვის მიუღებელია, როდესაც კერძო კომპანიები თვითნებურად წყვეტენ, რა არის უსაფრთხო და რა არა.

„ჩემთვის არაკომფორტულია, რომ ეს შემთხვევითი მსხვილი კომპანიები იღებენ თვითნებურ გადაწყვეტილებებს იმის შესახებ, თუ რა არის უსაფრთხოებაში დაცული და რა არა“, — განაცხადა დაუდმა.

დაუდი ათწლეულების განმავლობაში პოულობს და ყიდის „ნულოვანი დღის“ (zero-day) მოწყვლადობებს დასავლეთის მთავრობებზე. მთავრობები ამ ხარვეზებში დიდ თანხებს იხდიან სწორედ იმიტომ, რომ ისინი ღია რჩება, რაც სადაზვერვო ოპერაციებისთვის გამოსადეგია. მიუხედავად იმისა, რომ დაუდი აღიარებს საკუთარ მიკერძოებულობას, ის ერთადერთი არ არის, ვინც ამ პრობლემაზე საუბრობს.

AI როგორც „ჩაქუჩი“: იარაღი და ინსტრუმენტი ერთდროულად

NCC Group-ის მთავარმა მეცნიერმა, კრის ენლიმ, განმარტა, რომ AI მოდელისთვის ხარვეზის გამოყენების (exploit) დავალება საკვანძო ნაბიჯია იმის დასადასტურებლად, რომ მოწყვლადობა რეალურია და გამოსწორებას საჭიროებს. თუმცა, თუ ბარიერი მოდელს პასუხზე უარს ათქმევინებს, ეს აზიანებს დამცველებს.

• ორმაგი დანიშნულება: მოთხოვნა „გაასწორე ეს კოდი“ ერთდროულად არის თავდაცვის მექანიზმიც და გზამკვლევიც კოდში კრიტიკული ხარვეზების საპოვნელად.
• ინსტრუმენტის ბუნება: ენლი AI-ს ჩაქუჩს ადარებს — მისი გამოყენებით სახლსაც ააშენებ, მაგრამ ის ასევე შეიძლება იარაღადაც იქცეს.

როდესაც მკვლევრები ასეთ დაბრკოლებებს აწყდებიან, ისინი ხშირად გადადიან ღია კოდის მქონე AI მოდელებზე, რომლებსაც არანაირი შეზღუდვა არ გააჩნიათ.

მონაცემთა კონფიდენციალურობა და ლოკალური მოდელები

პაოლო სტანიო, კომპანია Crowdfense-ის ტექნოლოგიური დირექტორი, ეთანხმება მოსაზრებას, რომ AI კომპანიები მომხმარებლებს ისე ეპყრობიან, როგორც ბავშვებს, რომლებსაც მუდმივი მეთვალყურეობა სჭირდებათ. მისი თქმით, ისინი იყენებენ წამყვან მოდელებს, მაგრამ მხოლოდ „უკუინჟინერიისთვის“ (reverse engineering).

სტანიო ერიდება AI-ს გამოყენებას მოწყვლადობების საპოვნელად ან ექსპლოიტების შესაქმნელად ღრუბლოვან მოდელებში, რადგან არსებობს სენსიტიური მონაცემების გაჟონვის ან მათი მომავალი წვრთნისთვის გამოყენების რისკი. ამ ნაბიჯისთვის ისინი იყენებენ ლოკალურად გაშვებულ ღია კოდის მოდელებს, რომლებიც არ საჭიროებენ მონაცემების გარეთ გაზიარებას.

მკვლევრების დამოკიდებულება და AI რბოლა

ჯუზეპე კალი, კიდევ ერთი უსაფრთხოების მკვლევარი, აღნიშნავს, რომ ბარიერები მას ხელს არ უშლის, რადგან ის AI-ს მხოლოდ დამხმარე ინსტრუმენტად იყენებს კოდის გასაანალიზებლად. მას ურჩევნია, ხარვეზების აღმოჩენისა და მათი „შეიარაღების“ პროცესი თავად მართოს.

თუმცა, სმარტფონების კომპონენტების მწარმოებელი ერთ-ერთი კომპანიის მკვლევარი, რომელმაც ანონიმურობის პირობით ისაუბრა, ამბობს, რომ Anthropic-ის შეზღუდვები ზედმეტად მკაცრია. თუ სისტემა იგრძნობს, რომ მუშაობა უსაფრთხოებასთანაა დაკავშირებული, ის უბრალოდ წყვეტს ფუნქციონირებას.

კრის ტომპსონმა, RemoteThreat-ის ხელმძღვანელმა, ხაზი გაუსვა, რომ ბარიერები ხშირად არათანმიმდევრულია:

1. მკვლევრები დიდ დროს ხარჯავენ მოდელთან „მოლაპარაკებაზე“ ნაცვლად იმისა, რომ უსაფრთხოების საკითხებზე იმუშაონ.
2. მოდელები ხშირად ზედმეტად ფილტრავენ (over-sanitizing) გამომავალ ინფორმაციას.
3. შედეგად, მკვლევრები იძულებულნი არიან გამოიყენონ ჩინური ღია კოდის მოდელები, როგორიცაა GLM, რომელთა ჩამოტვირთვა და ლოკალურად გაშვება ყოველგვარი შეზღუდვის გარეშეა შესაძლებელი.

ტომპსონის აზრით, პასუხისმგებლიანი მკვლევრების ჩამოშორება დასავლური სისტემებიდან და მათი გადამისამართება უცხოურ პლატფორმებზე უფრო მეტ ზიანს აყენებს სფეროს, ვიდრე სარგებელს. ის მოუწოდებს AI ლაბორატორიებს, გახსნან თავიანთი პროგრამები და პასუხისმგებლობა დააკისრონ მათ, ვინც ინსტრუმენტებს ბოროტად იყენებს, წინააღმდეგ შემთხვევაში, დამცველები AI რბოლაში დამარცხდებიან.