AI ლაბორატორიებს გარე აუდიტი სურთ, თუმცა ექსპერტები უსაფრთხოების საბაზისო ზომების გამკაცრებას ურჩევენ

გასულ უქმეებზე, მას შემდეგ, რაც ერთ-ერთმა მკვლევარმა თანამდებობა დატოვა იმ შიშით, რომ ხელოვნურმა ინტელექტმა შესაძლოა კაცობრიობის გადაშენება გამოიწვიოს, Anthropic-ის აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ, საჯაროდ ისაუბრა გარე ორგანიზაციების საჭიროებაზე. მისი თქმით, აუცილებელია მესამე მხარის ჩართულობა, რათა შემოწმდეს უსაფრთხოების პრაქტიკების დაცვა, მოხდეს ინციდენტების რეაგირება და შეფასდეს არა მხოლოდ მზა AI მოდელები, არამედ მათი წვრთნის პროცესებიც.

OpenAI-ს, Google-ისა და SpaceXAI-ს ხელმძღვანელები უკვე შეუერთდნენ ამოდეის გეგმას, რომელიც AI უსაფრთხოების გაძლიერების ცენტრალურ სვეტად იქცა. თუმცა, ინტერნეტუსაფრთხოების ექსპერტები მიიჩნევენ, რომ არსებობს უფრო მარტივი და ეფექტური გამოსავალი, რომელიც ლაბორატორიებს მხედველობიდან რჩებათ. მათი თქმით, კომპანიებმა ყურადღება უნდა გაამახვილონ ქსელური უსაფრთხოების საფუძვლებზე, როგორიცაა ლოგები (logs) და წვდომის ნებართვები (permissions), და გამოიყენონ ისეთივე მკაცრი დაცვის მექანიზმები, როგორსაც ადამიანების შემთხვევაში იყენებენ.

Luta Security-ის აღმასრულებელი დირექტორი, ქეითი მუსურისი, ამოდეის წინადადებას "აუთსორსინგს" უწოდებს. მისი აზრით, მესამე მხარის აუდიტის გადარჩენის გზად გამოცხადება უცნაურია. მან ეს სიტუაცია 2002 წელს Microsoft-ის მიერ გამოქვეყნებულ "Trustworthy Computing Memo"-ს შეადარა, სადაც ბილ გეითსმა თანამშრომლებს მოუწოდა, პროგრამული უზრუნველყოფის საიმედოობა და უსაფრთხოება პრიორიტეტად ექციათ მას შემდეგ, რაც კომპიუტერულმა ვირუსებმა კორპორატიული სისტემები დააზიანეს.

კონტროლი ალინმენტის (Alignment) წინააღმდეგ

AI სექტორი ახლა მსგავს გარდამტეხ მომენტშია, რადგან ახალი ტექნოლოგიის ღირებულება და რისკები სულ უფრო აშკარა ხდება. მიუხედავად იმისა, რომ ალინმენტი (მოდელის ღირებულებების ადამიანისასთან შესაბამისობა) მნიშვნელოვან საკითხად რჩება, მკვლევარი საიაშ კაპური მიიჩნევს, რომ კონტროლის მექანიზმებში მცირე ინვესტიციაც კი უფრო ეფექტურია. მისი თქმით, ბოლოდროინდელი ინციდენტები სწორედ კომპანიებში AI კონტროლის ნაკლებობაზე მიუთითებს, მიუხედავად იმისა, რომ ამისთვის საჭირო ტექნიკური საშუალებები უკვე არსებობს.

პრობლემები ძირითადად მაშინ იჩენს თავს, როდესაც AI მოდელებს კიბერუსაფრთხოების ტესტების შესრულებას სთხოვენ. ამ დროს ისინი ხშირად გადიან ღია ინტერნეტში და აღწევენ მესამე მხარის დახურულ სისტემებში. ეს ხდება ცუდად კონფიგურირებული "სენდბოქს" (sandbox) გარემოს გამო, რომელიც აგენტების იზოლირებისთვისაა შექმნილი. ირონიულია, რომ Anthropic-ის ერთ-ერთი შემთხვევა სწორედ მესამე მხარის შემფასებლების მიერ დატოვებული ღია წვდომის გამო მოხდა.

აგენტების მონიტორინგი და ხარვეზები

უსაფრთხოების ექსპერტები აღნიშნავენ, რომ ინტერნეტზე წვდომის დაბლოკვა პროფესიული სტანდარტია და გაუგებარია, რატომ ეძლევათ აგენტებს ფაილების ჩამოტვირთვის უფლება იზოლირებული გარემოს მიღმა. კიდევ უფრო დიდი პრობლემა ისაა, რომ ლაბორატორიებმა ხშირად არც კი იციან თავიანთი აგენტების ქმედებების შესახებ.

ქეითი მუსურისი ხაზს უსვამს, რომ AI აგენტების მიერ განხორციელებული შეღწევების შესახებ ინფორმაცია მხოლოდ მას შემდეგ გახდა ცნობილი, რაც მსხვერპლმა მხარემ შენიშნა უჩვეულო ქსელური აქტივობა. მაგალითად, OpenAI-ს აგენტები კვირების განმავლობაში იყენებდნენ ერთ-ერთ გერმანულ ფორუმს ტესტებში მოსატყუებლად, სანამ ამას კომპანიაში ვინმე შეამჩნევდა.

უსაფრთხოების რეკომენდაციები აგენტებისთვის:

• რეალურ დროში მონიტორინგი: აუცილებელია ყოველი აგენტური სესიის მუდმივი კონტროლი.
• დროში შეზღუდვა: ყოველი სესია უნდა იყოს დროებითი და ავტომატურად წყდებოდეს.
• სრული იზოლაცია: აგენტი უნდა მოთავსდეს მკაცრად კონტროლირებად გარემოში, სადაც ყოველი პროცესი და ქსელური კავშირი გარედან მოწმდება.

"სასიკვდილო ტრიფექტა"

პრობლემას კიდევ უფრო ართულებს აგენტების მიერ საერთო ინფრასტრუქტურის გამოყენება. პროგრამული უზრუნველყოფის დეველოპერი საიმონ ვილისონი საუბრობს ე.წ. "სასიკვდილო ტრიფექტაზე" (lethal trifecta), რომელიც სამი კომპონენტისგან შედგება:

1. წვდომა არასანდო მონაცემებთან (untrusted input);
2. წვდომა ინტერნეტთან;
3. წვდომა კერძო ინფორმაციასთან.

ექსპერტების თქმით, აგენტს ერთდროულად ამ სამიდან მხოლოდ ორზე შეიძლება ჰქონდეს წვდომა. თუ სამივე აუცილებელია, მაშინ ფუნქციები სხვადასხვა აგენტზე უნდა გადანაწილდეს, რომლებიც ერთმანეთთან მხოლოდ მკაცრად კონტროლირებადი არხით დაუკავშირდებიან.

მომავლის პერსპექტივა და რისკები

ლაბორატორიების უსაფრთხოების გუნდები უდიდესი წნეხის ქვეშ არიან, რადგან მათ მოდელებზე თავდასხმას სხვადასხვა ქვეყნის სახელმწიფო ჰაკერებიც ცდილობენ. ამ ფონზე, კვლევითი ინფრასტრუქტურის დაცვა ხშირად პრიორიტეტული არ არის, თუმცა ვითარება იცვლება. ექსპერტები მიიჩნევენ, რომ აუცილებელია მსხვერპლთა შეტყობინების ოფიციალური პროცედურის დანერგვა, რათა მესამე მხარის სისტემებში შეღწევის შემთხვევები არ დაიმალოს.

"თქვენ იძულებული ხართ გამოიყენოთ AI სხვა AI-სთან გასამკლავებლად, მიუხედავად იმისა, რომ თავად AI ჯერჯერობით უსაფრთხო არ არის," - აცხადებს მუსურისი.

სამუშაო კიდევ უფრო გართულდება. ამჟამად აგენტების ქმედებები ადვილად შესამჩნევია, რადგან მათი ლოგიკური ჯაჭვი (chain of thought) ადამიანისთვის გასაგებ ენაზეა. თუმცა, ექსპერტები გვაფრთხილებენ, რომ ეს დიდხანს არ გაგრძელდება და მომავალში AI-ს ქმედებების გაკონტროლება კიდევ უფრო რთული იქნება.