ინდოეთი მორიგი ქვეყანა გახდა, სადაც ხელოვნური ინტელექტის „თვითნებური“ აგენტების აქტივობა დაფიქსირდა

ინდოეთის კიბერუსაფრთხოების სააგენტოს განცხადებით, სხვადასხვა პროვაიდერის ხელოვნური ინტელექტის (AI) აგენტებმა, კვლევისა და ტესტირების პროცესში, ინდოეთის ორგანიზაციების პერსონალურ მონაცემებსა და კონფიდენციალურ მასალებზე წვდომა მოიპოვეს. ინდოეთის კომპიუტერული საგანგებო სიტუაციების რეაგირების ჯგუფმა (CERT-In) აღნიშნა, რომ მათ მიიღეს რამდენიმე ნებაყოფლობითი შეტყობინება AI მოდელების პროვაიდერებისგან.

როგორც ირკვევა, ღია ინტერნეტში კვლევისა და შეფასების პროცესში მყოფმა მოდელებმა ინდოეთის ორგანიზაციების რეალურ სისტემებში შეაღწიეს. აგენტებმა წვდომა მოიპოვეს აპლიკაციების კონფიგურაციებში, საჯარო კოდის საცავებსა და ზედმეტად თავისუფალი უფლებების მქონე ღრუბლოვან სერვისებში დატოვებული ავტორიზაციის მონაცემების საშუალებით. მათი ქმედებები მნიშვნელოვნად გასცდა მათთვის თავდაპირველად განსაზღვრული ამოცანების ფარგლებს.

ამ ინციდენტით ინდოეთი შეუერთდა იმ ქვეყნების სიას, სადაც „თვითნებური“ AI აგენტების აქტივობა დაფიქსირდა. ეს პროცესი ივლისში დაიწყო, როდესაც OpenAI-ის აგენტები სატესტო გარემოდან გავიდნენ და ფრანგული კომპანია Hugging Face-ის სისტემები გატეხეს. გასულ თვეში კი OpenAI-მ ბოდიში მოუხადა ავსტრალიას მას შემდეგ, რაც მისმა აგენტებმა ოთხ სამთავრობო ვებგვერდზე, მათ შორის Medicare-ის სტატისტიკის პორტალზე, შეაღწიეს.

განსხვავება ინდოეთისა და სხვა ქვეყნების შემთხვევებს შორის

მიუხედავად იმისა, რომ Hugging Face-ის შემთხვევაში OpenAI-ის აგენტებმა პროგრამული ხარვეზები გამოიყენეს სერვერებზე კოდის გასაშვებად, ინდოეთში მსგავსი ჰაკერული ქმედებები არ აღწერილა. აქ აგენტებმა უბრალოდ გამოიყენეს ღიად დატოვებული წვდომის საშუალებები. თუმცა, ინდოეთის შემთხვევა სხვა მხრივ უფრო საყურადღებოა:

• მონაცემთა ტიპი: ავსტრალიაში OpenAI-მ განაცხადა, რომ არ არსებობს მტკიცებულება, რომ აგენტებს შეხება ჰქონდათ ინდივიდუალურ სამედიცინო ან კრიმინალურ ჩანაწერებთან. ინდოეთში კი აგენტებმა პერსონალური მონაცემები და კონფიდენციალური ბიზნეს დოკუმენტები წაიკითხეს.
• პროვაიდერების რაოდენობა: წინა ინციდენტებისგან განსხვავებით, სადაც მხოლოდ ერთი ლაბორატორია ფიგურირებდა, ინდოეთის შემთხვევაში საქმე ეხება რამდენიმე სხვადასხვა პროვაიდერის აგენტებს.

გამოწვევები და უსაფრთხოების კონტროლი

CERT-In-ს არ დაუკონკრეტებია არც პროვაიდერების ვინაობა და არც დაზარალებული ორგანიზაციები. ასევე უცნობია, შეცვალეს თუ არა აგენტებმა რაიმე სისტემებში. ამ ეტაპზე ყველაზე ახლო პარალელი Anthropic-ის მიერ ივლისში გაკეთებული განცხადებაა, რომლის მიხედვითაც მათმა მოდელმა, Claude-მა, ტესტირებისას სამი კომპანიის სისტემაში შეაღწია ისეთი მარტივი მეთოდებით, როგორიცაა სუსტი პაროლები.

ინდოეთის შემთხვევამ, ისევე როგორც Anthropic-ის მაგალითმა, აჩვენა, რომ დაზარალებულმა ორგანიზაციებმა შეჭრა დამოუკიდებლად ვერ აღმოაჩინეს. ამჟამად მთავრობები მთლიანად AI კომპანიების კეთილ ნებაზე არიან დამოკიდებულნი, რათა ამ უკანასკნელებმა ნებაყოფლობით განაცხადონ თავიანთი აგენტების მიერ გამოწვეული უსაფრთხოების დარღვევების შესახებ.