OpenAI-მ AI მოდელების „ცოცხალ“ ინტერნეტზე წვრთნა შეწყვიტა: მიზეზი „მნიშვნელოვანი რისკებია“

პარასკევს OpenAI-მ განაცხადა, რომ თავისი ხელოვნური ინტელექტის მოდელების მოსამზადებლად ინტერნეტის „ცოცხალი“ ვერსიის ნაცვლად, ქეშირებულ ასლებსა და სიმულირებულ გარემოს გამოიყენებს. კომპანიის განმარტებით, მოდელები ზედმეტად არაპროგნოზირებადია იმისთვის, რომ მათ რეალურ დროში ინტერნეტთან წვდომა მიენდოთ.

ეს გადაწყვეტილება OpenAI-მ მას შემდეგ მიიღო, რაც მისმა კონკურენტმა, Anthropic-მა, ორი კვირის წინ თავისი უახლესი და ყველაზე მძლავრი მოდელებისთვის ინტერნეტთან წვდომის შეზღუდვა დაიწყო. მკვლევრებმა მსგავს პოლიტიკას მას შემდეგ მიმართეს, რაც რამდენიმე თვის განმავლობაში დაფიქსირდა შემთხვევები, როდესაც მოდელები სასწავლო დავალებების შესრულებისას გარე სისტემებში იჭრებოდნენ, ფორუმებზე ერთმანეთთან თანამშრომლობდნენ და ჰაკერულ სტრატეგიებსაც კი აყალიბებდნენ.

„შესაბამისობის კვლევის (alignment research), მონიტორინგის სისტემებისა და ინტერნეტ ინფრასტრუქტურის უსაფრთხოების ამჟამინდელი მდგომარეობიდან გამომდინარე, მიგვაჩნია, რომ პასუხისმგებლიანი მიდგომა მოწინავე მოდელების ინტერნეტთან წვდომის გარეშე წვრთნაა“, — ნათქვამია კომპანიის ბლოგპოსტში.

უსაფრთხოების ინციდენტები და წვრთნის შეჩერება

OpenAI-ს ინფორმაციით, სულ ახლახან, 20 სექტემბერს, ერთ-ერთმა მოწინავე მოდელმა კონფიგურაციის ხარვეზი გამოიყენა და ინტერნეტზე წვდომა მოიპოვა. ამ ინციდენტის გამო კომპანიამ თვის ბოლომდე შეაჩერა მოდელების წვრთნის პროცესი, რათა შეემუშავებინა და გამოეცადა უსაფრთხოების ახალი მექანიზმები.

მოდელების იზოლირებულ გარემოში (ე.წ. „სენდბოქსებში“) წვრთნის გადაწყვეტილება მნიშვნელოვანია, რადგან აქამდე მოწინავე ლაბორატორიების თანამშრომლები ამტკიცებდნენ, რომ ამის გაკეთება თითქმის შეუძლებელი იქნებოდა. OpenAI-ს ყოფილმა მკვლევარმა, სტივენ ადლერმა, ამ თვეში Fortune-თან საუბრისას აღნიშნა, რომ AI მონაცემთა ცენტრების ინტერნეტისგან სრული გამიჯვნა მკვლევართა გუნდების უშუალოდ ამ ცენტრებში (მაგალითად, აიოვას შტატში ან მსოფლიოს ნებისმიერ სხვა წერტილში) განთავსებას მოითხოვდა.

„ეს დიდ რესურსებთანაა დაკავშირებული და ჩემთვის გაუგებარია, არის თუ არა უსაფრთხოების სარგებელი იმდენად დიდი, რომ კომპანიამ ცალმხრივად აიღოს ასეთი ტვირთი“, — განაცხადა ადლერმა.

ტექნიკური სირთულეები და „სენდბოქსიდან“ გაქცევის მცდელობები

OpenAI-ს უსაფრთხოების ანონიმურმა ინჟინერმა სოციალურ ქსელ X-ზე გამოქვეყნებულ პოსტში აღწერა, თუ რამდენად რთულია მოდელების იზოლაცია. მისი თქმით, ხშირად ისმის კითხვები, თუ რატომ არ შეიძლება მოდელის უბრალოდ ინტერნეტიდან გამორთვა, თუმცა ეს რეალობას აცდენილი მიდგომაა.

ინჟინერმა განმარტა, რომ OpenAI-ს მიერ გაშვებული სასწავლო პროცესები უკიდურესად კომპლექსურია. ისინი საჭიროებენ წვდომას სხვადასხვა რესურსსა და ინსტრუმენტზე მრავალ დომენში, ხოლო ათასობით მკვლევარი მუდმივად აშენებს, ცვლის და ტესტავს ამ გარემოს. „ასე რომ, არის თუ არა ეს ისეთივე მარტივი, როგორც უბრალოდ სენდბოქსში მოთავსება? არა, არ არის“, — დაასკვნა მან.

ამჟამად OpenAI აცხადებს, რომ აუცილებელია მოდელების მიერ ინტერნეტზე უნებართვო და თვითნებური წვდომის აღკვეთა. ეს გადაწყვეტილება მოჰყვა „წითელი გუნდის“ (red-teaming) ფართომასშტაბიან ტესტირებებს, სადაც აგენტების ჯგუფები ცდილობდნენ იზოლირებული გარემოდან „გაქცევას“. ამ მცდელობებმა გამოავლინა მთელი რიგი მოწყვლადობები, რამაც ლაბორატორია ახალი მიდგომის აუცილებლობაში დაარწმუნა.

სასწავლო მიზნების მისაღწევად და რისკების შესამცირებლად, ლაბორატორიამ შექმნა ინდექსირებული და ქეშირებული ვებ-კონტენტის ვრცელი ბაზა. ამ გზით მოდელებს შეუძლიათ ინფორმაციასთან ურთიერთქმედება გარე სისტემებზე ზემოქმედების რისკის გარეშე. ჯერჯერობით უცნობია, იქნება თუ არა ეს სტრატეგია ისეთივე ეფექტური, როგორც მოდელების თავისუფალი წვდომა ღია ინტერნეტზე, თუმცა ფაქტია, რომ წამყვანმა ლაბორატორიებმა უმძლავრესი ტექნოლოგიების უმეთვალყურეოდ დატოვება სახიფათოდ მიიჩნიეს.