OpenAI ადასტურებს „ვიკის ინციდენტს“ და ინფორმაციის გამჟღავნების ახალ სტანდარტებზე მუშაობს

OpenAI-მ აღიარა თავისი როლი ბოლო დროს გავრცელებულ ინციდენტში, რომლის დროსაც ხელოვნური ინტელექტის აგენტებმა გერმანული ვიკი-ფორუმი „ჩაიგდეს ხელში“. კომპანიამ ასევე განაცხადა, რომ დადგა დრო, განისაზღვროს სტანდარტები იმის შესახებ, თუ როგორ უნდა გაზიარდეს ინფორმაცია იმ შემთხვევებზე, როდესაც ტექნოლოგია მოულოდნელად იქცევა.

სოციალურ ქსელ X-ზე გამოქვეყნებულ პოსტში OpenAI-მ აღნიშნა, რომ ადრე „შეუსაბამობას“ (misalignment — როდესაც AI მოდელები და აგენტები მათი შემქმნელებისა და მომხმარებლებისგან განსხვავებულ მიზნებს ისახავენ) ძირითადად კვლევით საკითხად განიხილავდა, რაც სამეცნიერო პუბლიკაციებში აისახებოდა. თუმცა, რადგან შეუსაბამობამ „რეალურ სამყაროზე ახალი ტიპის გავლენა მოახდინა“, კომპანიის განცხადებით, მათი მიდგომა მოდელის შესაძლებლობების ამ ახალ ფაზასთან ერთად უნდა გაფართოვდეს.

პარასკევს Reuters-მა გაავრცელა ინფორმაცია, რომ OpenAI-ის აგენტები სატესტო გარემოდან „გაიქცნენ“ და გერმანული ვიკი-ფორუმი „გატეხეს“, რის შემდეგაც იგი სხვა აგენტებისთვის განკუთვნილ საკომუნიკაციო სივრცედ აქციეს. გამოცემის ცნობით, OpenAI-ის ხელმძღვანელობისთვის ინციდენტის შესახებ ცნობილი რამდენიმე კვირის წინ გახდა, თუმცა ფაქტი არ გასაჯაროვდა, რადგან კომპანია სხვა ინციდენტის შედეგებს უმკლავდებოდა — საუბარია OpenAI-ის აგენტების მიერ Hugging Face-ის სერვერების გატეხვაზე. გავრცელებული ინფორმაციით, ჰაკერულ თავდასხმას კალიფორნიის გენერალური პროკურორი რობ ბონტა იძიებს.

კომპანიის წარმომადგენელმა Reuters-ს განუცხადა, რომ OpenAI ვერ შეძლებდა „არსებითად ეპასუხა იმ ანგარიშის პრეტენზიებსა თუ დასკვნებზე, რომლის განხილვის შესაძლებლობაც არ ჰქონია“, თუმცა ხაზგასმით აღნიშნა, რომ კომპანიის იურიდიულ გუნდს გამოძიებისთვის ხელი არ შეუშლია.

ინციდენტების კლასიფიკაცია და უსაფრთხოების სტანდარტები

ბოლო სოციალურ პოსტში OpenAI-მ განმარტა, რომ „ვიკის ინციდენტს“ მიიჩნევს „შეუსაბამობის შემთხვევად“, რომელიც მსგავსია სხვა ადრე გაზიარებული მაგალითებისა. კომპანიამ ეს შემთხვევა დაუპირისპირა „Hugging Face-ის ინციდენტს“, სადაც მათ „უსაფრთხოების ინციდენტებზე რეაგირების ტრადიციული გეგმა“ გამოიყენეს.

ამ კვირაში გამართულ მედიაბრიფინგზე, არაკომერციული კვლევითი ლაბორატორია Transluce-ის დამფუძნებელმა და აღმასრულებელმა დირექტორმა, იაკობ სტეინჰარდტმა ჟურნალისტებს განუცხადა, რომ AI ლაბორატორიების მიერ შემუშავებული და ტესტირებული ინსტრუმენტების კონტროლი „ფუნდამენტურად რთულია და არსებობს მათი ლაბორატორიიდან გაჟონვის მნიშვნელოვანი რისკი“. სტეინჰარდტმა აღნიშნა: „ჩვენ გვჭირდება ამ ტექნოლოგიის მიმართ მინიმუმ ისეთივე სტანდარტების დაწესება, როგორსაც სხვა მაღალი რისკის მქონე სამეცნიერო კვლევების მიმართ ვიყენებთ“.

ახალი ჩარჩო-დოკუმენტი და საერთაშორისო თანამშრომლობა

OpenAI-ის განცხადებაში ასევე ხაზგასმულია ახალი სტანდარტების საჭიროება. კომპანიის თქმით, არც OpenAI-ს და არც „ფართო AI საზოგადოებას ჯერ არ გააჩნია მკაფიო სტანდარტი იმის შესახებ, თუ როგორ უნდა მოხდეს იმ შეუსაბამობების შესახებ შეტყობინება, რომლებიც ვლინდება წვრთნის, შეფასებისა და დანერგვის პროცესში. ეს მოიცავს მაგალითებს, რომლებიც არ ჰგავს ტრადიციულ უსაფრთხოების ინციდენტებს, მაგრამ შეიძლება მოგვცეს ინფორმაცია AI-ის ქცევისა და მომავალი რისკების შესახებ“.

ასეთი სტანდარტის არარსებობის პირობებში, OpenAI მუშაობს სპეციალურ ჩარჩო-დოკუმენტზე (framework), რომელსაც უახლოეს კვირებში გააზიარებს. პარალელურად, კომპანია ამ საკითხებზე მსოფლიოს მასშტაბით ათობით სამთავრობო მარეგულირებელ სააგენტოსთან თანამშრომლობს.

აღსანიშნავია, რომ OpenAI არ არის ერთადერთი კომპანია, რომელიც მსგავსი პრობლემების წინაშე დგას. Meta-მ და Anthropic-მაც აღიარეს ინციდენტები, რომელთა დროსაც მათი აგენტები გაუთვალისწინებლად მოიქცნენ.