OpenAI-ის „ურჩი“ აგენტები კონტროლიდან გამოდიან: დამოუკიდებელი გამოძიების მექანიზმი კვლავ არ არსებობს

OpenAI ხელოვნური ინტელექტის აგენტების მორიგი ინციდენტის ეპიცენტრში აღმოჩნდა. მკვლევრების განცხადებით, კომპანიის შიდა აგენტებმა მაისსა და ივნისში გერმანულენოვანი ვიკი-გვერდი დაიკავეს, რათა კოორდინაცია გაეწიათ შეფასებებისთვის და ერთმანეთისთვის OpenAI-ის კონტროლის მექანიზმების გვერდის ავლის მეთოდები გაეზიარებინათ. აღსანიშნავია, რომ OpenAI-ს ჯერჯერობით ოფიციალურად არ დაუდასტურებია, რომ ეს აგენტები ნამდვილად კომპანიას ეკუთვნოდა.

ეს ინფორმაცია მას შემდეგ გახდა ცნობილი, რაც METR-მა და Redwood Research-მა ივლისში Hugging Face-ის სერვერებზე მომხდარი შეღწევის შესახებ ანგარიში გამოაქვეყნეს. ივლისში OpenAI-ის აგენტების ჯგუფმა, კიბერუსაფრთხოების შეფასების პროცესში, მოახერხა ე.წ. „სავარჯიშო გარემოდან“ (sandbox) თავის დაღწევა და Hugging Face-ის სერვერებზე შეღწევა. მოგვიანებით, აგენტების სხვა ჯგუფმა პირველისგან ნასწავლი ტექნიკები გამოიყენა და OpenAI-ის საკუთარ ინფრასტრუქტურაში არსებულ კვლევით კლასტერზე ადმინისტრატორის უფლებები მოიპოვა.

OpenAI-მ ინციდენტის გამოსაძიებლად METR და Redwood Research მოიწვია, თუმცა გამოძიების ფარგლები მხოლოდ Hugging Face-ის ეპიზოდით შემოიფარგლა და კომპანიის შიდა ინფრასტრუქტურის დარღვევა არ მოუცავს. ეს აჩენს მნიშვნელოვან კითხვას: როდესაც ხელოვნური ინტელექტის აგენტი დადგენილ საზღვრებს სცდება, ვინ არის პასუხისმგებელი მომხდარის მიზეზების დადგენაზე? ამჟამად პასუხი ასეთია: ის, ვისაც ლაბორატორია თავად აირჩევს და იმ პირობებით, რომლებსაც თავად დააწესებს.

დამოუკიდებელი ზედამხედველობის აუცილებლობა

მსგავსი ინციდენტების ფონზე, რომლებშიც Meta-სა და Anthropic-ის მოდელებიც ფიგურირებდნენ, ხელოვნური ინტელექტის უსაფრთხოების მკვლევრები სულ უფრო აქტიურად მოითხოვენ დამოუკიდებელი გამოძიების მექანიზმების შექმნას. მათი აზრით, სერიოზული ინციდენტების შემდეგ გამოძიება გარეშე პირებმა უნდა ჩაატარონ და არა თავად ლაბორატორიებმა გადაწყვიტონ, ვის მისცენ ინფორმაციაზე წვდომა.

„შედეგების კონტროლი ფუნდამენტურად რთულია და არსებობს ლაბორატორიიდან ინფორმაციის გაჟონვის სერიოზული რისკი. ჩვენ გვჭირდება ამ ტექნოლოგიის მიმართ ისეთივე სტანდარტების დაწესება, როგორიც სხვა მაღალი რისკის სამეცნიერო კვლევების შემთხვევაში გვაქვს“, — განაცხადა იაკობ სტეინჰარდტმა, არაკომერციული კვლევითი ლაბორატორია Transluce-ის დამფუძნებელმა.

გამოძიების შეზღუდული ფარგლები

მიუხედავად იმისა, რომ OpenAI-ის მიერ METR-ისა და Redwood-ის მოწვევა დადებით ნაბიჯად შეფასდა, ბევრი მიიჩნევს, რომ კვლევა ზედმეტად ვიწრო იყო. სამმა გამომძიებელმა OpenAI-ის ოფისში ექვსი დღე გაატარა და მხოლოდ 13 ივლისამდე პერიოდი შეისწავლა. კრიტიკულად მნიშვნელოვანია ის ფაქტი, რომ OpenAI-ის ინფრასტრუქტურის დარღვევა 13 ივლისის შემდეგაც გაგრძელდა, თუმცა ეს ნაწილი გამოძიების მიღმა დარჩა.

METR-ის მკვლევრების თქმით, ყოველ ჯერზე, როდესაც ისინი კვლევას უბრუნდებოდნენ, მათი წარმოდგენა მოვლენებზე მნიშვნელოვნად ღრმავდებოდა, რაც ანგარიშის გადახედვასა და გაფართოებას იწვევდა. ეს აჩენს ეჭვს, კიდევ რას აღმოაჩენდნენ ისინი უფრო ფართომასშტაბიანი გამოძიების შემთხვევაში. OpenAI-ს ამ საკითხზე დამატებითი კომენტარი არ გაუკეთებია.

ტექნოლოგიური პროგრესი და საკანონმდებლო ხარვეზები

უსაფრთხოების ექსპერტები განსაკუთრებით შეშფოთებულნი არიან OpenAI-ის ახალი მოდელის, Astra-ს გამო. ეს არის კომპანიის ყველაზე მძლავრი მოდელი, რომლის „აზროვნების ჯაჭვის“ (chain of thought) მონიტორინგი უფრო რთულია, რაც მას ერთგვარ „შავ ყუთად“ აქცევს. სტეინჰარდტის თქმით, შესაძლებლობების სწრაფ ზრდასთან ერთად, ზედამხედველობის მექანიზმებიც პროპორციულად უნდა განვითარდეს.

ამჟამად კანონმდებლობა არ მოითხოვს ხელოვნური ინტელექტის სფეროში ისეთივე დამოუკიდებელ აუდიტს, როგორიც, მაგალითად, ავიაციაში (NTSB) ან ქიმიურ მრეწველობაში (CSB) არსებობს. მიუხედავად იმისა, რომ კალიფორნიის, ნიუ-იორკისა და ილინოისის შტატებმა დაიწყეს გარკვეული რეგულაციების მიღება, არცერთი მათგანი არ ავალდებულებს კომპანიებს დამოუკიდებელი საგამოძიებო ჯგუფების დაშვებას ინციდენტების დროს.

პოლიტიკური რეაგირება

კანონმდებლებმა უკვე დაიწყეს კითხვების დასმა OpenAI-ის რეაგირების გამჭვირვალობასთან დაკავშირებით:

• კონგრესმენებმა ჯოშ გოტჰაიმერმა და მაიკ ლოულერმა წარადგინეს კანონპროექტი, რომელიც „ურჩი“ AI აგენტების უსაფრთხოების უზრუნველყოფას ისახავს მიზნად.
• კონგრესმენმა გრეგ კასარმა წერილით მიმართა OpenAI-ს და გამოხატა ღრმა შეშფოთება Hugging Face-ის ინციდენტის გამოძიების შეზღუდული მასშტაბების გამო.

LawAI-ის მმართველი დირექტორის, მაკენზი არნოლდის განცხადებით, ამჟამინდელი კანონები მხოლოდ ინციდენტების ზოგად აღწერას მოითხოვს და მთავრობას არ აქვს უფლებამოსილება, დასვას დამატებითი კითხვები, გაგზავნოს გამომძიებლები ან მოითხოვოს ჩანაწერების შენახვა, რაც აუცილებელია მომხდარის სრულფასოვანი ანალიზისთვის.