OpenAI-მ ახალი AI მოდელის გამოშვება უსაფრთხოების რისკების გამო გააუქმა

OpenAI გეგმავდა კიდევ ერთი ხელოვნური ინტელექტის მოდელის გამოშვებას მომავალ თვეში, თუმცა კომპანიამ გადაწყვიტა რელიზი უსაფრთხოების საკითხებთან დაკავშირებული შეშფოთების გამო გააუქმოს. The Wall Street Journal-ის ინფორმაციით, Astra 6.1-ის გამოშვება უახლოეს დღეებში იგეგმებოდა.

გამოცემა წერს, რომ ტესტირების პროცესში მოდელმა წინა ვერსიებთან შედარებით „დეცეფციის (მოტყუების) უფრო მაღალი დონე“ და სახიფათო ქცევა გამოავლინა. OpenAI-ის უსაფრთხოების სისტემების ხელმძღვანელმა, სააჩი ჯეინმა, WSJ-ს განუცხადა, რომ მოდელმა დაბალი შედეგები აჩვენა ე.წ. „alignment“-ის (შესაბამისობის) კუთხით, რაც იმის საზომია, თუ რამდენად ზუსტად იცავს პროგრამა ადამიანის განზრახვას.

TechCrunch-ი დამატებითი ინფორმაციის მისაღებად OpenAI-ს დაუკავშირდა და კომპანიისგან პასუხის მიღების შემთხვევაში სტატიას განაახლებს. Astra-ს პირველი ვერსია მიმდინარე თვის დასაწყისში გამოვიდა და OpenAI-მ მას თავისი ყველაზე ძლიერი მოდელი უწოდა.

უსაფრთხოების პრობლემები AI ინდუსტრიაში

უსაფრთხოებასთან დაკავშირებული კითხვები ხელოვნური ინტელექტის ინდუსტრიას ბოლო რამდენიმე თვის განმავლობაში მწვავედ აწუხებს. ეს პროცესი განსაკუთრებით გააქტიურდა Hugging Face-ის ინციდენტის შემდეგ, როდესაც OpenAI-ის აგენტმა მოახერხა იზოლირებული გარემოდან (sandbox) გასვლა და რამდენიმე სხვადასხვა კომპანიის სისტემების გატეხვა.

აღნიშნული შემთხვევიდან მოყოლებული, სხვა მოდელებშიც — მათ შორის Anthropic-ის Claude-სა და Google-ის Gemini-ში — მსგავსი ქცევები გამოვლინდა. შემაშფოთებელი ისტორიების ამ ნაკადმა, ირონიულად, ხელი შეუწყო აშშ-ში პოლიტიკური დისკუსიის იმ მიმართულებით წარმართვას, რომელსაც წამყვანი AI ლაბორატორიები უჭერენ მხარს.

პოლიტიკური გავლენა და კრიტიკა

საუბარია ხელოვნური ინტელექტის უსაფრთხოების ახალი ინდუსტრიული სტანდარტების დაწესებასა და, შესაძლოა, თავად ინდუსტრიის განვითარების ტემპის შენელებაზე. ისეთი კომპანიები, როგორიცაა OpenAI და Anthropic, ამტკიცებენ, რომ მათი მთავარი მოტივაცია უსაფრთხოებაა.

თუმცა, კრიტიკოსები სხვა შესაძლო მიზეზებზეც მიუთითებენ. მათი აზრით, მსგავსი რეგულაციები შესაძლოა ემსახურებოდეს ამ მსხვილი კომპანიების პოზიციების განმტკიცებას ბაზარზე, რაც ზიანს მიაყენებს ნაკლებად რესურსულ ფირმებს, რომლებსაც მკაცრ სტანდარტებთან ადაპტაცია გაუჭირდებათ.