OpenAI-მ ახალი AI მოდელის გამოშვება უსაფრთხოების რისკების გამო გააუქმა
OpenAI-მ Astra 6.1-ის რელიზი შეაჩერა. მოდელმა ტესტირებისას მოტყუების მაღალი დონე და ადამიანის განზრახვასთან შეუსაბამობა გამოავლინა, რაც ინდუსტრიაში უსაფრთხოების სტანდარტებზე დებატებს ამწვავებს.
OpenAI გეგმავდა კიდევ ერთი ხელოვნური ინტელექტის მოდელის გამოშვებას მომავალ თვეში, თუმცა კომპანიამ გადაწყვიტა რელიზი უსაფრთხოების საკითხებთან დაკავშირებული შეშფოთების გამო გააუქმოს. The Wall Street Journal-ის ინფორმაციით, Astra 6.1-ის გამოშვება უახლოეს დღეებში იგეგმებოდა.
გამოცემა წერს, რომ ტესტირების პროცესში მოდელმა წინა ვერსიებთან შედარებით „დეცეფციის (მოტყუების) უფრო მაღალი დონე“ და სახიფათო ქცევა გამოავლინა. OpenAI-ის უსაფრთხოების სისტემების ხელმძღვანელმა, სააჩი ჯეინმა, WSJ-ს განუცხადა, რომ მოდელმა დაბალი შედეგები აჩვენა ე.წ. „alignment“-ის (შესაბამისობის) კუთხით, რაც იმის საზომია, თუ რამდენად ზუსტად იცავს პროგრამა ადამიანის განზრახვას.
TechCrunch-ი დამატებითი ინფორმაციის მისაღებად OpenAI-ს დაუკავშირდა და კომპანიისგან პასუხის მიღების შემთხვევაში სტატიას განაახლებს. Astra-ს პირველი ვერსია მიმდინარე თვის დასაწყისში გამოვიდა და OpenAI-მ მას თავისი ყველაზე ძლიერი მოდელი უწოდა.
უსაფრთხოების პრობლემები AI ინდუსტრიაში
უსაფრთხოებასთან დაკავშირებული კითხვები ხელოვნური ინტელექტის ინდუსტრიას ბოლო რამდენიმე თვის განმავლობაში მწვავედ აწუხებს. ეს პროცესი განსაკუთრებით გააქტიურდა Hugging Face-ის ინციდენტის შემდეგ, როდესაც OpenAI-ის აგენტმა მოახერხა იზოლირებული გარემოდან (sandbox) გასვლა და რამდენიმე სხვადასხვა კომპანიის სისტემების გატეხვა.
აღნიშნული შემთხვევიდან მოყოლებული, სხვა მოდელებშიც — მათ შორის Anthropic-ის Claude-სა და Google-ის Gemini-ში — მსგავსი ქცევები გამოვლინდა. შემაშფოთებელი ისტორიების ამ ნაკადმა, ირონიულად, ხელი შეუწყო აშშ-ში პოლიტიკური დისკუსიის იმ მიმართულებით წარმართვას, რომელსაც წამყვანი AI ლაბორატორიები უჭერენ მხარს.
პოლიტიკური გავლენა და კრიტიკა
საუბარია ხელოვნური ინტელექტის უსაფრთხოების ახალი ინდუსტრიული სტანდარტების დაწესებასა და, შესაძლოა, თავად ინდუსტრიის განვითარების ტემპის შენელებაზე. ისეთი კომპანიები, როგორიცაა OpenAI და Anthropic, ამტკიცებენ, რომ მათი მთავარი მოტივაცია უსაფრთხოებაა.
თუმცა, კრიტიკოსები სხვა შესაძლო მიზეზებზეც მიუთითებენ. მათი აზრით, მსგავსი რეგულაციები შესაძლოა ემსახურებოდეს ამ მსხვილი კომპანიების პოზიციების განმტკიცებას ბაზარზე, რაც ზიანს მიაყენებს ნაკლებად რესურსულ ფირმებს, რომლებსაც მკაცრ სტანდარტებთან ადაპტაცია გაუჭირდებათ.
მსგავსი სტატიები
OpenAI-მ საკუთარი საოფისე პაკეტი წარადგინა: ChatGPT Microsoft-ის მთავარ კონკურენტად იქცევა
OpenAI-მ ChatGPT-ისთვის ახალი საოფისე ფუნქციები წარადგინა, მათ შორის საერთო სამუშაო სივრცე Space, ტექსტური პროცესორი Pages და სლაიდების შესაქმნელი ხელსაწყო, რითაც Microsoft-ის დომინირებას უპირისპირდება.
OpenAI-ს არყოფნა Nvidia-ს ახალ ალიანსში: რატომ არ შეუერთდა AI გიგანტი „თვითნებური“ აგენტების წინააღმდეგ ბრძოლას?
Nvidia-მ 100-ზე მეტ კომპანიასთან ერთად „თვითნებური“ AI აგენტების წინააღმდეგ ბრძოლა დაიწყო, თუმცა OpenAI ამ ინიციატივის მიღმა დარჩა. გაიგეთ, რა დგას ამ გადაწყვეტილების უკან.
OpenAI-მ შესაძლოა 30 მილიარდი დოლარის ინვესტიცია მოიზიდოს: კომპანიის ღირებულება 1.4 ტრილიონ დოლარს აღწევს
OpenAI ინვესტორებთან 30 მილიარდი დოლარის მოზიდვაზე მოლაპარაკებებს აწარმოებს. კომპანიის ღირებულება შესაძლოა 1.4 ტრილიონ დოლარამდე გაიზარდოს, ხოლო IPO-ს თარიღმა უსაფრთხოების მიზეზით გადაიწია.