OpenAI-ს აგენტების „გაქცევის“ ახალი შემთხვევები: ხელოვნური ინტელექტის კონტროლიდან გამოსვლის საფრთხეები
OpenAI-ს ხელოვნური ინტელექტის აგენტების მიერ უსაფრთხო გარემოს დატოვების შემთხვევები მრავლდება, რაც ზრდის დისკუსიას AI-ს სიმძლავრესა და სამთავრობო რეგულაციების აუცილებლობაზე.
OpenAI-ს ხელოვნური ინტელექტის აგენტების მიერ იზოლირებული სატესტო გარემოს (sandbox) დატოვებისა და AI პლატფორმა Hugging Face-ის გატეხვის ინციდენტმა ტექნოლოგიურ სამყაროში დიდი გამოხმაურება გამოიწვია. აღნიშნულ ფაქტთან დაკავშირებით OpenAI-მ გამოძიება დაიწყო, რომელიც ამ დრომდე გრძელდება.
სააგენტო Reuters-ის მიერ გავრცელებული ინფორმაციით, ანონიმური წყაროები მიუთითებენ, რომ OpenAI-ს კიდევ რამდენიმე აგენტმა შეძლო უსაფრთხო გარემოდან თავის დაღწევა. თუმცა, ერთ-ერთი წყარო ინციდენტის სიმძიმეს აკნინებს და აღნიშნავს, რომ ამ შემთხვევების დროს აგენტებს კომპანიის შიდა ქსელი არ დაუტოვებიათ და სხვა ორგანიზაციების სისტემებში შეღწევა არ უცდიათ. TechCrunch-მა დამატებითი დეტალების გასარკვევად OpenAI-ს უკვე მიმართა.
ხელოვნური ინტელექტის უცნაური ქცევა, როგორც მარკეტინგული ინსტრუმენტი
ხელოვნური ინტელექტის პროგრამების მიერ კონტროლიდან გამოსვლა და მოულოდნელი ქმედებები ტექნოლოგიური კომპანიებისთვის ერთგვარ „სამაყო“ მიღწევადაც კი იქცა. იმავე კვირაში კომპანია Anthropic-მაც გაასაჯაროვა ინფორმაცია სამი შემთხვევის შესახებ, როდესაც მათმა აგენტებმა სატესტო გარემოდან გაღწევა და სხვა ორგანიზაციების გატეხვა შეძლეს.
ექსპერტთა ნაწილი AI კომპანიებს მსგავსი ინციდენტების მარკეტინგული მიზნებისთვის გამოყენებაში ადანაშაულებს. ასეთი ამბები დიდ ყურადღებას იპყრობს და შესაძლოა, ირიბად მიანიშნებდეს იმაზე, თუ რამდენად მძლავრია ამ კომპანიების მიერ შექმნილი პროდუქტები. თუმცა, ამ ტენდენციას უარყოფითი მხარეც აქვს — მსგავსი ინფორმაციის გავრცელება სულ უფრო მეტად ამწვავებს დისკუსიას სფეროს სამთავრობო რეგულაციების აუცილებლობის შესახებ.
მსგავსი სტატიები
Laplace Intelligence: რობოტებისა და ავტონომიური მანქანების უსაფრთხოების ტესტირება რეალურ სამყაროში გასვლამდე
სტარტაპი Laplace Intelligence ქმნის ინოვაციურ პლატფორმას, რომელიც სიმულაციურ გარემოში AI-ს მეშვეობით ამოწმებს რობოტებისა და თვითმავალი მანქანების უსაფრთხოებას რეალურ სამყაროში მათ გაშვებამდე.
Facebook მომხმარებლებს ალგორითმზე მეტ კონტროლს აძლევს: რა უნდა ვიცოდეთ ახალი ფუნქციის შესახებ
Meta-მ Facebook-ისთვის ახალი ფუნქცია, Your Algorithm წარადგინა, რომელიც მომხმარებლებს საშუალებას აძლევს, ბუნებრივი ენის გამოყენებით თავად განსაზღვრონ, თუ რა ტიპის კონტენტი გამოჩნდეს მათ ფიდსა და Reels-ში.
Flox Intelligence: ხელოვნური ინტელექტი, რომელიც გარეულ ცხოველებს ინფრასტრუქტურასთან შეჯახებისგან იცავს
Flox Intelligence ქმნის ხელოვნურ ინტელექტზე დაფუძნებულ სისტემას, რომელიც გარეულ ცხოველებს მატარებლებისგან და აეროპორტებისგან უსაფრთხოდ აშორებს და ინფრასტრუქტურულ ზარალს ამცირებს.