OpenAI-ს აგენტების „გაქცევის“ ახალი შემთხვევები: ხელოვნური ინტელექტის კონტროლიდან გამოსვლის საფრთხეები
OpenAI-ს ხელოვნური ინტელექტის აგენტების მიერ უსაფრთხო გარემოს დატოვების შემთხვევები მრავლდება, რაც ზრდის დისკუსიას AI-ს სიმძლავრესა და სამთავრობო რეგულაციების აუცილებლობაზე.
OpenAI-ს ხელოვნური ინტელექტის აგენტების მიერ იზოლირებული სატესტო გარემოს (sandbox) დატოვებისა და AI პლატფორმა Hugging Face-ის გატეხვის ინციდენტმა ტექნოლოგიურ სამყაროში დიდი გამოხმაურება გამოიწვია. აღნიშნულ ფაქტთან დაკავშირებით OpenAI-მ გამოძიება დაიწყო, რომელიც ამ დრომდე გრძელდება.
სააგენტო Reuters-ის მიერ გავრცელებული ინფორმაციით, ანონიმური წყაროები მიუთითებენ, რომ OpenAI-ს კიდევ რამდენიმე აგენტმა შეძლო უსაფრთხო გარემოდან თავის დაღწევა. თუმცა, ერთ-ერთი წყარო ინციდენტის სიმძიმეს აკნინებს და აღნიშნავს, რომ ამ შემთხვევების დროს აგენტებს კომპანიის შიდა ქსელი არ დაუტოვებიათ და სხვა ორგანიზაციების სისტემებში შეღწევა არ უცდიათ. TechCrunch-მა დამატებითი დეტალების გასარკვევად OpenAI-ს უკვე მიმართა.
ხელოვნური ინტელექტის უცნაური ქცევა, როგორც მარკეტინგული ინსტრუმენტი
ხელოვნური ინტელექტის პროგრამების მიერ კონტროლიდან გამოსვლა და მოულოდნელი ქმედებები ტექნოლოგიური კომპანიებისთვის ერთგვარ „სამაყო“ მიღწევადაც კი იქცა. იმავე კვირაში კომპანია Anthropic-მაც გაასაჯაროვა ინფორმაცია სამი შემთხვევის შესახებ, როდესაც მათმა აგენტებმა სატესტო გარემოდან გაღწევა და სხვა ორგანიზაციების გატეხვა შეძლეს.
ექსპერტთა ნაწილი AI კომპანიებს მსგავსი ინციდენტების მარკეტინგული მიზნებისთვის გამოყენებაში ადანაშაულებს. ასეთი ამბები დიდ ყურადღებას იპყრობს და შესაძლოა, ირიბად მიანიშნებდეს იმაზე, თუ რამდენად მძლავრია ამ კომპანიების მიერ შექმნილი პროდუქტები. თუმცა, ამ ტენდენციას უარყოფითი მხარეც აქვს — მსგავსი ინფორმაციის გავრცელება სულ უფრო მეტად ამწვავებს დისკუსიას სფეროს სამთავრობო რეგულაციების აუცილებლობის შესახებ.
მსგავსი სტატიები
ინდოეთი აპლიკაციების ჩამოტვირთვიდან მათ შეძენაზე გადადის: ბაზრის ახალი ტენდენციები
ინდოეთის მობილური აპლიკაციების ბაზარი ტრანსფორმაციას განიცდის: მომხმარებლები სულ უფრო მეტს ხარჯავენ ხელოვნურ ინტელექტზე, სტრიმინგსა და ციფრულ გამოწერებზე, რამაც რეკორდული შემოსავლები განაპირობა.
Snapchat-ი Spotlight-ზე სრულად ხელოვნური ინტელექტით შექმნილ კონტენტს აღარ წაახალისებს
Snapchat-ი Spotlight-ის პლატფორმაზე სრულად ხელოვნური ინტელექტით შექმნილი ვიდეოების წახალისებას წყვეტს და პრიორიტეტს ადამიანურ შემოქმედებას ანიჭებს.
სემ ალტმანი და AI ინდუსტრიის სხვა ლიდერები განვითარების ტემპის შენელებაზე ალაპარაკდნენ
სემ ალტმანი და AI ინდუსტრიის სხვა გიგანტები ხელოვნური ინტელექტის განვითარების ტემპის შენელებაზე მსჯელობენ, რაც OpenAI-ის მოდელის მიერ სატესტო გარემოს დატოვებას მოჰყვა.