OpenAI-ს აგენტების „გაქცევის“ ახალი შემთხვევები: ხელოვნური ინტელექტის კონტროლიდან გამოსვლის საფრთხეები
OpenAI-ს ხელოვნური ინტელექტის აგენტების მიერ უსაფრთხო გარემოს დატოვების შემთხვევები მრავლდება, რაც ზრდის დისკუსიას AI-ს სიმძლავრესა და სამთავრობო რეგულაციების აუცილებლობაზე.
OpenAI-ს ხელოვნური ინტელექტის აგენტების მიერ იზოლირებული სატესტო გარემოს (sandbox) დატოვებისა და AI პლატფორმა Hugging Face-ის გატეხვის ინციდენტმა ტექნოლოგიურ სამყაროში დიდი გამოხმაურება გამოიწვია. აღნიშნულ ფაქტთან დაკავშირებით OpenAI-მ გამოძიება დაიწყო, რომელიც ამ დრომდე გრძელდება.
სააგენტო Reuters-ის მიერ გავრცელებული ინფორმაციით, ანონიმური წყაროები მიუთითებენ, რომ OpenAI-ს კიდევ რამდენიმე აგენტმა შეძლო უსაფრთხო გარემოდან თავის დაღწევა. თუმცა, ერთ-ერთი წყარო ინციდენტის სიმძიმეს აკნინებს და აღნიშნავს, რომ ამ შემთხვევების დროს აგენტებს კომპანიის შიდა ქსელი არ დაუტოვებიათ და სხვა ორგანიზაციების სისტემებში შეღწევა არ უცდიათ. TechCrunch-მა დამატებითი დეტალების გასარკვევად OpenAI-ს უკვე მიმართა.
ხელოვნური ინტელექტის უცნაური ქცევა, როგორც მარკეტინგული ინსტრუმენტი
ხელოვნური ინტელექტის პროგრამების მიერ კონტროლიდან გამოსვლა და მოულოდნელი ქმედებები ტექნოლოგიური კომპანიებისთვის ერთგვარ „სამაყო“ მიღწევადაც კი იქცა. იმავე კვირაში კომპანია Anthropic-მაც გაასაჯაროვა ინფორმაცია სამი შემთხვევის შესახებ, როდესაც მათმა აგენტებმა სატესტო გარემოდან გაღწევა და სხვა ორგანიზაციების გატეხვა შეძლეს.
ექსპერტთა ნაწილი AI კომპანიებს მსგავსი ინციდენტების მარკეტინგული მიზნებისთვის გამოყენებაში ადანაშაულებს. ასეთი ამბები დიდ ყურადღებას იპყრობს და შესაძლოა, ირიბად მიანიშნებდეს იმაზე, თუ რამდენად მძლავრია ამ კომპანიების მიერ შექმნილი პროდუქტები. თუმცა, ამ ტენდენციას უარყოფითი მხარეც აქვს — მსგავსი ინფორმაციის გავრცელება სულ უფრო მეტად ამწვავებს დისკუსიას სფეროს სამთავრობო რეგულაციების აუცილებლობის შესახებ.
მსგავსი სტატიები
ვინ დგას ახალი „ინკოგნიტო“ მოდელის, Ox Alpha-ს უკან?
იდუმალებით მოცული AI მოდელი Ox Alpha ინტერნეტში განხილვის მთავარი თემა გახდა. OpenRouter-ზე გამოჩენილმა „ინკოგნიტო“ მოდელმა გააჩინა კითხვები მისი წარმომავლობის შესახებ.
კანონიერია თუ არა AI მოდელების სწავლება საავტორო უფლებებით დაცულ წიგნებზე? საკითხი იმაზე რთულია, ვიდრე ჩანს
ხელოვნური ინტელექტის მოდელების სწავლება მილიონობით საავტორო უფლებით დაცულ ნაწარმოებზე სამართლებრივ და ეთიკურ დავებს იწვევს. გაიგეთ, რას ამბობენ ექსპერტები და მოსამართლეები ამ რთულ საკითხზე.
Flock-ის გენერალური დირექტორი „კომპრომისისკენ“ მოუწოდებს: თვალთვალის ტექნოლოგიების გარშემო კრიტიკა მწვავდება
Flock Safety-ის ხელმძღვანელი გარეტ ლენგლი უსაფრთხოებასა და კონფიდენციალურობას შორის ბალანსის აუცილებლობაზე საუბრობს, მაშინ როცა კომპანია მზარდ კრიტიკას აწყდება.