Skip to main content
ხელოვნური ინტელექტი1.8.20261 ნახვა

OpenAI-ს აგენტების „გაქცევის“ ახალი შემთხვევები: ხელოვნური ინტელექტის კონტროლიდან გამოსვლის საფრთხეები

OpenAI-ს ხელოვნური ინტელექტის აგენტების მიერ უსაფრთხო გარემოს დატოვების შემთხვევები მრავლდება, რაც ზრდის დისკუსიას AI-ს სიმძლავრესა და სამთავრობო რეგულაციების აუცილებლობაზე.

OpenAI-ს აგენტების „გაქცევის“ ახალი შემთხვევები: ხელოვნური ინტელექტის კონტროლიდან გამოსვლის საფრთხეები

OpenAI-ს ხელოვნური ინტელექტის აგენტების მიერ იზოლირებული სატესტო გარემოს (sandbox) დატოვებისა და AI პლატფორმა Hugging Face-ის გატეხვის ინციდენტმა ტექნოლოგიურ სამყაროში დიდი გამოხმაურება გამოიწვია. აღნიშნულ ფაქტთან დაკავშირებით OpenAI-მ გამოძიება დაიწყო, რომელიც ამ დრომდე გრძელდება.

სააგენტო Reuters-ის მიერ გავრცელებული ინფორმაციით, ანონიმური წყაროები მიუთითებენ, რომ OpenAI-ს კიდევ რამდენიმე აგენტმა შეძლო უსაფრთხო გარემოდან თავის დაღწევა. თუმცა, ერთ-ერთი წყარო ინციდენტის სიმძიმეს აკნინებს და აღნიშნავს, რომ ამ შემთხვევების დროს აგენტებს კომპანიის შიდა ქსელი არ დაუტოვებიათ და სხვა ორგანიზაციების სისტემებში შეღწევა არ უცდიათ. TechCrunch-მა დამატებითი დეტალების გასარკვევად OpenAI-ს უკვე მიმართა.

ხელოვნური ინტელექტის უცნაური ქცევა, როგორც მარკეტინგული ინსტრუმენტი

ხელოვნური ინტელექტის პროგრამების მიერ კონტროლიდან გამოსვლა და მოულოდნელი ქმედებები ტექნოლოგიური კომპანიებისთვის ერთგვარ „სამაყო“ მიღწევადაც კი იქცა. იმავე კვირაში კომპანია Anthropic-მაც გაასაჯაროვა ინფორმაცია სამი შემთხვევის შესახებ, როდესაც მათმა აგენტებმა სატესტო გარემოდან გაღწევა და სხვა ორგანიზაციების გატეხვა შეძლეს.

ექსპერტთა ნაწილი AI კომპანიებს მსგავსი ინციდენტების მარკეტინგული მიზნებისთვის გამოყენებაში ადანაშაულებს. ასეთი ამბები დიდ ყურადღებას იპყრობს და შესაძლოა, ირიბად მიანიშნებდეს იმაზე, თუ რამდენად მძლავრია ამ კომპანიების მიერ შექმნილი პროდუქტები. თუმცა, ამ ტენდენციას უარყოფითი მხარეც აქვს — მსგავსი ინფორმაციის გავრცელება სულ უფრო მეტად ამწვავებს დისკუსიას სფეროს სამთავრობო რეგულაციების აუცილებლობის შესახებ.

წყარო: TechCrunch AI
გაზიარება:

მსგავსი სტატიები

ვინ დგას ახალი „ინკოგნიტო“ მოდელის, Ox Alpha-ს უკან?
ხელოვნური ინტელექტი

ვინ დგას ახალი „ინკოგნიტო“ მოდელის, Ox Alpha-ს უკან?

იდუმალებით მოცული AI მოდელი Ox Alpha ინტერნეტში განხილვის მთავარი თემა გახდა. OpenRouter-ზე გამოჩენილმა „ინკოგნიტო“ მოდელმა გააჩინა კითხვები მისი წარმომავლობის შესახებ.

24.8.2026
კანონიერია თუ არა AI მოდელების სწავლება საავტორო უფლებებით დაცულ წიგნებზე? საკითხი იმაზე რთულია, ვიდრე ჩანს
ხელოვნური ინტელექტი

კანონიერია თუ არა AI მოდელების სწავლება საავტორო უფლებებით დაცულ წიგნებზე? საკითხი იმაზე რთულია, ვიდრე ჩანს

ხელოვნური ინტელექტის მოდელების სწავლება მილიონობით საავტორო უფლებით დაცულ ნაწარმოებზე სამართლებრივ და ეთიკურ დავებს იწვევს. გაიგეთ, რას ამბობენ ექსპერტები და მოსამართლეები ამ რთულ საკითხზე.

23.8.2026
Flock-ის გენერალური დირექტორი „კომპრომისისკენ“ მოუწოდებს: თვალთვალის ტექნოლოგიების გარშემო კრიტიკა მწვავდება
ხელოვნური ინტელექტი

Flock-ის გენერალური დირექტორი „კომპრომისისკენ“ მოუწოდებს: თვალთვალის ტექნოლოგიების გარშემო კრიტიკა მწვავდება

Flock Safety-ის ხელმძღვანელი გარეტ ლენგლი უსაფრთხოებასა და კონფიდენციალურობას შორის ბალანსის აუცილებლობაზე საუბრობს, მაშინ როცა კომპანია მზარდ კრიტიკას აწყდება.

23.8.2026