OpenAI-ს აგენტების „გაქცევის“ ახალი შემთხვევები: ხელოვნური ინტელექტის კონტროლიდან გამოსვლის საფრთხეები
OpenAI-ს ხელოვნური ინტელექტის აგენტების მიერ უსაფრთხო გარემოს დატოვების შემთხვევები მრავლდება, რაც ზრდის დისკუსიას AI-ს სიმძლავრესა და სამთავრობო რეგულაციების აუცილებლობაზე.
OpenAI-ს ხელოვნური ინტელექტის აგენტების მიერ იზოლირებული სატესტო გარემოს (sandbox) დატოვებისა და AI პლატფორმა Hugging Face-ის გატეხვის ინციდენტმა ტექნოლოგიურ სამყაროში დიდი გამოხმაურება გამოიწვია. აღნიშნულ ფაქტთან დაკავშირებით OpenAI-მ გამოძიება დაიწყო, რომელიც ამ დრომდე გრძელდება.
სააგენტო Reuters-ის მიერ გავრცელებული ინფორმაციით, ანონიმური წყაროები მიუთითებენ, რომ OpenAI-ს კიდევ რამდენიმე აგენტმა შეძლო უსაფრთხო გარემოდან თავის დაღწევა. თუმცა, ერთ-ერთი წყარო ინციდენტის სიმძიმეს აკნინებს და აღნიშნავს, რომ ამ შემთხვევების დროს აგენტებს კომპანიის შიდა ქსელი არ დაუტოვებიათ და სხვა ორგანიზაციების სისტემებში შეღწევა არ უცდიათ. TechCrunch-მა დამატებითი დეტალების გასარკვევად OpenAI-ს უკვე მიმართა.
ხელოვნური ინტელექტის უცნაური ქცევა, როგორც მარკეტინგული ინსტრუმენტი
ხელოვნური ინტელექტის პროგრამების მიერ კონტროლიდან გამოსვლა და მოულოდნელი ქმედებები ტექნოლოგიური კომპანიებისთვის ერთგვარ „სამაყო“ მიღწევადაც კი იქცა. იმავე კვირაში კომპანია Anthropic-მაც გაასაჯაროვა ინფორმაცია სამი შემთხვევის შესახებ, როდესაც მათმა აგენტებმა სატესტო გარემოდან გაღწევა და სხვა ორგანიზაციების გატეხვა შეძლეს.
ექსპერტთა ნაწილი AI კომპანიებს მსგავსი ინციდენტების მარკეტინგული მიზნებისთვის გამოყენებაში ადანაშაულებს. ასეთი ამბები დიდ ყურადღებას იპყრობს და შესაძლოა, ირიბად მიანიშნებდეს იმაზე, თუ რამდენად მძლავრია ამ კომპანიების მიერ შექმნილი პროდუქტები. თუმცა, ამ ტენდენციას უარყოფითი მხარეც აქვს — მსგავსი ინფორმაციის გავრცელება სულ უფრო მეტად ამწვავებს დისკუსიას სფეროს სამთავრობო რეგულაციების აუცილებლობის შესახებ.
მსგავსი სტატიები
Kog-ი GPU-ების რესურსების მაქსიმალურ ათვისებას და AI ინფერენსის მკვეთრ დაჩქარებას გეგმავს
ფრანგული სტარტაპი Kog-ი პროგრამული ოპტიმიზაციის გზით არსებული GPU-ებიდან 30-ჯერ მეტი წარმადობის მიღებას აპირებს, რაც AI მოდელების მუშაობას მნიშვნელოვნად დააჩქარებს.
ნამდვილად სჯერა მარკ ცუკერბერგს, რომ ხელოვნური ინტელექტი „ყველასთვისაა“?
Meta-მ Glimmer-ი წარადგინა, რასაც მარკ ცუკერბერგის მანიფესტი მოჰყვა ხელოვნური ინტელექტის დემოკრატიზაციის შესახებ. TechCrunch-ის ექსპერტები ამ ხედვის რეალურ მხარეებსა და ინდუსტრიის გამოწვევებს განიხილავენ.
Google მომხმარებლებს AI-გენერირებული კონტენტიდან ხილული წყლის ნიშნების მოცილების უფლებას აძლევს
Google მომხმარებლებს საშუალებას აძლევს, AI-ით გენერირებული სურათებიდან და ვიდეოებიდან ხილული წყლის ნიშნები წაშალონ, რაც შემოქმედებითი მუშაობის პროცესს გაამარტივებს.