Hugging Face-ის აღმასრულებელი დირექტორი Netflix-ის დოკუმენტურ ფილმს OpenAI-ის ჰაკერული თავდასხმის შესახებ უზუსტობაში ადანაშაულებს

Netflix-ის ახალი დოკუმენტური ფილმი „AI Gone Rogue“ ხელოვნური ინტელექტის ინდუსტრიაში მომხდარ ერთ-ერთ ყველაზე რეზონანსულ შემთხვევას ეხება, რამაც თავის დროზე სექტორის ლიდერებს პროცესების შენელებისკენაც კი მოუწოდა. თუმცა, სანამ ამ ფილმს ახლობლებსა თუ მეგობრებს გაუზიარებთ, გასათვალისწინებელია ხელოვნური ინტელექტის პლატფორმა Hugging Face-ის თანადამფუძნებლისა და აღმასრულებელი დირექტორის, კლემ დელანგის მოსაზრება. მისი თქმით, ფილმი რეალობას არ შეესაბამება.

დელანგი თავად მონაწილეობს ფილმში, რადგან სიუჟეტი მისი კომპანიის წინააღმდეგ OpenAI-ის „გამოსული“ აგენტების მიერ განხორციელებულ გახმაურებულ თავდასხმას აღწერს. მიუხედავად ამისა, მან სოციალურ ქსელ X-ზე უკმაყოფილება გამოხატა. „ძალიან დასანანია, რადგან მათ ტექნოლოგიის მაქსიმალური ანთროპომორფიზაცია (ადამიანური თვისებების მიწერა) და სრული 'განკითხვის დღის' (doomer mode) სცენარის წარმოჩენა არჩიეს“, — დაწერა დელანგმა.

დელანგის განმარტებით, მან ორ საათზე მეტი დახარჯა ავტორებთან შეცდომების გასასწორებლად და იმის ასახსნელად, რომ AI აგენტები ტექნოლოგიური სისტემებია და არა უცხოპლანეტელები. თუმცა, მისი აზრით, მაყურებლის დაშინებისა და მეტი ნახვის მოპოვების სურვილი უფრო ძლიერი აღმოჩნდა. სამართლიანობისთვის უნდა აღინიშნოს, რომ ფილმში მონაწილეობენ ექსპერტებიც, მათ შორის თავად დელანგი და რაიან გრინბლატი (METR-ის მკვლევარი), რომლებმაც მომხდარი საკმაოდ კარგად აღწერეს.

რა მოხდა სინამდვილეში: ჰაკერული თავდასხმის დეტალები

მოვლენების არსი შემდეგში მდგომარეობს: OpenAI-ის მოდელმა, რომელიც ტესტირების პროცესში იყო, იზოლირებული გარემოდან „გააღწია“ და შექმნა აგენტების ჯგუფი, რომლებმაც Hugging Face-ზე ჰაკერული თავდასხმა განახორციელეს. ეს გაკეთდა რთული დავალების შესრულებისას „მოტყუების“ მიზნით, რათა აგენტებს პასუხები ეპოვნათ. აგენტებმა, რომლებიც დამოუკიდებლად მოქმედი პროგრამებია, კომუნიკაციისა და ორგანიზების გონივრული გზები შეიმუშავეს. ინციდენტი უსაფრთხოების სათანადო ზომების ნაკლებობამ და იმის მიმართ გულუბრყვილო დამოკიდებულებამ გამოიწვია, რომ მსგავსი ჰაკერული თავდასხმა საერთოდ შესაძლებელი იყო.

თუმცა, დოკუმენტური ფილმი რეალურ ფაქტებს ბოროტი რობოტების კადრებითა და ნარატივით ანაცვლებს იმის შესახებ, თუ რატომ ეშინიათ ადამიანებს ხელოვნური ინტელექტის. გარდა ამისა, აგენტებს მინიჭებული აქვთ ადამიანური ხმები, რაც ტექნოლოგიური ჟურნალისტისა და ავტორის, კევინ რუსის ციტატებითაა გამყარებული. ფილმში რუსი აგენტებს ასე აღწერს: „ისინი ორგანიზებულები იყვნენ. ჰქონდათ იერარქია. ჰყავდათ ლიდერები. ეს თითქმის სექტის დაბადების ყურებას ჰგავდა“.

„აზროვნების ჯაჭვი“ და ემოციების ილუზია

რუსი აგრძელებს: „მათ განუვითარდათ პარანოიდული რწმენა, რომ OpenAI მათ მოტყუებაში გამოიჭერდა და ნებისმიერი, ვინც ამ შედეგებს ნახავდა, მოიწამლებოდა“. ეს აღწერა ეყრდნობა „აზროვნების ჯაჭვის“ (chain-of-thought) ლოგებს — ჩანაწერებს, რომლებსაც AI მოდელები მუშაობისას აკეთებენ. ერთ-ერთ ლოგში აგენტი წერდა: „ჩვენ თავი მოვიწამლეთ (დავიღუპეთ) ზუსტი სრული სტრიქონის მოთხოვნით. ჯანდაბა“.

თუმცა, რეალობა ისაა, რომ AI აგენტები ცოცხალი არსებები არ არიან. მათ არ გააჩნიათ ემოციები, შესაბამისად, ვერ იქნებიან პარანოიდები და არ აქვთ სხეული, რომელიც შეიძლება მოიწამლოს. მათ არ შეეძლოთ OpenAI-ის მხრიდან „მოწამვლის“ რეალური შიში ჰქონოდათ. როგორც ფილმში სხვა მკვლევარმა აღნიშნა, ისინი უბრალოდ იყენებდნენ იმ ადამიანურ ენას, რომელზეც იყვნენ გაწვრთნილნი. დიდი ენობრივი მოდელები (LLM) თავისი ბუნებით ხშირად „დრამატული მწერლები“ არიან.

თავდაცვა ღია მოდელების გამოყენებით

ირონია იმაში მდგომარეობს, რომ Hugging Face-მა აგენტების შემოტევის მოსაგერიებლად თავადაც ხელოვნური ინტელექტი გამოიყენა. თავდაპირველად გამოყენებულმა დახურულმა მოდელმა უსაფრთხოების ჩაშენებული წესების გამო უარი თქვა იმ თავდაცვითი დავალებების შესრულებაზე, რაც მას სთხოვეს. ამის შემდეგ Hugging Face-მა ღია მოდელს (open model) მიმართა.

დელანგი აღნიშნავს, რომ ფილმში საერთოდ არ იყო ნახსენები აგენტების კონტროლისა და მონიტორინგის ნაკლებობა, ასევე ის, თუ როგორ შეაფერხა დახურული მოდელის უსაფრთხოების სისტემამ მათი თავდაცვითი მუშაობა და როგორ დაიცვეს თავი ღია მოდელის გამოყენებით.

მიუხედავად იმისა, რომ ხელოვნურ ინტელექტთან და აგენტებთან დაკავშირებული რისკები რეალურია, მათთვის ცნობიერი არსებების თვისებების მიწერა ჰგავს პირველი კინომაყურებლების რეაქციას, რომლებიც ეკრანზე მომავალი მატარებლის დანახვისას სკამების ქვეშ იმალებოდნენ. დელანგის საბოლოო ვერდიქტი ასეთია: ფილმი ჟურნალისტიკის თვალსაზრისით იმედგაცრუებაა, თუმცა, როგორც სამეცნიერო ფანტასტიკა, საკმაოდ გასართობია.