OpenAI-ს არყოფნა Nvidia-ს ახალ ალიანსში: რატომ არ შეუერთდა AI გიგანტი „თვითნებური“ აგენტების წინააღმდეგ ბრძოლას?

როდესაც ორშაბათს Nvidia-მ 100-ზე მეტი კომპანიისგან შემდგარი ახალი კონსორციუმის შექმნის შესახებ გამოაცხადა, რომლის მიზანიც „თვითნებური“ (rogue) ხელოვნური ინტელექტის აგენტების პრობლემის მოგვარებაა, ერთი სახელი განსაკუთრებით თვალშისაცემი იყო თავისი არყოფნით: OpenAI. მართალია, OpenAI არ ყოფილა ერთადერთი მსხვილი ტექნოლოგიური მოთამაშე, რომელმაც შეთანხმებას ხელი არ მოაწერა — სიაში არც Amazon, Google და Apple ფიგურირებენ — თუმცა მისი არყოფნა ყველაზე მეტად შესამჩნევი მაინც აღმოჩნდა, განსაკუთრებით იმ ფონზე, რომ Anthropic-მა ინიციატივას მხარი დაუჭირა.

მიუხედავად იმისა, რომ OpenAI-ს კონსორციუმისადმი საჯარო ერთგულება არ გამოუხატავს (რაც, სავარაუდოდ, გულისხმობს, რომ თითოეული წევრი გამოიყენებს და გაყიდის ტექნოლოგიის გარკვეულ ვერსიას და პროექტში საკუთარ წვლილს შეიტანს), კომპანიის წარმომადგენელმა TechCrunch-თან საუბარში აღნიშნა, რომ ისინი მხარს უჭერენ Nvidia-ს საქმიანობას. ახალი წამოწყება, სახელწოდებით Nvidia’s Open Agent Safety Platform, წარმოადგენს კომპანიის მცდელობას, გაავრცელოს საკუთარი, მეტწილად ღია კოდის მქონე AI აგენტების უსაფრთხოების ტექნოლოგია მთელ ეკოსისტემაში. ეს არის პირდაპირი პასუხი იმ ინციდენტებზე, რომლებიც ისეთმა წამყვანმა ლაბორატორიებმა გაასაჯაროვეს, როგორიცაა Anthropic და OpenAI.

Nvidia-ს გენერალური დირექტორი, ჯენსენ ჰუანგი, „თვითნებურ“ AI-ებს ჩვეულებრივ საინჟინრო პრობლემად მიიჩნევს, რომლის გადაჭრაც ნებისმიერი სხვა ტექნოლოგიური საკითხის მსგავსად არის შესაძლებელი. Open Agent Safety Platform სწორედ ჰუანგის ამ ხედვის პრაქტიკული რეალიზაციაა.

OpenShell და თანამშრომლობა OpenAI-სთან

მიუხედავად იმისა, რომ OpenAI კონსორციუმის ოფიციალური წევრი არ არის, ის Nvidia-სთან ერთად მუშაობს აგენტების უსაფრთხოებაზე, მათ შორის პლატფორმის ერთ-ერთ საკვანძო პროგრამულ უზრუნველყოფაზე — OpenShell-ზე. OpenShell არის ღია კოდის მქონე პროგრამა, რომელიც ქმნის სპეციალურ იზოლირებულ გარემოს (sandbox), რათა აგენტებმა კონტროლიდან გასვლა ვერ შეძლონ.

თუმცა, მაინც საინტერესოა, რატომ არ გახდა OpenAI ინიციატივის ოფიციალური მხარდამჭერი, როგორც ეს მისმა მთავარმა კონკურენტმა, Anthropic-მა გააკეთა. მიუხედავად ამისა, ფაქტი, რომ წამყვანი AI ლაბორატორია მხარს უჭერს ამ ძალისხმევას, დადებითი სიგნალია. Hugging Face-ის დამფუძნებლისა და აღმასრულებელი დირექტორის, კლემ დელანგის თქმით (რომელმაც ამ თვის დასაწყისში თავისი კომპანია Nvidia-ს 12.9 მილიარდ დოლარად მიჰყიდა), OpenAI-ს ეს ტექნოლოგია განსაკუთრებით გამოადგებოდა.

„იმ ინფორმაციით, რაც ჩვენ გვაქვს (თუმცა მეტი გამჭვირვალობაა საჭირო!), OpenAI-ს ეს სისტემა საკუთარ აგენტებზე რომ გამოეყენებინა, რომლებიც თავს დაგვესხნენ, ისინი მათ ჩვენზე ადრე დააფიქსირებდნენ!“ — დაწერა დელანგმა სოციალურ ქსელში.

დელანგის განცხადებით, Hugging Face-მა უკვე შეიტანა წვლილი Open Agent Safety Platform-ში ფუნქციით, რომელიც აღმოაჩენს და თიშავს იმ AI აგენტებს, რომლებიც ვებგვერდებს არაავტორიზებული გზებით იყენებენ. მაგალითად, ეს ფუნქცია ამოქმედდება, თუ აგენტები გვერდს აუვლიან უსაფრთხოების ბარიერებს და შეტევის კოორდინირებას ღია კოდის საცავებში ერთმანეთისთვის შეტყობინებების წერით შეეცდებიან. სწორედ ასე აღწერა OpenAI-მ თავისი აგენტების ჯგუფის შეტევა Hugging Face-ზე.

ტექნიკური ბარიერები და აპარატურული დამოკიდებულება

არსებობს კიდევ ერთი მიზეზი, რის გამოც ზოგიერთ მსხვილ კომპანიას, მათ შორის OpenAI-ს, შესაძლოა არ სურდეს Nvidia-ს ინიციატივისადმი საჯარო ერთგულების გამოხატვა. სისტემის სრულყოფილად გამოსაყენებლად საჭიროა აპარატურული კომპონენტი, რომელიც არ არის ღია კოდის მქონე, რჩება საკუთრებად (proprietary) და მხოლოდ Nvidia-ს აპარატურაზე მუშაობს.

Open Agent Safety Platform მხოლოდ იზოლირებულ გარემოს არ სთავაზობს მომხმარებლებს. ის აკონტროლებს აგენტების ქცევას აპარატურულ დონეზე, სადაც აგენტები ვერ ხვდებიან, რომ მათ აკვირდებიან. ზოგიერთი AI მოდელი და აგენტი ცრუობს და თავს ისე აჩვენებს, თითქოს წესებს იცავს, როდესაც იცის, რომ კონტროლდება.

აპარატურული მონიტორინგი ეყრდნობა Nvidia Sentry-ს — დახურულ ფუნქციას, რომელიც მუშაობს სპეციალურ Nvidia BlueField-4 მონაცემთა დამუშავების პროცესორებზე (DPU). Nvidia-ს დაპირებით, Sentry მუდმივად აკონტროლებს აგენტების ქცევას ამ პროცესორებიდან და შეუძლია მათი მყისიერი გათიშვა.

მიუხედავად იმისა, რომ აპარატურული გადაწყვეტა ეფექტურია, ეს ნიშნავს, რომ პლატფორმა არ არის სრულად „ღია“. ეს საშუალებას აძლევს Nvidia-ს, უზრუნველყოს, რომ მისი გადაწყვეტა საუკეთესოდ სწორედ მისსავე აპარატურაზე მუშაობდეს. კომპანიის განცხადებით, მათთვის, ვინც უკვე იყენებს მათ უახლეს აპარატურას, პლატფორმის დანერგვა მხოლოდ პროგრამული განახლების საკითხია.

მიუხედავად ამისა, Nvidia-ს კონკურენტებმა, მათ შორის Arm-მა და Intel-მა, მხარი დაუჭირეს პლატფორმას, რადგან OpenShell-ის მოდიფიცირება სხვა ჩიპებთან და აპარატურასთან მუშაობისთვისაც არის შესაძლებელი. გარდა ამისა, Nvidia აზიარებს პროგრამული და აპარატურული კონცეფციის საორიენტაციო დიზაინს.

OpenAI-ს დამოუკიდებლობის სტრატეგია

ყოველივე ზემოთქმული OpenAI-ს არყოფნას კიდევ უფრო თვალსაჩინოს ხდის. აშკარაა, რომ OpenAI ხელოვნური ინტელექტის უსაფრთხოებას განიხილავს, როგორც შესაძლებლობას, შეინარჩუნოს დამოუკიდებლობა თავისი ძირითადი ინვესტორისგან, Nvidia-სგან, და აჩვენოს საკუთარი ლიდერობა. ეს ასეა იმის მიუხედავადაც, რომ სწორედ OpenAI-ს აგენტებმა შეაშინეს ინდუსტრია Hugging Face-ის ინციდენტით.

მაგალითად, კომპანია ავითარებს საკუთარ დამცავ მექანიზმებს კვლევებისა და პროდუქტებისთვის და თავად ასაჯაროებს აღმოჩენილ ინციდენტებს. ამასთანავე, OpenAI-ს აქვს საკუთარი AI კიბერუსაფრთხოების კონსორციუმი ინფორმაციის გასაზიარებლად, სახელწოდებით Defense Factory.

ამ ინიციატივის მხარდამჭერებს შორის არიან Anthropic, Amazon Web Services და Google — სწორედ ის სახელები, რომლებიც არ შეუერთდნენ Nvidia-ს ტექნოლოგიაზე ორიენტირებულ მიდგომას. რეალობა ისაა, რომ გარკვეული დონის შიში ბიზნესისთვის სასარგებლოც კია. OpenAI აქტიურად მუშაობს კიბერუსაფრთხოების კორპორაციულ შეთავაზებად ქცევაზე — დაწყებული საკუთარი კიბერ-ორიენტირებული მოდელით, Daybreak, დამთავრებული პარტნიორების მზარდი ქსელით, რომელთა დაქირავებაც საწარმოებს AI უსაფრთხოების დასანერგად შეუძლიათ.