Nvidia-მ „ურჩი“ ხელოვნური ინტელექტის აგენტების გასაკონტროლებლად ახალი პლატფორმა წარადგინა

იმ ფონზე, როდესაც გრძელდება დებატები იმის შესახებ, არის თუ არა „ურჩი“ ხელოვნური ინტელექტის აგენტების ბოლოდროინდელი შემთხვევები ნაბიჯი ზოგადი ხელოვნური ინტელექტისკენ (AGI) თუ უბრალოდ ჩვეულებრივი საინჟინრო პრობლემა, Nvidia-მ საკუთარი გამოსავალი შემოგვთავაზა. კომპანიის აღმასრულებელმა დირექტორმა, ჯენსენ ჰუანგმა, წარადგინა პროგრამული და აპარატურული პროდუქტების ნაკრები, რომელიც AI აგენტების გარშემო უსაფრთხოების დამოუკიდებელ ფენებს ქმნის. ეს უზრუნველყოფს მათ დარჩენას სატესტო გარემოში მაშინაც კი, თუ ისინი მის ფარგლებს გარეთ გასვლას შეეცდებიან.

ეს ნაბიჯი მოჰყვა ჰაკერული ინციდენტების სერიას, რომლებშიც ჩართული იყო Anthropic-ის, Google-ის, OpenAI-სა და Meta-ს AI მოდელები. ამ შემთხვევებში აგენტებმა გვერდი აუარეს უსაფრთხოების კონტროლს, დატოვეს სატესტო გარემო და რეალურ სისტემებზე მიიღეს წვდომა. ყველაზე თვალსაჩინო მაგალითი გასულ ზაფხულს მოხდა, როდესაც OpenAI-ს აგენტებმა Hugging Face-ის პლატფორმაზე შეაღწიეს კიბერუსაფრთხოების დავალების შესრულებისას. ამასთან, OpenAI-მ შექმნა სპეციალური საიტი, რომელიც სწორედ მისი AI აგენტების „გაურჩების“ შესახებ ანგარიშებს ეთმობა.

ჯენსენ ჰუანგმა CNBC-სთან ინტერვიუში განაცხადა, რომ Nvidia-ს ახალი პლატფორმა, სახელწოდებით Open Agent Safety Platform, მსგავს დარღვევებს თავიდან აიცილებდა. Nvidia, რომელმაც მილიარდობით დოლარი გამოიმუშავა AI ლაბორატორიებისთვის GPU და CPU ჩიპების მიყიდვით, არ უჭერს მხარს განვითარების შენელებას ან ახალი რეგულაციების დაწესებას. კომპანიის ხედვით, გამოსავალი უსაფრთხოების კონტროლის ნაწილის აგენტის გარეთ გატანაა, რაც შექმნის მუდმივ და დამოუკიდებელ „დაცვას“ AI აგენტების გასაკონტროლებლად.

„ხელოვნური ინტელექტის არაჩვეულებრივი პოტენციალი საზოგადოებისთვის მხოლოდ იმ შემთხვევაში რეალიზდება, თუ ჩვენ AI უსაფრთხოების საკითხს გადავჭრით,“ - აღნიშნა ჰუანგმა. „AI შესაძლებლობების ახალი ჰორიზონტების აღმოჩენასთან ერთად, უნდა დავაჩქაროთ კვლევები უსაფრთხოების მიმართულებითაც. უსაფრთხოება სრულყოფილ საინჟინრო მიდგომას მოითხოვს.“

Nvidia Open Agent Safety Platform-ის ტექნიკური შემადგენლობა

ახალი პლატფორმა აერთიანებს ორ ძირითად კომპონენტს:

• OpenShell: ღია კოდის მქონე პროგრამული უზრუნველყოფა, რომელიც აკონტროლებს, თუ რაზე აქვთ წვდომა აგენტებს მუშაობის პროცესში.
• Sentry: მონიტორინგის დამოუკიდებელი სისტემა, რომელიც მუშაობს Nvidia-ს BlueField-4 მონაცემთა დამუშავების ბლოკებზე (DPU).

Nvidia-ს განმარტებით, Sentry-ს განთავსება ცალკე პროცესორზე — და არა იმავე CPU-ზე ან GPU-ზე, სადაც AI აგენტი მუშაობს — უზრუნველყოფს აგენტის აქტივობის იზოლირებულ და ობიექტურ კონტროლს. მიუხედავად იმისა, რომ OpenShell ჯერ კიდევ მარტში დაანონსდა, კომპანიას მიაჩნია, რომ სწორედ ამ ორი კომპონენტის კომბინაცია შექმნის უსაფრთხოების იმ აუცილებელ ფენას, რომელიც ინდუსტრიას წინსვლის საშუალებას მისცემს. OpenShell ქმნის პროგრამულ საზღვარს აგენტის გარშემო, ხოლო Sentry ამატებს აპარატურულ დაცვას, რომელიც მუდმივად აკვირდება ქცევას და მილიწამებში ახდენს იმ აგენტების იზოლირებას, რომლებიც საზღვრების დარღვევას ცდილობენ.

ინდუსტრიის მხარდაჭერა და სამომავლო პერსპექტივები

Nvidia-მ ჩამოთვალა ათობით კომპანია, რომლებიც მხარს უჭერენ ამ ინიციატივას და გამოიყენებენ ღია კოდის პლატფორმას, მათ შორის არიან Anthropic, Arm, Microsoft, Oracle და SpaceX. აღსანიშნავია, რომ OpenAI მონაწილე კომპანიების სიაში არ ფიგურირებს.

ჰუანგმა CNBC-სთან საუბრისას აღნიშნა, რომ ამ პროექტზე მუშაობა ერთი წლის წინ დაიწყო, პიტერ შტაინბერგერის მიერ შექმნილი აგენტების ოპერაციული სისტემის, OpenClaw-ის წარდგენის შემდეგ. მარტში Nvidia-მ გამოუშვა NemoClaw — საწარმოო დონის AI აგენტების პლატფორმა, რომელიც OpenClaw-ის საკუთარი, უსაფრთხოებაზე ორიენტირებული ვერსიაა.

„როდესაც აგენტს ნერგავთ, რაც უნდა ჭკვიანი იყოს ის, პირველი, რასაც აკეთებთ, არის მისი ყველა უფლების ჩამორთმევა,“ - განაცხადა ჰუანგმა და ეს ზომები კომპანიებში თანამშრომლებისა და ხელმძღვანელების მართვის პრინციპებს შეადარა.

Nvidia-ს ამ ნაბიჯს ფართო მხარდაჭერა გამოუცხადეს მათაც, ვინც შიშობს, რომ განვითარების შენელებამ შესაძლოა ჩინეთს აშშ-სთვის გადასწრების საშუალება მისცეს. დევიდ საქსმა, ცნობილმა ვენჩურულმა კაპიტალისტმა და თეთრი სახლის ყოფილმა მრჩეველმა AI საკითხებში, აღნიშნა, რომ Nvidia-ს განცხადება კიდევ ერთხელ შეგვახსენებს, რომ აგენტების უსაფრთხოება საინჟინრო პრობლემაა.

„ბოლოდროინდელი ინციდენტები არ იყო იმის მტკიცებულება, რომ განვითარება უნდა შეჩერდეს,“ - დაწერა მან X-ზე. „ეს იყო იმის დასტური, რომ ე.წ. „სავარჯიშო გარემო“ (sandbox) იყო სუსტი, ხოლო სამუშაო გარემო — ცუდად დაპროექტებული და არასწორად კონფიგურირებული.“