Anthropic-ის დამფუძნებელი ღია მოდელების აკრძალვას არ ემხრობა, თუმცა ჩინური AI-ის საფრთხეებზე საუბრობს

Anthropic-ის დამფუძნებელმა და აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ, საჯაროდ უპასუხა ინდუსტრიაში გავრცელებულ ხმებს იმის შესახებ, რომ მისი კომპანია მხარს უჭერს აშშ-ის მთავრობის მცდელობებს ჩინური ღია კოდის მქონე (open-weight) მოდელების ან ზოგადად ღია მოდელების აკრძალვასთან დაკავშირებით. ამოდეიმ ხაზგასმით აღნიშნა, რომ Anthropic-ს მსგავსი აკრძალვა არასდროს მოუთხოვია და ასეთ ზომებს სასარგებლოდ არ მიიჩნევს.

ეს განცხადება მოჰყვა Nvidia-ს დამფუძნებლისა და აღმასრულებელი დირექტორის, ჯენსენ ჰუანგის მიერ სოციალურ ქსელ X-ზე გამოქვეყნებულ ღია წერილს. წერილს, რომელსაც Nvidia-სთან ერთად ხელს აწერენ ისეთი კომპანიები, როგორიცაა Hugging Face, Meta, Microsoft და Mistral, მოუწოდებს პოლიტიკოსებს, თავი შეიკავონ ღია კოდის მქონე ხელოვნური ინტელექტის მოდელებზე ფართომასშტაბიანი და ნაადრევი შეზღუდვების დაწესებისგან.

მიუხედავად იმისა, რომ ხსენებულ წერილში ჩინეთი კონკრეტულად ნახსენები არ ყოფილა, ინდუსტრიაში დებატები ძირითადად ფოკუსირებულია ბრალდებებზე, რომ ჩინური AI ლაბორატორიები შესაძლებლობებს ამერიკული კომპანიების ინტელექტუალური საკუთრების მოპარვის ხარჯზე ზრდიან. ერთ-ერთი ასეთი მეთოდია „დისტილაცია“ (distillation), როდესაც ერთი მოდელი მეორეს მრავალჯერადი მოთხოვნებით (prompts) ბომბავს, რათა მისი მუშაობის პრინციპი შეისწავლოს.

ღია მოდელები, როგორც საზოგადოებრივი სიკეთე

ორშაბათს გამოქვეყნებულ ბლოგპოსტში ამოდეიმ განმარტა, რომ ღია კოდის მქონე მოდელებსა და ჩინეთიდან მომავალ საფრთხეებს ის სხვადასხვა კატეგორიად განიხილავს. მისი თქმით, ღია მოდელები, რომლებსაც არ გააჩნიათ სახიფათო შესაძლებლობები, საზოგადოებრივი სიკეთეა, რადგან ისინი უფასოა (გარდა მათი მუშაობისთვის საჭირო გამოთვლითი სიმძლავრეებისა) და დიდ სარგებელს მოაქვს ბიზნესებისთვის, დეველოპერებისა და მკვლევრებისთვის.

ამოდეიმ აღნიშნა, რომ მას დიდი ხანია აწუხებს ხელოვნურ ინტელექტთან დაკავშირებული შიშები, თუმცა ღია მოდელების გამოყენება ბიზნესის მიერ, მათ შორის ჩინური მოდელებისაც, ამ საფრთხეებში არ შედის. მისი მთავარი შიში ავტორიტარულ მთავრობებს უკავშირდება, რომლებმაც შესაძლოა აშშ-ზე უფრო ძლიერი მოდელები შექმნან „მუდმივი სამხედრო უპირატესობის“ მოსაპოვებლად ან საკუთარი ხალხის დასათრგუნად. ამ კონტექსტში მან ჩინეთის კომუნისტური პარტია (CCP) ყველაზე ქმედითუნარიან ავტორიტარულ ძალად დაასახელა.

ბიოლოგიური თავდასხმების საფრთხე და კონტროლის სირთულე

გარდა კიბერუსაფრთხოებისა, ამოდეი შიშობს, რომ ხელოვნურმა ინტელექტმა შესაძლოა ბიოლოგიური თავდასხმებიც გახადოს შესაძლებელი. მისი ხედვით, ღია მოდელები ასეთ სცენარებში უფრო სახიფათოა, რადგან მათზე უსაფრთხოების ბარიერების (guardrails) დაწესება ან მათი გამოყენების მონიტორინგი რთულია.

ამოდეიმ ასევე დაამოწმა გაერთიანებული სამეფოს AI უსაფრთხოების ინსტიტუტის ანგარიში, რომლის მიხედვითაც, ღია მოდელების გამოშვების შემდეგ მათი უკან გაწვევა შეუძლებელია. ეს მოსაზრება ეწინააღმდეგება ღია კოდის მომხრეების არგუმენტს, რომლის თანახმადაც, მძლავრ მოდელებზე წვდომა, რომელიც არ კონტროლდება ერთი სუბიექტის მიერ, პირიქით, ეხმარება დამცველებს თავის დაცვაში.

რეკომენდაციები ჩინეთის შესაკავებლად

ამოდეიმ ჩამოთვალა რამდენიმე ქმედება, რომელიც, მისი აზრით, ხელს შეუშლის ჩინეთის მიერ AI-ის არასათანადო გამოყენებას:

• მძლავრ ჩიპებზე წვდომის შეზღუდვა (რაც აშშ-ის გრძელვადიანი პოლიტიკაა);
• მოდელების დისტილაციის პროცესზე მკაცრი კონტროლის დაწესება;
• სანქციების გამოყენება ინტელექტუალური საკუთრების ქურდობის დადასტურების შემთხვევაში.

საინტერესოა, რომ ამოდეი მხარს უჭერს მოდელების უსაფრთხოების ტესტირების საერთაშორისო ორგანიზაციის შექმნას. მისი აზრით, ასეთ შემოწმებას უნდა დაექვემდებაროს ყველა ყველაზე მძლავრი მოდელი, მიუხედავად მათი წარმომავლობისა თუ ტიპისა (ღია თუ დახურული), ხოლო მცირე სიმძლავრის მოდელები, მაგალითად სტარტაპებისა და აკადემიური წრეების მიერ შექმნილი, ამ ვალდებულებისგან უნდა გათავისუფლდნენ.

„ვფიქრობ, ეს იდეა კონსენსუსთან ახლოსაა. ჩემთვის იმედისმომცემია, რომ ტრამპის ადმინისტრაციაც ამ მიმართულებით გადადგა ნაბიჯები ბოლო თვეებში“, — განაცხადა ამოდეიმ.

მისივე თქმით, ეფექტურობისთვის ტესტირება გლობალური უნდა იყოს, რაც ნიშნავს, რომ მასში ჩინეთის კომუნისტური პარტიაც უნდა ჩაერთოს. ამოდეი მიიჩნევს, რომ ეს შესაძლებელია, რადგან ბიოლოგიური იარაღის პრევენცია თავად ჩინეთის ინტერესებშიც შედის.