Anthropic-ის ხელმძღვანელი ხელოვნური ინტელექტის განვითარების ტემპის შენელების გეგმას აქვეყნებს

ხელოვნური ინტელექტის მკვლევარების მხრიდან სულ უფრო ხშირად ისმის საგანგაშო გაფრთხილებები AI-ს საფრთხეების შესახებ. OpenAI-ის აღმასრულებელმა დირექტორმა, სემ ალტმანმაც კი აღნიშნა, რომ შესაძლოა დადგა დრო, ხელოვნური ინტელექტის განვითარების ტემპი „დარეგულირდეს“. თუმცა, აქამდე ბუნდოვანი რჩებოდა საკითხი, თუ როგორ უნდა განხორციელდეს ეს პრაქტიკაში.

Anthropic-ის აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ, ახალ ბლოგპოსტში არა მხოლოდ მხარი დაუჭირა განვითარების ტემპის შენელების იდეას, არამედ სამი ძირითადი სტრატეგიაც ჩამოაყალიბა. ამოდეის განცხადებით, Anthropic „ცალმხრივად იღებს ვალდებულებას“ ერთ-ერთი მათგანის შესრულებაზე, რასაც სემ ალტმანიც გამოეხმაურა და აღნიშნა, რომ OpenAI-იც იმავე გზას გაჰყვება.

დებატები AI-ს უსაფრთხოებისა და მისი ადამიანურ ღირებულებებთან შესაბამისობის შესახებ მას შემდეგ გამწვავდა, რაც მკვლევარმა ჯეიკობ კოქსონმა Anthropic-იდან წასვლის შესახებ განაცხადა. კოქსონის თქმით, წამყვანი AI კომპანიები „ჩვენი სიცოცხლით თამაშობენ“, მაშინ როცა თავად ტექნოლოგიის შემქმნელებს სჯერათ, რომ მას ათწლეულის ბოლომდე ყველას განადგურება შეუძლია. ამოდეის პოსტში კოქსონის წასვლა პირდაპირ ნახსენები არ არის, თუმცა CEO-მ აღნიშნა, რომ სიფრთხილისკენ ორმა ფაქტორმა უბიძგა: OpenAI-HuggingFace-ის ჰაკერულმა თავდასხმამ და ბოლო თვეებში AI-ს განვითარების ნახტომისებურმა ტემპმა.

„ჩვენ უნდა შევანელოთ AI მოდელების შესაძლებლობების გაუმჯობესების ტემპი“, — წერს ამოდეი. „პროგრესი მაინც სწრაფი იქნება, ამიტომ მიღებული დრო გონივრულად უნდა გამოვიყენოთ“. ამ ინიციატივას დადებითად გამოეხმაურნენ სხვა ლიდერებიც. სემ ალტმანმა დაადასტურა, რომ ეს საკითხი OpenAI-ში განხილვის მთავარი თემაა, ხოლო SpaceX-ის ხელმძღვანელმა, ილონ მასკმა, მოკლედ აღნიშნა: „დარიო მართალია“.

სტრატეგია 1: „ჩაშენებული შემფასებლები“ და დამოუკიდებელი კონტროლი

ამოდეის მიერ შემოთავაზებული პირველი ნაბიჯი გულისხმობს მესამე მხარის ორგანიზაციებიდან (მაგალითად, METR) „ჩაშენებული შემფასებლების“ მოწვევას. მათ უნდა გადაამოწმონ, რამდენად ასრულებენ AI კომპანიები უსაფრთხოების პირობებს და უზრუნველყონ ინციდენტების საჯაროობა. Anthropic-ის ხელმძღვანელმა ეს მოდელი საბანკო სექტორის რეგულატორებს შეადარა და მოუწოდა მთავრობებს, სხვა კომპანიებსაც მოსთხოვონ მსგავსი გამჭვირვალობა.

ამ ვალდებულების ფარგლებში, Anthropic გეგმავს გარე შემფასებლებს მიანიჭოს შემდეგი პრივილეგიები:

• კომპანიის საშვები და სამუშაო ადგილები ოფისში;
• კორპორატიული ლეპტოპები და შიდა ქსელზე წვდომა;
• წვდომა იმავე მონაცემებზე, რომლებსაც რისკების შეფასების შიდა გუნდები იყენებენ (კანონით ან კონტრაქტით გათვალისწინებული გამონაკლისების გარდა).

სემ ალტმანმა ამ იდეას „კარგი აზრი“ უწოდა და პირობა დადო, რომ OpenAI-იც გადადგამს მსგავს ნაბიჯებს.

სტრატეგია 2: კოორდინაცია დემოკრატიულ ქვეყნებს შორის

მეორე ეტაპზე ამოდეი მოუწოდებს დემოკრატიულ ქვეყნებში მოქმედ წამყვან AI კომპანიებს, შეათანხმონ უსაფრთხოების საერთო სტანდარტები და დააწესონ ლიმიტები შეუმოწმებელ პროგრესზე. ასეთი კოორდინაცია აქამდე რთულად მისაღწევი ჩანდა ანტიმონოპოლიური კანონმდებლობის გამო, რადგან კომპანიებს შესაძლოა კარტელურ გარიგებაში დასდონ ბრალი.

ამ პრობლემის მოსაგვარებლად, ამოდეი სთავაზობს აშშ-ის მთავრობას, გახდეს მედიატორი ამ დისკუსიებში და გასცეს სპეციალური ნებართვა უსაფრთხოებასთან დაკავშირებული მოლაპარაკებებისთვის. გარდა ამისა, მან უპასუხა არგუმენტს ჩინეთის შესაძლო დომინირების შესახებ. მისი აზრით, თუ აშშ და მისი მოკავშირეები შეზღუდავენ მძლავრი ჩიპებისა და აღჭურვილობის მიყიდვას ჩინეთისთვის, ეს ამერიკას 3-5 წლიან უპირატესობას მისცემს, რაც საკმარისი დროა უსაფრთხოების სტანდარტების დასანერგად.

სტრატეგია 3: გლობალური კოორდინაცია და ავტორიტარული რეჟიმები

მესამე სტრატეგია გულისხმობს გლობალურ თანამშრომლობას, მათ შორის ავტორიტარულ მთავრობებთან და ჩინეთთან. ამოდეი აღიარებს, რომ ამ მიმართულებით მიღწევები შესაძლოა მცირე იყოს, თუმცა აუცილებლად მიიჩნევს შეთანხმებას AI-ს აშკარად სახიფათო გამოყენების აკრძალვაზე.

კერძოდ, საუბარია შემდეგ შეზღუდვებზე:

• ხელოვნური ინტელექტის გამოყენების აკრძალვა ბიოლოგიური იარაღის შესაქმნელად;
• მომხმარებლებისთვის მსგავსი ქმედებების განხორციელების შესაძლებლობის დაბლოკვა.

კრიტიკა და მომავლის ხედვა

ამოდეის პოზიციამ კრიტიკაც გამოიწვია. ზოგიერთი ექსპერტი მას „განკითხვის დღის წინასწარმეტყველად“ მიიჩნევს, სხვები კი ეჭვობენ, რომ ეს არის „რეგულაციების მიტაცების“ (regulatory capture) მცდელობა, რაც მხოლოდ Anthropic-სა და OpenAI-ს აძლევს ხელს კონკურენციის შესაზღუდად. ჟურნალისტმა ბრაიან მერჩანტმა აღნიშნა, რომ ჯერ კიდევ არ უნახავს დამაჯერებელი მტკიცებულება იმისა, თუ როგორ შეიძლება AI-მ კაცობრიობა გაანადგუროს.

საპასუხოდ, ამოდეი აცხადებს, რომ მისი მიზანია „ბალანსის“ პოვნა და რომ არსებული უნდობლობა ტექნოლოგიური სექტორისა და მთავრობის მიმართ სავსებით გასაგებია. მიუხედავად გაფრთხილებებისა, ის კვლავ სჯერა, რომ ხელოვნურ ინტელექტს ადამიანის ცხოვრების ხარისხის რადიკალურად გაუმჯობესება შეუძლია, თუმცა მხოლოდ იმ შემთხვევაში, თუ ტექნოლოგია სწორად და დიდი სიფრთხილით აშენდება.