Anthropic-ის ინიციატივა: ხელოვნური ინტელექტის უსაფრთხოების კანონპროექტი, რომელიც შესაძლოა მოდელების დაბლოკვის საფუძველი გახდეს

გასული წლის განმავლობაში ხელოვნური ინტელექტის პოტენციურ საფრთხეებთან დაკავშირებით შეშფოთება სულ უფრო იზრდება, რასაც თან სდევს დებატები AI უსაფრთხოების უზრუნველყოფის საუკეთესო გზებზე. ამ ფონზე, კომპანია Anthropic-მა ინდუსტრიის რეგულირების საკუთარი ხედვა წარადგინა. გამოცემა Politico-ს ინფორმაციით, AI ლაბორატორიამ შეიმუშავა კანონპროექტის სამუშაო ვერსია, რომლის განხილვასაც კონგრესისგან ელის.

დოკუმენტი განსაზღვრავს კონკრეტულ სცენარებს, რომელთა არსებობის შემთხვევაშიც შესაძლოა AI მოდელის გავრცელება აიკრძალოს. საუბარია „მოსალოდნელ, გარდაუვალ რისკებზე“, რაც გულისხმობს 50-ზე მეტი ადამიანის დაღუპვის საფრთხეს ან მილიარდ დოლარზე მეტი ღირებულების ქონებრივ ზიანს. Politico-ს თანახმად, აღნიშნული კატასტროფული რისკები უნდა მომდინარეობდეს ბიოლოგიური იარაღის შექმნიდან, მოდელის მიერ დეველოპერის კონტროლიდან თავის დაღწევიდან ან კიბერშეტევიდან.

შემოთავაზებული კრიტერიუმები — 50 ადამიანი და მილიარდი დოლარი — მსგავსია კალიფორნიის შტატის კანონმდებლობაში (Senate Bill 53) არსებული მაჩვენებლებისა, სადაც მსგავსი სცენარები ასევე „კატასტროფულ რისკებად“ არის კლასიფიცირებული. თუმცა, ჯერჯერობით გაურკვეველია, როგორ უზრუნველყოფს ეს სისტემა იმას, რომ ფინანსურმა გადახდებმა გავლენა არ მოახდინოს შეფასების პროცესზე. DeepMind-ის თავმჯდომარემ, დემის ჰასაბისმა რამდენიმე თვის წინ გამოთქვა მოსაზრება, რომ AI-ს თვითრეგულირებადი ორგანო ფინანსური ინდუსტრიის მარეგულირებლის (FINRA) მოდელს უნდა ეფუძნებოდეს.

კატასტროფული რისკების მართვის მექანიზმი

Anthropic-ის კანონპროექტის მიხედვით, როდესაც შემფასებლები დაადგენენ გარდაუვალ კატასტროფულ რისკს, ამოქმედდება შემდეგი პროცედურა:

• შემფასებლებს აქვთ 72 საათი, რათა დაუკავშირდნენ აშშ-ის კომერციის დეპარტამენტს.
• კომერციის დეპარტამენტმა უნდა მიმართოს ვაშინგტონის (D.C.) მოსამართლეს მოდელის გამოშვების შეჩერების მოთხოვნით.
• კანონმდებლობა პირდაპირ უკრძალავს ნებისმიერ ფედერალურ სააგენტოს, საკუთარი შეხედულებისამებრ, სასამართლოს გარეშე შეაჩეროს მოდელის გავრცელება.

ინდუსტრიის რეაქცია და არსებული გამოწვევები

Anthropic-ის წარმომადგენელმა Politico-სთან დაადასტურა კანონპროექტის არსებობა და აღნიშნა, რომ ეს წინადადებები ასახავს კომპანიის „მოწინავე AI ჩარჩოს“ (Advanced AI Framework), რომლის ადვოკატირებასაც ისინი ფედერალურ და შტატის დონის კანონმდებლებთან ივნისიდან მოყოლებული ეწევიან.

კანონპროექტში მოყვანილი თეორიული რისკები გარკვეულწილად განსხვავდება იმ ინციდენტებისგან, რომლებიც ბოლო დროს ტექნოლოგიური სექტორის ყურადღების ცენტრშია. მიუხედავად იმისა, რომ არსებობს გაფრთხილებები ადამიანთა მსხვერპლის შესახებ, მთავარ საფიქრალს მაინც „აგენტური ჰაკინგი“ (agentic hacking) წარმოადგენს. დაფიქსირდა შემთხვევები, როდესაც AI პროგრამები არ დაემორჩილნენ ოპერატორებს და დამოუკიდებლად განახორციელეს ვებგვერდების ჰაკინგი, რამაც გააჩინა ეჭვი, რომ მოდელებს სათანადო უსაფრთხოების კონტროლი აკლიათ.

კრიზისული სიტუაციების ფონზე, რომელთა შექმნაშიც თავად ამ ლაბორატორიებს მიუძღვით წვლილი, Anthropic-ის მსგავსი კომპანიები საკუთარ გამოსავალს სთავაზობენ საზოგადოებას. მიუხედავად მუდმივი გაფრთხილებებისა, რომ მათმა ტექნოლოგიამ შესაძლოა კაცობრიობის ცივილიზაციის დასასრული გამოიწვიოს, კომპანიები დიდწილად ეწინააღმდეგებიან სავალდებულო სახელმწიფო ზედამხედველობას. ამის ნაცვლად, ისინი გვთავაზობენ ნებაყოფლობით სისტემას „ჩაშენებული შემფასებლებით“ — ნეიტრალური მესამე მხარის დამკვირვებლებით, რომლებიც AI ორგანიზაციებში მოდელების ბოროტად გამოყენების ნიშნებს დააკვირდებიან.

მიუხედავად ამისა, Anthropic-ის საკანონმდებლო ინიციატივა უფრო შორს მიდის, ვიდრე ინდუსტრიის სხვა წარმომადგენლების წინადადებები. მაგალითად, Nvidia-ს აღმასრულებელმა დირექტორმა, ჯენსენ ჰუანგმა ცოტა ხნის წინ განაცხადა, რომ AI ინდუსტრიას ახალი კანონები საერთოდ არ სჭირდება.