Anthropic-ი METR-ის მკვლევრებს შიდა პროცესებზე სრულ წვდომას აძლევს: უსაფრთხოების ახალი სტანდარტი AI ინდუსტრიაში

კომპანია Anthropic-მა გადაწყვიტა, არაკომერციული ორგანიზაცია METR-ის ექვს მკვლევარს მიანიჭოს თანამშრომლის დონის წვდომა თავის სისტემებზე. METR-ი სპეციალიზებულია მოწინავე ხელოვნური ინტელექტის მოდელების ტესტირებაზე, ხოლო აღნიშნული თანამშრომლობა მიზნად ისახავს Anthropic-ის მოდელების, უსაფრთხოების პრაქტიკისა და რისკების მართვის დამოუკიდებელ შეფასებას.

ეს გადაწყვეტილება განსაკუთრებით აქტუალურია იმ ფონზე, როდესაც აგვისტოს ბოლოდან მოყოლებული, თითქმის ყოველ კვირას ვრცელდება ინფორმაცია AI აგენტების მიერ დადგენილი ინსტრუქციების დარღვევის შესახებ. მსგავსმა ინციდენტებმა გააძლიერა მოთხოვნა AI კომპანიების საქმიანობის დამოუკიდებელ შემოწმებაზე. Anthropic-ის განცხადებით, მათ სურთ იყვნენ საჯაროდ ანგარიშვალდებულნი მიღებულ გადაწყვეტილებებზე და აღმოფხვრან ნაპრალი იმას შორის, თუ რას ხედავენ გარე შემფასებლები და რას ფლობს თავად კომპანია საკუთარი სისტემების შესახებ.

ახალი შეთანხმების ფარგლებში, METR-ის გუნდს გადაეცემა Anthropic-ის კორპორატიული ლეპტოპები, სამუშაო სივრცე და წვდომა იმავე შიდა ინსტრუმენტებზე, რომლებსაც კომპანიის რისკების შემფასებელი შიდა ჯგუფები იყენებენ. Anthropic-ის თანამშრომლებს მიეცათ რეკომენდაცია, გაუზიარონ ინფორმაცია მკვლევრებს ისევე, როგორც ამას საკუთარი კოლეგების შემთხვევაში გააკეთებდნენ.

კონტროლის მექანიზმები და გამჭვირვალობა

Anthropic-ი ამ მოდელს საბანკო სექტორს ადარებს, სადაც რეგულატორები ხშირად ნიშნავენ მუდმივ ზედამხედველებს უმსხვილეს ბანკებში. METR-ი დამოუკიდებლად გამოაქვეყნებს საკუთარ შეფასებებს Anthropic-ის რისკების, ინციდენტებისა და პრაქტიკის შესახებ. მნიშვნელოვანია, რომ კომპანიამ უარი თქვა ამ ანგარიშების დაბლოკვის უფლებაზე.

მიუხედავად იმისა, რომ Anthropic-ს არ აქვს პუბლიკაციებზე ვეტოს დადების უფლება, მას შეუძლია მოითხოვოს გარკვეული ინფორმაციის დაფარვა (რედაქტირება), თუ ის ეხება შემდეგ კატეგორიებს:

• მომხმარებელთა პერსონალური მონაცემები;
• იურიდიული კონფიდენციალურობის (attorney-client privilege) ქვეშ მყოფი ინფორმაცია;
• მოდელის არქიტექტურასთან დაკავშირებული სპეციფიკური დეტალები.

თავის მხრივ, METR-ს აქვს უფლება საჯაროდ განაცხადოს, თუ რომელი ინფორმაცია დაიფარა და გამოთქვას მოსაზრება, იყო თუ არა ეს ქმედება გამართლებული, იმ პირობით, რომ თავად დაფარულ დეტალებს არ გაამჟღავნებს.

სამდონიანი შეფასების სისტემა

METR ამჟამად ერთადერთი ორგანიზაციაა, რომელიც Anthropic-ის მიერ შექმნილი სამდონიანი სისტემის უმაღლეს საფეხურზე იმყოფება. სისტემა შემდეგნაირად არის სტრუქტურირებული:

• ქვედა დონე: მაგალითად, ბიოუსაფრთხოების არაკომერციული ორგანიზაცია SecureBio. ისინი ატარებენ ვიწრო პროფილის მიმოხილვებს და პუბლიკაციისთვის Anthropic-ის თანხმობა სჭირდებათ.
• საშუალო დონე: ორგანიზაციებს აქვთ წვდომა მეტ ინფორმაციაზე და შეუძლიათ ანგარიშების გამოქვეყნება კომპანიის წინასწარი დასტურის გარეშე.
• ზედა დონე: გულისხმობს METR-ის მსგავს სრულ, თანამშრომლის დონის წვდომას შიდა რესურსებზე.

ეს ნაბიჯი ასრულებს დაპირებას, რომელიც Anthropic-ის აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ სექტემბერში გააჟღერა. მან წამოაყენა ინიციატივა AI ლაბორატორიებში გარე შემფასებლების დაშვების შესახებ, როგორც ტექნოლოგიის განვითარების კონტროლის პირველი ნაბიჯი. მსგავსი პირობა მალევე დადო OpenAI-მაც. ამჟამად Anthropic-თან ერთად, Google-მა, Meta-მ, Nvidia-მ და xAI-მ ხელი მოაწერეს თეთრი სახლის შეთანხმებას, რომელიც დამოუკიდებელი რევიზიის ჩატარებას ითვალისწინებს.