Google DeepMind-მა ხელოვნური საერთო ინტელექტის (AGI) საკითხებზე მომუშავე ინსტიტუტი დააფუძნა

Google-მა და Google DeepMind-ის მკვლევრებმა ოთხშაბათს DeepMind-ის ინსტიტუტი (DeepMind Institute) წარადგინეს. ახალი სტრუქტურის მიზანი ხელოვნური საერთო ინტელექტის (AGI) ირგვლივ მიმდინარე დისკუსიების გაფართოება და გაღრმავებაა. ინსტიტუტის დირექტორთა საბჭოში შედიან DeepMind-ის თანადამფუძნებელი შეინ ლეგი, Google-ის ხელმძღვანელი პირი ჯეიმს მანიკა და Google DeepMind-ის თავმჯდომარე დემის ჰასაბისი. შეინ ლეგი ასევე შეასრულებს მმართველი რედაქტორის ფუნქციას.

ახალი ინსტიტუტის ამოცანაა წარმოაჩინოს განსხვავებული შეხედულებები Google-ს, Google DeepMind-სა და გლობალურ სამეცნიერო საზოგადოებას შორის AGI-სთან დაკავშირებით. „მხარეები ყოველთვის არ დაეთანხმებიან ერთმანეთს და, სავარაუდოდ, შეიცვლიან კიდეც პოზიციებს ახალი მონაცემებისა და ინფორმაციის გამოჩენისთანავე, რადგან ეს სფერო ძალიან სწრაფად ვითარდება“, — ნათქვამია ოფიციალურ განცხადებაში.

ინსტიტუტის ფარგლებში გამოქვეყნებულ ერთ-ერთ ესეში DeepMind-ის უსაფრთხოების მკვლევრები, როჰინ შაჰი და ანკა დრაგანი, ამტკიცებენ, რომ ხელოვნური ინტელექტის გამჭვირვალობის შემცირება — ანუ მოდელის ეტაპობრივი მსჯელობის დანახვისა და შემოწმების შესაძლებლობა — გარდაუვალი პროცესი არ არის. ავტორების მოსაზრებით, რადგან ახალი არქიტექტურები მძლავრი მოდელების მონიტორინგს ართულებს, დეველოპერები და რეგულატორები პირისპირ უნდა დაუპირისპირდნენ უსაფრთხოების რისკებს.

უსაფრთხოების კონკრეტული მექანიზმები

მკვლევრები გვთავაზობენ რამდენიმე მიდგომას AI სისტემების კონტროლის შესანარჩუნებლად:

• „გაუმჭვირვალე სერიული სიღრმის“ (opaque serial depth) შეზღუდვა: ეს გულისხმობს იმ თანმიმდევრული გამოთვლების რაოდენობის ლიმიტირებას, რომელსაც მოდელი ასრულებს კითხვადი ლოგიკური კვალის დატოვების გარეშე.
• მონიტორინგის ვალდებულება: დეველოპერებს შეიძლება მოეთხოვოთ იმის დამტკიცება, რომ ნაკლებად გამჭვირვალე სისტემები კვლავ ექვემდებარება ეფექტურ მონიტორინგს.

AI სტანდარტების მარეგულირებელი ორგანო

მეორე ესეში დემის ჰასაბისი გამოდის ინიციატივით, შეიქმნას აშშ-ის მიერ მართული მოწინავე AI სტანდარტების ორგანო, რომელიც შეაფასებს ყველაზე განვითარებულ მოდელებს. მისი ჩარჩო-გეგმა შემდეგ ეტაპებს მოიცავს:

1. ნებაყოფლობითი წარდგენა: საწყის ეტაპზე დეველოპერები ნებაყოფლობით წარადგენენ მოდელებს განსახილველად მათ საჯარო გამოშვებამდე 30 დღით ადრე.
2. სავალდებულო ტესტირება: მას შემდეგ, რაც შეფასების სისტემა ეფექტურობას დაამტკიცებს, ტესტების გავლა შესაძლოა სავალდებულო გახდეს აშშ-ში მოწინავე მოდელების დასანერგად.
3. დამოუკიდებელი შეფასება: თავდაპირველად ორგანო შეფასების კრიტერიუმებს AI კომპანიებთან კონსულტაციით შეიმუშავებს, თუმცა მოგვიანებით გადავა გასაიდუმლოებულ ტესტებზე (ე.წ. „held-out“ ტესტები), რათა ლაბორატორიებმა მოდელები წინასწარ ცნობილ კრიტერიუმებს არ მოარგონ.

ჰასაბისის განცხადებით, ეს ჩარჩო-გეგმა შეიძლება გამკაცრდეს სიტუაციის სერიოზულობიდან გამომდინარე, რაც შესაძლოა მოწინავე AI დეველოპერებს შორის განვითარების ტემპის კოორდინირებულ შენელებასაც კი გულისხმობდეს.

აღნიშნული ესეები იმ დროს ქვეყნდება, როდესაც ინდუსტრიაში უსაფრთხოების შესახებ დებატები ზოგადი შეშფოთებიდან კონკრეტულ წინადადებებზე გადადის. ეს მოიცავს ინფორმაციის გამჟღავნებას, გარე კონტროლს და უსაფრთხოების ზომების ჩამორჩენის შემთხვევაში, პროცესების შეჩერებას. ეს ტენდენცია კიდევ უფრო გაძლიერდა მას შემდეგ, რაც ინდუსტრიის ლიდერებმა მხარი დაუჭირეს Anthropic-ის აღმასრულებელი დირექტორის, დარიო ამოდეის მოწოდებას მოწინავე AI-ს განვითარების ტემპის დარეგულირების შესახებ.