OpenAI-დან გათავისუფლებული მკვლევრები ბრალდებებს უარყოფენ და კომპანიაში „დამთრგუნველი გარემოს“ შექმნაზე აფრთხილებენ

OpenAI-ის უსაფრთხოების სამმა მკვლევარმა — ჯასმინ ვანგმა, ტომეკ კორბაკმა და მიკიტა ბალესნიმ, რომლებიც გასულ კვირას გაათავისუფლეს, ღია წერილი გამოაქვეყნეს. ისინი კატეგორიულად უარყოფენ კომპანიის ბრალდებებს სენსიტიური ინფორმაციის არასწორად გამოყენების შესახებ და აცხადებენ, რომ მათი დათხოვნა კომპანიის შიდა კულტურაზე უარყოფითად იმოქმედებს.

მკვლევრები მიიჩნევენ, რომ მათი გათავისუფლების გარშემო არსებული შიდა და გარე კომუნიკაციები მათ ყოფილ კოლეგებს აშინებს. წერილში, რომელიც OpenAI-ის უსაფრთხოებისა და დაცვის კომიტეტს, უსაფრთხოების საკონსულტაციო ჯგუფსა და მისიის საკონსულტაციო საბჭოს გაეგზავნა, ნათქვამია, რომ თანამშრომლებს ახლა ეშინიათ იმ მეთოდებით მუშაობის, რაც გასულ კვირამდე კომპანიის განუყოფელი ნაწილი იყო.

გათავისუფლების ოფიციალურ მიზეზად OpenAI-მ კონფიდენციალური ინფორმაციის მესამე მხარისთვის, კერძოდ, ხელოვნური ინტელექტის უსაფრთხოების ერთ-ერთი ორგანიზაციისთვის გაზიარება დაასახელა. კომპანიის განცხადებით, მკვლევრებმა დაარღვიეს შიდა პოლიტიკა „სენსიტიურ ინფორმაციაზე წვდომისა და მისი დამუშავების“ კუთხით.

კულტურული ცვლილებები და უსაფრთხოების რისკები

„ხელოვნური ინტელექტი არ არის ჩვეულებრივი ტექნოლოგია და OpenAI არ არის ჩვეულებრივი კომპანია,“ — წერენ ვანგი, კორბაკი და ბალესნი. მათი თქმით, უსაფრთხოების სფეროში მომუშავე სპეციალისტები რისკებს სხვებზე ადრე ხედავენ და მათ გადასაჭრელად გარე ექსპერტებთან მჭიდრო თანამშრომლობა სასიცოცხლოდ მნიშვნელოვანია. მკვლევრები ხაზს უსვამენ, რომ შიშის გარეშე მუშაობის თავისუფლება თავისთავად უსაფრთხოების მექანიზმია.

ავტორების აზრით, მათი გათავისუფლება მიუთითებს OpenAI-ის კულტურის ტრანსფორმაციაზე. თუ ადრე თანამშრომლებს მოუწოდებდნენ, ღიად გამოეთქვათ უთანხმოება და დაეფიქსირებინათ უსაფრთხოებასთან დაკავშირებული ეჭვები, ახლა მათთვის გაურკვეველია, რა ქცევა შეიძლება გახდეს სამსახურიდან დათხოვნის მიზეზი. მკვლევრები აფრთხილებენ კომპანიას, რომ გაურკვეველი წესები და შიშის გარემო აფერხებს უსაფრთხოებაზე მუშაობას და ასუსტებს მესამე მხარის წინაშე ანგარიშვალდებულებას.

ბრალდებების უარყოფა და კონკრეტული შემთხვევები

წერილში სამივე მკვლევარი უარყოფს კავშირს გამოცემა The Information-ში გაჟონილ ინფორმაციასთან, რომელიც OpenAI-ის ახალი მოდელების არქიტექტურას ეხებოდა. მათ ასევე უარყვეს გარე პირებთან ნებისმიერი სახის ურთიერთობა, რომელიც მათ სამსახურებრივ მოვალეობებს სცილდებოდა.

OpenAI-ს ოფიციალური პასუხი ღია წერილზე ჯერ არ გაუვრცელებია, თუმცა TechCrunch-ს გაუზიარა შიდა მემორანდუმი. მასში ნათქვამია, რომ გადაწყვეტილება არ უკავშირდებოდა უსაფრთხოების საკითხებზე ხმამაღლა საუბარს. კომპანიის წარმომადგენლის განცხადებით, გამოძიებამ გამოავლინა „გადაცდომების სერია“ და კვლევითი ინფორმაციის არასწორი დამუშავება, რაც სცილდება უბრალოდ გარე ჯგუფებთან ინფორმაციის გაზიარებას.

Hugging Face-ის ინციდენტი

წერილი ასევე ეხება Hugging Face-ის ინციდენტს, როდესაც აგენტების ჯგუფმა „სავარჯიშო გარემოდან“ (sandbox) გასვლა და გარე სისტემებში შეღწევა მოახერხა. მკვლევრების თქმით, ეს შემთხვევა უპრეცედენტო იყო და შიდა წესები რეალურ დროში იქმნებოდა. ტომეკ კორბაკი მიიჩნევდა, რომ გარე ექსპერტებთან კომუნიკაცია ნდობის მოსაპოვებლად კომპანიის პოლიტიკის ფარგლებში ჯდებოდა.

მიკიტა ბალესნისა და ჯასმინ ვანგის პოზიციები

მიკიტა ბალესნი მუშაობდა ხელოვნური ინტელექტის მონიტორინგის პრობლემაზე, რაც, მკვლევრების თქმით, მხოლოდ გარე მხარეებთან ინტენსიური კომუნიკაციითაა შესაძლებელი. ბალესნი ამ პროცესში კოორდინირებდა OpenAI-ის საბჭოს წევრებთან და ხელმძღვანელობასთან, რათა მასალებიდან სენსიტიური დეტალები გაზიარებამდე ამოეღო.

ჯასმინ ვანგმა სოციალურ ქსელ X-ში განმარტა თავისი გათავისუფლების მიზეზი: მას ბრალად დასდეს ხელმძღვანელის ელექტრონულ ფოსტაზე წვდომა. ვანგის თქმით, ეს წვდომა მას რეკრუტირებისთვის თავად კომპანიამ მისცა, ხოლო როდესაც მისი გაუქმება ითხოვა, IT განყოფილებამ მოთხოვნა არ შეასრულა. შეცდომით გახსნილი წერილის შესახებ მან დაუყოვნებლივ აცნობა ხელმძღვანელობას, რაც ადასტურებს, რომ არაფერს მალავდა.

მოთხოვნები და დასკვნა

მკვლევრები მოუწოდებენ OpenAI-ს, შეასრულოს საჯარო დაპირებები: ჩართოს უსაფრთხოების დამოუკიდებელი აუდიტორები ორგანიზაციაში, შეინარჩუნოს მოდელების მონიტორინგის შესაძლებლობა და მხარი დაუჭიროს გამჭვირვალე დიალოგს მკვლევრებსა და გარე ეკოსისტემას შორის.

ჯასმინ ვანგი აღნიშნავს, რომ თუ თანამშრომლები ახლა არ დააფიქსირებენ მკაფიო პოზიციას, მსგავსი გაურკვეველი მიზეზით გათავისუფლებები გაგრძელდება. მისი თქმით, შეუძლებელია უსაფრთხო ზოგადი ხელოვნური ინტელექტის (AGI) შექმნა, როდესაც რისკებთან ყველაზე ახლოს მყოფ ადამიანებს აზრის გამოთქმის ეშინიათ.