OpenAI-მ პენტაგონთან ხელშეკრულება გააფორმა: სემ ალტმანი „ტექნიკურ გარანტიებზე“ საუბრობს

OpenAI-ს აღმასრულებელმა დირექტორმა, სემ ალტმანმა, პარასკევს გვიან ღამით განაცხადა, რომ კომპანიამ აშშ-ის თავდაცვის დეპარტამენტთან შეთანხმებას მიაღწია. ეს ხელშეკრულება უწყებას საშუალებას აძლევს, გამოიყენოს OpenAI-ს ხელოვნური ინტელექტის მოდელები დეპარტამენტის გასაიდუმლოებულ ქსელში.

აღნიშნული გადაწყვეტილება მოჰყვა ხმაურიან დაპირისპირებას პენტაგონსა (რომელიც დონალდ ტრამპის ადმინისტრაციის პირობებში „ომის დეპარტამენტის“ სახელითაც არის ცნობილი) და OpenAI-ს მთავარ კონკურენტს, Anthropic-ს შორის. პენტაგონი ხელოვნური ინტელექტის მწარმოებელ კომპანიებს, მათ შორის Anthropic-ს, მოუწოდებდა, დაეშვათ მათი მოდელების გამოყენება „ყველა კანონიერი მიზნისთვის“. თავის მხრივ, Anthropic ცდილობდა დაეწესებინა მკაცრი შეზღუდვები მასობრივ შიდა თვალთვალსა და სრულად ავტონომიურ იარაღზე.

ხუთშაბათს გამოქვეყნებულ ვრცელ განცხადებაში Anthropic-ის აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ აღნიშნა, რომ კომპანიას „არასოდეს გამოუთქვამს პრეტენზია კონკრეტულ სამხედრო ოპერაციებზე და არც მათი ტექნოლოგიის გამოყენების შეზღუდვა უცდიათ ad hoc წესით“. თუმცა, მან ხაზგასმით აღნიშნა, რომ „რიგ შემთხვევებში, ხელოვნურმა ინტელექტმა შესაძლოა დემოკრატიულ ღირებულებებს დაცვის ნაცვლად საფრთხე შეუქმნას“. მიმდინარე კვირაში OpenAI-ს 60-ზე მეტმა და Google-ის 300-მდე თანამშრომელმა ხელი მოაწერა ღია წერილს, რომლითაც დამსაქმებლებს Anthropic-ის პოზიციის მხარდაჭერისკენ მოუწოდეს.

დაპირისპირება Anthropic-სა და ადმინისტრაციას შორის

მას შემდეგ, რაც Anthropic-მა და პენტაგონმა შეთანხმებას ვერ მიაღწიეს, პრეზიდენტმა დონალდ ტრამპმა სოციალურ ქსელში გააკრიტიკა Anthropic-ის წარმომადგენლები და მათ „მემარცხენე გიჟები“ უწოდა. მან ფედერალურ უწყებებს დაავალა, ექვსთვიანი გარდამავალი პერიოდის შემდეგ შეწყვიტონ ამ კომპანიის პროდუქტების გამოყენება. თავდაცვის მდივანმა პიტ ჰეგსეთმა კი განაცხადა, რომ Anthropic ცდილობდა „ვეტოს უფლება მოეპოვებინა აშშ-ის სამხედრო ოპერაციულ გადაწყვეტილებებზე“.

ჰეგსეთმა Anthropic-ი „მიწოდების ჯაჭვის რისკად“ გამოაცხადა და დასძინა: „ამიერიდან, არცერთ კონტრაქტორს, მომწოდებელს თუ პარტნიორს, რომელიც აშშ-ის სამხედრო უწყებასთან თანამშრომლობს, არ აქვს უფლება აწარმოოს რაიმე სახის კომერციული საქმიანობა Anthropic-თან“. საპასუხოდ, Anthropic-ში განაცხადეს, რომ მათ ჯერ არ მიუღიათ ოფიციალური შეტყობინება ომის დეპარტამენტისგან ან თეთრი სახლისგან, თუმცა აპირებენ სასამართლოში გაასაჩივრონ ნებისმიერი გადაწყვეტილება, რომელიც მათ მიწოდების ჯაჭვის რისკად აკლასიფიცირებს.

OpenAI-ს პოზიცია და უსაფრთხოების გარანტიები

სემ ალტმანმა სოციალურ ქსელ X-ზე გამოქვეყნებულ პოსტში აღნიშნა, რომ OpenAI-ს ახალი თავდაცვის კონტრაქტი მოიცავს დაცვის მექანიზმებს იმავე საკითხებზე, რომლებიც Anthropic-ისთვის პრობლემური აღმოჩნდა. ალტმანის თქმით:

„ჩვენი უსაფრთხოების ორი უმნიშვნელოვანესი პრინციპია მასობრივი შიდა თვალთვალის აკრძალვა და ძალის გამოყენებაზე, მათ შორის ავტონომიური იარაღის სისტემების შემთხვევაში, ადამიანის პასუხისმგებლობის შენარჩუნება. ომის დეპარტამენტი ეთანხმება ამ პრინციპებს, რაც ასახულია კანონმდებლობასა და პოლიტიკაში, და ჩვენ ეს ჩვენს შეთანხმებაშიც ჩავწერეთ.“

ალტმანმა ასევე განაცხადა, რომ OpenAI შექმნის „ტექნიკურ გარანტიებს“ მოდელების სწორი ფუნქციონირების უზრუნველსაყოფად, რაც თავად უწყების მოთხოვნაც იყო. გარდა ამისა, კომპანია პენტაგონში ინჟინრებს მიავლენს, რომლებიც მოდელების უსაფრთხოებაზე იზრუნებენ. OpenAI მოუწოდებს ომის დეპარტამენტს, იგივე პირობები შესთავაზოს ხელოვნური ინტელექტის ყველა კომპანიას.

უსაფრთხოების შიდა მექანიზმები

Fortune-ის ჟურნალისტის, შერონ გოლდმანის ინფორმაციით, ალტმანმა თანამშრომლებთან შეხვედრაზე განმარტა, რომ მთავრობა კომპანიას საკუთარი „უსაფრთხოების სტეკის“ (safety stack) შექმნის უფლებას მისცემს ბოროტად გამოყენების თავიდან ასაცილებლად. მისივე თქმით, თუ მოდელი უარს იტყვის კონკრეტული დავალების შესრულებაზე, მთავრობა არ აიძულებს OpenAI-ს ამ დავალების შესრულებას.

აღსანიშნავია, რომ ალტმანის განცხადება მალევე მოჰყვა გავრცელებულ ინფორმაციას აშშ-ისა და ისრაელის მიერ ირანის დაბომბვის დაწყების შესახებ, რის პარალელურადაც დონალდ ტრამპმა ირანის მთავრობის დამხობისკენ მოუწოდა.