OpenAI Anthropic-ის წინააღმდეგ: მომხმარებელთა კონფიდენციალურობის დაცვის ახალი სტანდარტი

ხელოვნური ინტელექტის მოდელების გაძლიერებასთან ერთად, მათი არასათანადო გამოყენების პოტენციალიც იზრდება, რამაც უსაფრთხოების მექანიზმების დანერგვის აუცილებლობა წარმოშვა. AI კომპანიები ამჟამად რთული არჩევანის წინაშე დგანან: მათ ერთდროულად უნდა დაიცვან კორპორატიული კლიენტების კონფიდენციალურობა და, ამავდროულად, გააკონტროლონ სისტემის გამოყენების პროცესი შესაძლო დარღვევების გამოსავლენად.

კონკურენტ Anthropic-თან უპირატესობის მოსაპოვებლად, OpenAI-მ ახალი, კონფიდენციალურობაზე ორიენტირებული უსაფრთხოების მიდგომა წარადგინა. კომპანია შერჩეულ მომხმარებლებს სთავაზობს ახალ სერვისს, სახელწოდებით Private Safety Processing. ეს არის ავტომატიზებული სისტემა, რომელიც აკონტროლებს პლატფორმის შესაძლო ბოროტად გამოყენებას ისე, რომ მომხმარებლის მონაცემებს საერთოდ არ ინახავს.

კონკურენცია Anthropic-თან და მონაცემთა შენახვის პოლიტიკა

OpenAI-ს ეს ნაბიჯი პირდაპირ ეწინააღმდეგება Anthropic-ის მიერ ცოტა ხნის წინ გამოქვეყნებულ მონაცემთა შენახვის პოლიტიკას. Anthropic-ის მიდგომამ ზოგიერთი მომხმარებლის უკმაყოფილება გამოიწვია, რადგან ის კომპანიას უფლებას აძლევს, „დაფარული მოდელების“ (covered models) შემთხვევაში, მომხმარებლის მონაცემები, მათ შორის ყველა სესია და საუბარი, 30 დღის განმავლობაში შეინახოს. აღნიშნულ მოდელებში შედის Mythos-ის კლასის ყველა მოდელი და მსგავსი შესაძლებლობების მქონე მომავალი ვერსიები.

ივლისში დაანონსებული ეს პოლიტიკა უსაფრთხოების მიზნით შეიქმნა, რათა ლაბორატორიას შესაძლებლობა ჰქონოდა, გაეანალიზებინა პოტენციური დარღვევები. თუმცა, ამან დიდი შეშფოთება გამოიწვია იმ საწარმოებში, რომლებიც სენსიტიურ მონაცემებთან მუშაობენ და არ სურთ, რომ მათი ინფორმაცია AI ლაბორატორიის მიერ ინახებოდეს ან მოწმდებოდეს.

Zero Data Retention (ZDR) და ახალი ტექნოლოგია

OpenAI, ისევე როგორც AI კომპანიების უმეტესობა, მომხმარებლებს სთავაზობს კონფიდენციალურობის გარკვეულ დონეს პოლიტიკით, რომელსაც Zero Data Retention (ZDR) ეწოდება. ZDR იყენებს აგენტებს OpenAI API-ს ფარგლებში, რათა თითოეული სესიის დონეზე მოხდეს ბოროტად გამოყენების მონიტორინგი. ამ გზით, მომხმარებლის მონაცემები არ ინახება, თუმცა კომპანიებს მაინც შეუძლიათ არასასურველი აქტივობების სკანირება ადამიანის ჩარევის გარეშე. აღსანიშნავია, რომ Anthropic-იც ძირითადად იცავს ZDR პრინციპს, გარდა „დაფარული მოდელებისა“, როგორიცაა Fable.

OpenAI-ს განცხადებით, Private Safety Processing არის ახალი ტექნოლოგია, რომელიც აფართოებს ZDR-ის მასშტაბებს. კომპანია მას აღწერს, როგორც გრძელვადიანი უსაფრთხოების მონიტორინგის ფორმას, რომელიც აფასებს არა მხოლოდ ერთ, არამედ რამდენიმე საუბრის შეყვანილ და გამოტანილ მონაცემებს. მონიტორინგს კვლავ აგენტი ახორციელებს, რომელიც დარღვევის დაფიქსირების შემთხვევაში აანალიზებს ინტერაქციებს სხვადასხვა სესიებს შორის.

როგორ ხდება დარღვევების გამოვლენა

• მრავალსესიიანი მონიტორინგი: ახალი ტექნოლოგია ეხმარება OpenAI-ს გამოავლინოს მავნე ქმედებები, რომლებიც რამდენიმე სესიის განმავლობაში ნაწილდება. მაგალითად, კიბერშეტევისთვის მავნე პროგრამის შექმნის მცდელობისას, ბოროტმოქმედმა შესაძლოა მოთხოვნები სხვადასხვა საუბრებში გაანაწილოს, რათა თავი აარიდოს გამოვლენას.
• ავტომატიზებული ანალიზი: Private Safety Processing აანალიზებს ამ საუბრებს ადამიანის მიერ მომხმარებლის მიმოწერის წაკითხვის გარეშე.
• სიგნალის გაგზავნა: სისტემის ამოქმედების შემთხვევაში, ის OpenAI-ს უგზავნის „ვიწროდ განსაზღვრულ სიგნალს“, რომელიც კონკრეტული ტიპის აქტივობის შესახებ აფრთხილებს.
• შემდგომი რეაგირება: ამ სიგნალზე დაყრდნობით, OpenAI წყვეტს, არის თუ არა საჭირო ზომების მიღება. საჭიროების შემთხვევაში, კომპანია უკავშირდება კლიენტს დამატებითი კონტექსტის მისაღებად, ხოლო მომხმარებელს შეუძლია საკუთარი შეხედულებისამებრ გაუზიაროს მონაცემები OpenAI-ს.

ამის საპირისპიროდ, Anthropic აღნიშნავს, რომ მომხმარებლის მონაცემების ადამიანის მიერ შემოწმება შესაძლებელია, თუმცა მხოლოდ „კონტროლირებადი წვდომის გზით“, რომელშიც ჩართულია „დამტკიცებულ რეცენზენტთა მცირე ჯგუფი“. თითოეული ასეთი სესია იწერება სპეციალურ ჟურნალში, რომლის შეცვლა ან წაშლა შეუძლებელია.

ბიზნეს კონკურენცია და ფინანსური მაჩვენებლები

OpenAI-სა და Anthropic-ს შორის კორპორატიული კონკურენცია ამჟამად პიკს აღწევს. ორივე კომპანია ცდილობს ნებისმიერი შესაძლებლობა გამოიყენოს უპირატესობის მოსაპოვებლად. ბოლო მონაცემებით, OpenAI-ს მეორე კვარტლის ზრდა უფრო ნელი იყო, ვიდრე Anthropic-ის.

გავრცელებული ინფორმაციით, Anthropic-ის წლიური შემოსავლის მაჩვენებელი (annualized revenue run rate) ამჟამად 65 მილიარდ დოლარს შეადგენს. Anthropic-ის ინვესტორების ვარაუდით, კომპანიის საბაზრო ღირებულება IPO-ს დროს შესაძლოა 2 ტრილიონი დოლარი იყოს. პარალელურად, საკუთარ IPO-ზე OpenAI-ც მუშაობს.