OpenAI-მ Lockdown Mode წარადგინა: ახალი ფუნქცია სენსიტიურ მონაცემებს „პრომპტ-ინექციისგან“ დაიცავს
OpenAI-მ წარადგინა Lockdown Mode, რომელიც ChatGPT-ის მომხმარებლებს პრომპტ-ინექციის შეტევებისგან იცავს. ფუნქცია ზღუდავს ინტერნეტთან წვდომას და სხვა რეჟიმებს მონაცემთა უსაფრთხოებისთვის.
OpenAI-მ ახალი ფუნქცია წარადგინა, რომელიც მომხმარებლებს ე.წ. „პრომპტ-ინექციის“ (prompt injection) შეტევებისგან დამატებით დაცვას სთავაზობს. ამ ტიპის თავდასხმების დროს ბოროტგანზრახული ინსტრუქციები ვებგვერდებსა თუ სხვადასხვა კონტენტშია დამალული, რაც ჩატბოტის მუშაობაზე ახდენს გავლენას და მის მანიპულირებას ისახავს მიზნად.
Lockdown Mode-ის გააქტიურება რამდენიმე მნიშვნელოვან შეზღუდვას აწესებს სისტემის ფუნქციონირებაზე. კერძოდ, ითიშება ინტერნეტში რეალურ დროში ძიების ფუნქცია, რაც იმას ნიშნავს, რომ ხელმისაწვდომი რჩება მხოლოდ ქეშირებული კონტენტი. ასევე იზღუდება ვებიდან სურათების მოძიება და მათი ჩვენება, თუმცა სურათების გენერირების შესაძლებლობა კვლავ შენარჩუნებულია. გარდა ამისა, აღნიშნულ რეჟიმში ითიშება Deep Research და აგენტის რეჟიმი (Agent Mode).
კომპანიის განმარტებით, Lockdown Mode-ის ჩართვის შემთხვევაშიც კი, ChatGPT შესაძლოა კვლავ მოწყვლადი დარჩეს გარკვეული ტიპის ინექციების მიმართ. მაგალითად, მავნე ინსტრუქციები შეიძლება შეგვხვდეს ქეშირებულ ვებკონტენტში ან მომხმარებლის მიერ ატვირთულ ფაილებში, რამაც შესაძლოა გავლენა მოახდინოს პასუხის სიზუსტესა თუ ხელოვნური ინტელექტის ქცევაზე.
ფუნქციის მთავარი მიზანია იმის ალბათობის შემცირება, რომ მუშაობის პროცესში სენსიტიური ინფორმაცია არასასურველი გზით გაზიარდეს. OpenAI-ში აცხადებენ, რომ ეს რეჟიმი სპეციფიკური საჭიროებებისთვისაა შექმნილი:
„Lockdown Mode არ არის განკუთვნილი ყველასთვის. ის შექმნილია იმ ადამიანებისა და ორგანიზაციებისთვის, რომლებიც მუშაობენ სენსიტიურ მონაცემებთან და სურთ უფრო მკაცრი დაცვა მონაცემთა ექსფილტრაციის (გაჟონვის) რისკებისგან, რაც პრომპტ-ინექციას უკავშირდება“.
ამ ეტაპზე OpenAI Lockdown Mode-ს ეტაპობრივად ნერგავს ChatGPT Business-ის თვითმომსახურების (self-serve) ანგარიშებისთვის, ისევე როგორც შესაბამისი კატეგორიის პერსონალური მომხმარებლებისთვის.
მსგავსი სტატიები
Prentis: რიდ ჰოფმანისა და მარკ პინკუსის AI სტარტაპი $1 მილიარდიანი შეფასებით $100 მილიონის მოზიდვას გეგმავს
ხელოვნური ინტელექტის ახალი ლაბორატორია Prentis-ი, რომელიც საოფისე სამუშაოების ავტომატიზაციისთვის AI აგენტებს ქმნის, $100 მილიონიანი ინვესტიციის მოსაზიდად მოლაპარაკებებს აწარმოებს.
OpenAI-მ ახალი AI კლავიატურა Micro წარადგინა: ფუნქციური აქსესუარი თუ ძვირადღირებული სათამაშო?
OpenAI-მ წარმოადგინა Micro — ChatGPT-სთვის განკუთვნილი სპეციალური კლავიატურა, რომელიც პროგრამისტებისთვისაა შექმნილი, თუმცა მისი ფასი და საჭიროება კითხვებს აჩენს.
აშშ ჩინური ხელოვნური ინტელექტის წინააღმდეგ ზომებს განიხილავს: ტექნოლოგიური გიგანტები ღია მოდელების შეზღუდვის წინააღმდეგ გამოდიან
AI ინდუსტრიის გიგანტები, მათ შორის Meta და Nvidia, აშშ-ის მთავრობას მოუწოდებენ, არ დააწესონ მკაცრი შეზღუდვები ღია AI მოდელებზე ჩინეთთან დაპირისპირების ფონზე.