OpenAI-მ Lockdown Mode წარადგინა: ახალი ფუნქცია სენსიტიურ მონაცემებს „პრომპტ-ინექციისგან“ დაიცავს

OpenAI-მ ახალი ფუნქცია წარადგინა, რომელიც მომხმარებლებს ე.წ. „პრომპტ-ინექციის“ (prompt injection) შეტევებისგან დამატებით დაცვას სთავაზობს. ამ ტიპის თავდასხმების დროს ბოროტგანზრახული ინსტრუქციები ვებგვერდებსა თუ სხვადასხვა კონტენტშია დამალული, რაც ჩატბოტის მუშაობაზე ახდენს გავლენას და მის მანიპულირებას ისახავს მიზნად.

Lockdown Mode-ის გააქტიურება რამდენიმე მნიშვნელოვან შეზღუდვას აწესებს სისტემის ფუნქციონირებაზე. კერძოდ, ითიშება ინტერნეტში რეალურ დროში ძიების ფუნქცია, რაც იმას ნიშნავს, რომ ხელმისაწვდომი რჩება მხოლოდ ქეშირებული კონტენტი. ასევე იზღუდება ვებიდან სურათების მოძიება და მათი ჩვენება, თუმცა სურათების გენერირების შესაძლებლობა კვლავ შენარჩუნებულია. გარდა ამისა, აღნიშნულ რეჟიმში ითიშება Deep Research და აგენტის რეჟიმი (Agent Mode).

კომპანიის განმარტებით, Lockdown Mode-ის ჩართვის შემთხვევაშიც კი, ChatGPT შესაძლოა კვლავ მოწყვლადი დარჩეს გარკვეული ტიპის ინექციების მიმართ. მაგალითად, მავნე ინსტრუქციები შეიძლება შეგვხვდეს ქეშირებულ ვებკონტენტში ან მომხმარებლის მიერ ატვირთულ ფაილებში, რამაც შესაძლოა გავლენა მოახდინოს პასუხის სიზუსტესა თუ ხელოვნური ინტელექტის ქცევაზე.

ფუნქციის მთავარი მიზანია იმის ალბათობის შემცირება, რომ მუშაობის პროცესში სენსიტიური ინფორმაცია არასასურველი გზით გაზიარდეს. OpenAI-ში აცხადებენ, რომ ეს რეჟიმი სპეციფიკური საჭიროებებისთვისაა შექმნილი:

„Lockdown Mode არ არის განკუთვნილი ყველასთვის. ის შექმნილია იმ ადამიანებისა და ორგანიზაციებისთვის, რომლებიც მუშაობენ სენსიტიურ მონაცემებთან და სურთ უფრო მკაცრი დაცვა მონაცემთა ექსფილტრაციის (გაჟონვის) რისკებისგან, რაც პრომპტ-ინექციას უკავშირდება“.

ამ ეტაპზე OpenAI Lockdown Mode-ს ეტაპობრივად ნერგავს ChatGPT Business-ის თვითმომსახურების (self-serve) ანგარიშებისთვის, ისევე როგორც შესაბამისი კატეგორიის პერსონალური მომხმარებლებისთვის.