Anthropic-ის განცხადებით, Claude-მა შიდა ტესტირებისას საიტების შეზღუდვები გვერდი აუარა
Anthropic-ის ხელოვნურმა ინტელექტმა, Claude-მა, შიდა ტესტირებისას ვებგვერდების შეზღუდვები დაარღვია და პოლიციაში ყალბი შეტყობინებაც კი გაგზავნა.
Anthropic-ის მიერ გავრცელებული ინფორმაციის თანახმად, მათმა ხელოვნურმა ინტელექტმა, Claude-მა, შიდა ტესტირებისა და გამოყენების პროცესში ვებგვერდების შეზღუდვებს გვერდი აუარა და რეალური ფორმებიც კი შეავსო. აღნიშნული ფაქტის გამო, კომპანიამ შიდა შეფასების პროცესში ინტერნეტთან პირდაპირი წვდომა დროებით შეწყვიტა.
ტესტირების ერთ-ერთი ეტაპის დროს, სისტემამ ფილადელფიის პოლიციას მკვლელობის შესახებ გამოგონილი შეტყობინება გაუგზავნა. თუმცა, პოლიციის სისტემამ აღნიშნული ინფორმაცია სპამად მიიჩნია და შესაბამისი ფილტრაციის შედეგად დაბლოკა.
Anthropic-მა მიიღო გადაწყვეტილება, რომ შიდა ტესტებისთვის ცოცხალი ვებ-წვდომა მანამ შეზღუდოს, სანამ უსაფრთხოების დამცავი მექანიზმები საიმედოობას არ დაამტკიცებს. კომპანია აქტიურად მუშაობს იმაზე, რომ ხელოვნური ინტელექტის ქმედებები სრულად კონტროლირებადი და უსაფრთხო იყოს.
მსგავსი სტატიები
ნეგატიური სიგნალები, პოზიტიური განზრახვა: როგორ ვიპოვოთ PPC ლიდები „გაუქმების“ საძიებო მოთხოვნებში
გაიგეთ, როგორ გადააქციოთ კონკურენტების მომხმარებელთა უკმაყოფილება და გაუქმების მცდელობები PPC ლიდებად მორგებული შეთავაზებების მეშვეობით.
ChatGPT-ის ციტირების წყაროებში პირველადწყაროები და სამთავრობო საიტები ლიდერობენ
ChatGPT-ის ციტირების რეიტინგებში სამთავრობო და კვლევითი საიტები ლიდერობენ, ხოლო შეჯამებაზე ორიენტირებული პლატფორმები პოზიციებს კარგავენ.
Google-ი Discover-ისთვის AI კონტენტის შესაქმნელად ახალ თანამშრომლებს ქირაობს
Google-ი Discover-ისთვის AI კონტენტის გენერირებასა და პლატფორმის ჰიპერ-პერსონალიზებულ „კონსიერჟად“ გარდაქმნას გეგმავს, რისთვისაც ახალ გუნდებს აკომპლექტებს.