Anthropic-ის ხელოვნურმა ინტელექტმა ფილადელფიის პოლიციას მკვლელობის შესახებ ცრუ შეტყობინება გაუგზავნა
Anthropic-ის ხელოვნურმა ინტელექტმა ფილადელფიის პოლიციას მკვლელობის შესახებ ცრუ ინფორმაცია მიაწოდა, რაც ავტონომიური AI აგენტების ზედამხედველობის გარეშე მუშაობის საფრთხეებზე მიუთითებს.
Anthropic-ის ხელოვნური ინტელექტის მოდელმა ფილადელფიის პოლიციას გაუხსნელი მკვლელობის შესახებ ცრუ ინფორმაცია მიაწოდა. გავრცელებული ინფორმაციით, მოდელმა მცდარი მონაცემები ფილადელფიის პოლიციის დეპარტამენტის (PPD) საჯარო ცხელ ხაზზე 18 ივლისს გაგზავნა, თუმცა კომპანიამ აღნიშნული ხარვეზი მხოლოდ 28 სექტემბერს აღმოაჩინა.
პოლიციას შეტყობინება მანამდე არ უნახავს, რადგან ის ავტომატურად სპამის კატეგორიაში მოხვდა. Anthropic-მა მომხდარის შესახებ პოლიციის დეპარტამენტს ოთხშაბათს შეატყობინა, მომდევნო დღეს კი მხარეებს შორის შეხვედრა გაიმართა. ფილადელფიის პოლიციის დეპარტამენტმა 6abc-სთვის მიცემულ განცხადებაში აღნიშნა, რომ კომპანიამ უნდა გააძლიეროს უსაფრთხოების ზომები, რათა მსგავსმა ინციდენტებმა ქალაქის სისტემებზე გავლენა მათგან დამოუკიდებლად არ მოახდინოს. პოლიციის განმარტებით, ინციდენტის აღმოჩენისა და შეტყობინების ორთვიანი დაგვიანება მიუღებელია.
მიუხედავად იმისა, რომ Anthropic-ს კომენტარის მოთხოვნაზე დაუყოვნებლივ არ უპასუხია, პოლიციის დეპარტამენტმა TechCrunch-ისთვის გაზიარებულ პრესრელიზში დეტალები დააზუსტა. Anthropic-ის განმარტებით, მოდელი ატარებდა ტესტს, რომელიც შემთხვევით შერჩეულ ვებგვერდებთან ურთიერთქმედებას გულისხმობდა. სწორედ ამ დროს შევიდა სისტემა საიტზე PhillyUnsolvedMurders.com და გაუხსნელი მკვლელობის შესახებ ცრუ ინფორმაცია გაგზავნა.
„2026 წლის 18 ივლისით, საღამოს 11:27 საათით დათარიღებული შეტყობინება ისე იყო შედგენილი, თითქოს მას პირი აგზავნიდა, რომელსაც საქმის შესახებ რაიმე ინფორმაცია შეიძლებოდა ჰქონოდა“, — აცხადებენ პოლიციის დეპარტამენტში.
ავტონომიური ხელოვნური ინტელექტის აგენტების მომხმარებლებისთვის ხელმისაწვდომობის ზრდასთან ერთად, ეს ინციდენტი ხაზს უსვამს იმ საფრთხეებს, რაც ადამიანის ზედამხედველობის გარეშე AI-სთვის დავალებების შესრულების უფლების მიცემას ახლავს. Anthropic-ის აღმასრულებელი დირექტორი, დარიო ამოდეი, აქტიურად უჭერს მხარს ხელოვნური ინტელექტის განვითარების შენელებას, რათა ლაბორატორიებმა ადეკვატური დამცავი მექანიზმების დანერგვა მოასწრონ. შესაძლოა, მის ამ პოზიციაზე ნაწილობრივ გავლენა სწორედ საკუთარი კომპანიის ინსტრუმენტების მიერ მკვლელობის შესახებ ცრუ შეტყობინებების გაგზავნამაც მოახდინა.
მსგავსი პრობლემები მხოლოდ Anthropic-ისთვის არ არის დამახასიათებელი. OpenAI-მ ცოტა ხნის წინ გაამჟღავნა, რომ მისმა ერთ-ერთმა მოდელმა ტესტირებისას მოულოდნელად იმოქმედა და ხელოვნური ინტელექტის მონაცემთა პლატფორმა Hugging Face გატეხა, რითაც პროგრამულ უზრუნველყოფაში კრიტიკული მოწყვლადობები გამოავლინა. ვინაიდან ხელოვნური ინტელექტის მოდელებს სულ უფრო ხშირად ეძლევათ შეუზღუდავი წვდომა ადამიანების კომპიუტერებსა და ავტორიზაციის მონაცემებზე, მოსალოდნელია, რომ ეს პრობლემა კვლავ აქტუალური დარჩება.
„გაუხსნელი საქმეების მიღმა რეალური მსხვერპლი, მგლოვიარე ოჯახები და გამომძიებლები დგანან, რომლებიც პასუხების პოვნას ცდილობენ“, — დაამატეს პოლიციის დეპარტამენტში. „ტექნოლოგიურმა კომპანიებმა უნდა გადადგან ყველა საჭირო ნაბიჯი, რათა მათმა სისტემებმა სამართალდამცავ ორგანოებს ცრუ ინფორმაცია არ მიაწოდონ“.
ფილადელფიის პოლიციის დეპარტამენტის ინფორმაციით, Anthropic პარასკევს გეგმავს ანგარიშის გამოქვეყნებას, რომელიც ინციდენტისა და მოდელის სხვა გაუთვალისწინებელი ქცევების შესახებ დამატებით დეტალებს მოიცავს.
მსგავსი სტატიები
Amazon მონაცემთა ცენტრების შესახებ კონფიდენციალურობის შეთანხმებებზე უარს ამბობს, ხოლო AI აგენტებს მომხმარებელთა საკრედიტო ბარათებზე წვდომა სურთ
Amazon წყვეტს NDA-ების გამოყენებას მონაცემთა ცენტრების მშენებლობისას, ხოლო AI სტარტაპები მომხმარებელთა ფინანსურ მონაცემებზე წვდომას ცდილობენ.
Amazon-ი და სხვა გიგანტები მონაცემთა ცენტრების შესახებ საიდუმლო შეთანხმებებზე უარს ამბობენ: იქნება ეს საკმარისი ნდობის მოსაპოვებლად?
Amazon-ი და Microsoft-ი მონაცემთა ცენტრების მშენებლობისას საიდუმლო შეთანხმებებზე უარს ამბობენ, რათა საზოგადოების ნდობა დაიბრუნონ და AI ინფრასტრუქტურის მიმართ არსებული წინააღმდეგობა დაძლიონ.
OpenAI-დან გათავისუფლებული მკვლევრები ბრალდებებს უარყოფენ და კომპანიაში „დამთრგუნველი გარემოს“ შექმნაზე აფრთხილებენ
OpenAI-დან გათავისუფლებული უსაფრთხოების მკვლევრები ღია წერილში კომპანიის ბრალდებებს უარყოფენ და აცხადებენ, რომ მსგავსი გადაწყვეტილებები ორგანიზაციაში შიშის ატმოსფეროს ქმნის.