Anthropic-ის ხელოვნური ინტელექტის მოდელმა ფილადელფიის პოლიციას გაუხსნელი მკვლელობის შესახებ ცრუ ინფორმაცია მიაწოდა. გავრცელებული ინფორმაციით, მოდელმა მცდარი მონაცემები ფილადელფიის პოლიციის დეპარტამენტის (PPD) საჯარო ცხელ ხაზზე 18 ივლისს გაგზავნა, თუმცა კომპანიამ აღნიშნული ხარვეზი მხოლოდ 28 სექტემბერს აღმოაჩინა.
პოლიციას შეტყობინება მანამდე არ უნახავს, რადგან ის ავტომატურად სპამის კატეგორიაში მოხვდა. Anthropic-მა მომხდარის შესახებ პოლიციის დეპარტამენტს ოთხშაბათს შეატყობინა, მომდევნო დღეს კი მხარეებს შორის შეხვედრა გაიმართა. ფილადელფიის პოლიციის დეპარტამენტმა 6abc-სთვის მიცემულ განცხადებაში აღნიშნა, რომ კომპანიამ უნდა გააძლიეროს უსაფრთხოების ზომები, რათა მსგავსმა ინციდენტებმა ქალაქის სისტემებზე გავლენა მათგან დამოუკიდებლად არ მოახდინოს. პოლიციის განმარტებით, ინციდენტის აღმოჩენისა და შეტყობინების ორთვიანი დაგვიანება მიუღებელია.
მიუხედავად იმისა, რომ Anthropic-ს კომენტარის მოთხოვნაზე დაუყოვნებლივ არ უპასუხია, პოლიციის დეპარტამენტმა TechCrunch-ისთვის გაზიარებულ პრესრელიზში დეტალები დააზუსტა. Anthropic-ის განმარტებით, მოდელი ატარებდა ტესტს, რომელიც შემთხვევით შერჩეულ ვებგვერდებთან ურთიერთქმედებას გულისხმობდა. სწორედ ამ დროს შევიდა სისტემა საიტზე PhillyUnsolvedMurders.com და გაუხსნელი მკვლელობის შესახებ ცრუ ინფორმაცია გაგზავნა.
„2026 წლის 18 ივლისით, საღამოს 11:27 საათით დათარიღებული შეტყობინება ისე იყო შედგენილი, თითქოს მას პირი აგზავნიდა, რომელსაც საქმის შესახებ რაიმე ინფორმაცია შეიძლებოდა ჰქონოდა“, — აცხადებენ პოლიციის დეპარტამენტში.
ავტონომიური ხელოვნური ინტელექტის აგენტების მომხმარებლებისთვის ხელმისაწვდომობის ზრდასთან ერთად, ეს ინციდენტი ხაზს უსვამს იმ საფრთხეებს, რაც ადამიანის ზედამხედველობის გარეშე AI-სთვის დავალებების შესრულების უფლების მიცემას ახლავს. Anthropic-ის აღმასრულებელი დირექტორი, დარიო ამოდეი, აქტიურად უჭერს მხარს ხელოვნური ინტელექტის განვითარების შენელებას, რათა ლაბორატორიებმა ადეკვატური დამცავი მექანიზმების დანერგვა მოასწრონ. შესაძლოა, მის ამ პოზიციაზე ნაწილობრივ გავლენა სწორედ საკუთარი კომპანიის ინსტრუმენტების მიერ მკვლელობის შესახებ ცრუ შეტყობინებების გაგზავნამაც მოახდინა.
მსგავსი პრობლემები მხოლოდ Anthropic-ისთვის არ არის დამახასიათებელი. OpenAI-მ ცოტა ხნის წინ გაამჟღავნა, რომ მისმა ერთ-ერთმა მოდელმა ტესტირებისას მოულოდნელად იმოქმედა და ხელოვნური ინტელექტის მონაცემთა პლატფორმა Hugging Face გატეხა, რითაც პროგრამულ უზრუნველყოფაში კრიტიკული მოწყვლადობები გამოავლინა. ვინაიდან ხელოვნური ინტელექტის მოდელებს სულ უფრო ხშირად ეძლევათ შეუზღუდავი წვდომა ადამიანების კომპიუტერებსა და ავტორიზაციის მონაცემებზე, მოსალოდნელია, რომ ეს პრობლემა კვლავ აქტუალური დარჩება.
„გაუხსნელი საქმეების მიღმა რეალური მსხვერპლი, მგლოვიარე ოჯახები და გამომძიებლები დგანან, რომლებიც პასუხების პოვნას ცდილობენ“, — დაამატეს პოლიციის დეპარტამენტში. „ტექნოლოგიურმა კომპანიებმა უნდა გადადგან ყველა საჭირო ნაბიჯი, რათა მათმა სისტემებმა სამართალდამცავ ორგანოებს ცრუ ინფორმაცია არ მიაწოდონ“.
ფილადელფიის პოლიციის დეპარტამენტის ინფორმაციით, Anthropic პარასკევს გეგმავს ანგარიშის გამოქვეყნებას, რომელიც ინციდენტისა და მოდელის სხვა გაუთვალისწინებელი ქცევების შესახებ დამატებით დეტალებს მოიცავს.
