Flock-ის ახალი ინსტრუმენტი პოლიციის მხრიდან უფლებამოსილების ბოროტად გამოყენების წინააღმდეგ: როგორ მუშაობს ის სინამდვილეში?

თვალთვალის ტექნოლოგიების სტარტაპმა Flock-მა ხუთშაბათს ახალი პოლიტიკა და ინსტრუმენტები წარადგინა. კომპანიის განცხადებით, ეს ცვლილებები სანომრე ნიშნების ავტომატური ამომცნობი კამერების სისტემების ბოროტად გამოყენების პრევენციასა და სამართალდამცავი ორგანოების ანგარიშვალდებულების გაზრდას შეუწყობს ხელს.

Flock-ის ერთ-ერთი მთავარი რეკომენდაცია პოლიციის დეპარტამენტებისთვის მონაცემების შენახვის ვადის შემცირებაა — ნაცვლად აქამდე არსებული 30 დღისა, კომპანია მათ ინფორმაციის მხოლოდ 7 დღით შენახვას სთავაზობს. ამ ცვლილებასთან ერთად, დაინერგა ე.წ. „მტკიცებულების რეჟიმი“ (Evidence Mode), რომელიც მომხმარებლებს საშუალებას აძლევს, „გამონაკლის შემთხვევებში“ მონაცემები უფრო დიდხანს შეინახონ, თუმცა ამისთვის კონკრეტული საქმის ნომრის მითითებაა საჭირო. გარდა ამისა, მომხმარებლებს შეეძლებათ დააწესონ შეზღუდვები სხვა უწყებებისთვის გასაზიარებელ მონაცემებზე, გამოძიების ტიპის მიხედვით.

კომპანიამ ერთ-ერთ საკვანძო ცვლილებად „აუდიტის ასისტენტის“ (Audit Assistance) სახელით ცნობილი ინსტრუმენტი გამოყო. Flock-მა ეს ფუნქცია აპრილში აამოქმედა და მას შემდეგ, კომპანიის ინფორმაციით, ის მომხმარებელთა „მესამედზე მეტმა“ ჩართო. ახლა კი სტარტაპი ყველა მომხმარებლისგან მოითხოვს ამ ფუნქციის გააქტიურებას წლის ბოლომდე.

როგორ მუშაობს „აუდიტის ასისტენტი“?

ხუთშაბათს გამოქვეყნებული ბლოგპოსტის თანახმად, Audit Assistance „ავლენს ანომალიურ აქტივობას და მას ადმინისტრატორს განსახილველად გადასცემს“. ასეთ შემთხვევაში, ინსტრუმენტს შეუძლია ავტომატურად დაბლოკოს საეჭვო მომხმარებელი ადმინისტრატორის ჩარევამდე. Flock-ის მტკიცებით, ამ ფუნქციამ ზოგიერთ მომხმარებელს უკვე დაეხმარა ბოროტად გამოყენების შემთხვევების გამოვლენასა და აღკვეთაში.

მიუხედავად ფუნქციის მნიშვნელობისა, Flock-ს დეტალურად არ განუმარტავს, თუ კონკრეტულად როგორ მუშაობს Audit Assistance. ოფიციალური კომენტარები მხოლოდ ზოგად წარმოდგენას იძლევა მის შესაძლებლობებზე:

• Flock-ის ნდობისა და შესაბამისობის განყოფილების ხელმძღვანელმა, ეშლი ჰაბერმა აღნიშნა, რომ ინსტრუმენტს შეუძლია მონიშნოს „კონკრეტული მომხმარებლის უჩვეულო ძიების ისტორია“.
• კომპანიის თანადამფუძნებელმა, პეიჯ ტოდმა განმარტა, რომ სისტემა ადრეულ ეტაპზევე აფიქსირებს უჩვეულო პატერნებს, მაგალითად, როდესაც მომხმარებელი ერთი და იმავე სანომრე ნიშანს 30 დღეზე მეტი ხნის განმავლობაში განმეორებით ეძებს.
• ჯორჯიის შტატის ქალაქ დანვუდის პოლიციის მაიორმა, პატრიკ კრიგმა, ამ ფუნქციას უწოდა „ალგორითმი, რომელიც ნებისმიერი ტიპის მიკერძოების შესახებ გვატყობინებს“.

გაუცემელი კითხვები და ტექნიკური დეტალები

ბუნდოვანი რჩება, თუ როგორ მუშაობს რეალურად ეს „ალგორითმი“, რა მონაცემებზეა ის გაწვრთნილი და გამოიყენება თუ არა მასში დიდი ენობრივი მოდელები (LLM). TechCrunch-ის კითხვების საპასუხოდ, Flock-მა განაცხადა, რომ Audit Assistance არ ეფუძნება მანქანურ სწავლებას (ML) ან ხელოვნურ ინტელექტს (AI).

„ეს არის მონაცემთა ინსტრუმენტი, რომელიც აღრიცხავს ძიების ატიპურ პატერნებს შემდგომი განხილვისთვის. მაგალითად, სისტემა დაიწყებს რეაგირებას, თუ მომხმარებელი ეძებს ერთსა და იმავე ნომერს სხვადასხვა საქმის კოდის გამოყენებით, რაც შესაძლოა უფლებამოსილების ბოროტად გამოყენებაზე მიუთითებდეს. სისტემის მიერ დაფიქსირებული სიგნალი არ ნიშნავს, რომ დარღვევა დადასტურებულია — ეს მხოლოდ დამატებითი მოკვლევის საფუძველია“, — განაცხადეს კომპანიაში.

თუმცა, კვლავ პასუხგაუცემელია კითხვები იმის შესახებ, ფლობს თუ არა Flock სტატისტიკას ინსტრუმენტის ეფექტურობაზე, როგორია ცრუ დადებითი და ცრუ უარყოფითი პასუხების მაჩვენებელი და ჩაუტარდა თუ არა მას აუდიტი მესამე მხარის მიერ.

კრიტიკა და ექსპერტების მოსაზრებები

კონფიდენციალურობის დამცველები და Flock-ის კრიტიკოსები Audit Assistance-ით აღფრთოვანებულნი არ არიან. ამერიკის სამოქალაქო თავისუფლებათა კავშირის (ACLU) უფროსმა პოლიტიკურმა მრჩეველმა, ჩად მარლოუმ აღნიშნა, რომ არ არსებობს მტკიცებულება ინსტრუმენტის თანმიმდევრული მუშაობის შესახებ.

„მიუხედავად იმისა, რომ ბოლო დროს ათობით ოფიცერი დააკავეს ან სამსახურიდან გაათავისუფლეს Flock-ის პირადი მიზნებისთვის გამოყენების გამო, კომპანია ამტკიცებს, რომ ეს დაპატიმრებები მათი აუდიტის ინსტრუმენტის ეფექტურობის დასტურია. თუმცა, სანამ არ გვეცოდინება სისტემის ბოროტად გამომყენებელი ოფიცრების საერთო რაოდენობა, ვერ ვიტყვით, ინსტრუმენტი დამრღვევთა 95%-ს აფიქსირებს თუ მხოლოდ 5%-ს“, — აცხადებს მარლოუ.

Electronic Frontier Foundation-ის უსაფრთხოების მკვლევარმა, კუპერ ქვინტინმა TechCrunch-ს განუცხადა, რომ შესაძლოა მნიშვნელობა არც ჰქონდეს, მუშაობს თუ არა Audit Assistance. მისი თქმით, თუ სისტემა მუშაობს, სამართალდამცავები მაინც იპოვიან მისი გვერდის ავლის გზებს. მთავარია, მოჰყვება თუ არა დარღვევას რეალური შედეგები. მისი აზრით, ანგარიშვალდებულების საუკეთესო გზა ამ ტექნოლოგიის გამოყენების შემზღუდველი კანონების მიღება და ორდერის მოთხოვნაა.

ბრენანის ცენტრის წარმომადგენელმა, რეიჩელ ლევინსონ-ვალდმანმა აღნიშნა, რომ ინსტრუმენტის სავალდებულო გახდომა სწორი ნაბიჯია და თეორიულად „შესანიშნავი იდეაა“, თუმცა თავად ინსტრუმენტს სჭირდება დამოუკიდებელი აუდიტი, რადგან პრაქტიკაში მისი მუშაობის შესახებ საკმარისი ინფორმაცია არ არსებობს.

კონტექსტი და ბოლოდროინდელი ინციდენტები

Flock-ის ეს განცხადებები მოჰყვა წლების განმავლობაში დაგროვილ ინფორმაციას მომხმარებლების მხრიდან ტექნოლოგიის ბოროტად გამოყენების შესახებ. მიმდინარე კვირის დასაწყისში, ჯორჯიის შტატში შერიფის სამი ყოფილი მოადგილე დააკავეს. მათ ბრალად ედებათ Flock-ის კამერების გამოყენება იმ პირთა სათვალთვალოდ, რომლებთანაც იმ პერიოდში „პირადი ურთიერთობა“ ჰქონდათ. ბიბის ოლქის შერიფმა, დევიდ დევისმა, ამ შემთხვევის გამოვლენაში განსაკუთრებით გამოყო Flock-ის ახალი ინსტრუმენტის, Audit Assistance-ის როლი.