ქალის მტკიცებით, მამინაცვალმა Grok-ის მეშვეობით მისი ბავშვობის ფოტო პორნოგრაფიულ მასალად აქცია

იდენტიფიცირებული პირი, სახელით ჯეინ დოუ 4 (Jane Doe 4), შეუერთდა ტენესის შტატის სამი მოზარდის მიერ ილონ მასკის კომპანია xAI-ის წინააღმდეგ შეტანილ სარჩელს. დავის საგანია კომპანიის ჩატბოტ Grok-ის სავარაუდო როლი ბავშვთა სექსუალური ძალადობის ამსახველი მასალის შექმნაში.

The Washington Post-ის ანგარიშის თანახმად, ქალი ამტკიცებს, რომ მისმა მამინაცვალმა Grok-ი გამოიყენა მისი 11 წლის ასაკში გადაღებული ფოტოს მანიპულირებისთვის. შედეგად, ხელოვნურმა ინტელექტმა 7000-ზე მეტი ექსპლიციტური გამოსახულება შექმნა. ქალმა ასევე აღნიშნა, რომ სამართალდამცავების მიერ ჩატარებული რეიდის შედეგად სურათების აღმოჩენიდან ორ დღეში, მამინაცვალმა სიცოცხლე თვითმკვლელობით დაასრულა.

„ამ ინსტრუმენტებზე შეუზღუდავი წვდომა ძალიან სწრაფად ვრცელდება“, — განაცხადა ქალმა. „ის ყოველდღიურ ცხოვრებას ბავშვთა სექსუალურ ძალადობად აქცევს“.

სარჩელის ავტორი მოზარდები xAI-ს (რომელიც ამჟამად SpaceX-ის ნაწილია) ადანაშაულებენ იმაში, რომ კომპანიამ ვერ მიიღო ელემენტარული უსაფრთხოების ზომები. მათი თქმით, Grok-ი დაუცველია და მისი გამოყენება შესაძლებელია რეალური ადამიანების, მათ შორის არასრულწლოვნების, სექსუალიზებული გამოსახულებების შესაქმნელად. აღსანიშნავია, რომ მიმდინარე წლის დასაწყისში სოციალური ქსელი X Grok-ის მიერ გენერირებული მილიონობით მსგავსი სურათით აივსო.

მოსარჩლეები ითხოვენ, რომ მათ სარჩელს კოლექტიური სარჩელის (class action) სტატუსი მიენიჭოს. გამოცემა TechCrunch-ი კომენტარისთვის xAI-ს დაუკავშირდა. თუ იმყოფებით კრიზისულ მდგომარეობაში ან გაწუხებთ სუიციდური აზრები, დაუკავშირდით დახმარების ხაზს (აშშ-ში მოქმედებს ნომერი 988 Suicide and Crisis Lifeline).