კალიფორნიის გენერალურმა პროკურორმა ილონ მასკის xAI-ს სექსუალური დიფფეიქების გამო საქმიანობის შეწყვეტის მოთხოვნა გაუგზავნა

კალიფორნიის გენერალური პროკურორის ოფისმა გამოაცხადა, რომ იძიებს კომპანია xAI-ს საქმიანობას. გავრცელებული ინფორმაციით, სტარტაპის ჩატბოტი, Grok-ი, ქალებისა და არასრულწლოვნების არანებაყოფლობითი სექსუალური გამოსახულებების შესაქმნელად გამოიყენებოდა. პარასკევს მთავრობამ კომპანიას ოფიციალური წერილი (cease-and-desist) გაუგზავნა, რომლითაც მოითხოვა დაუყოვნებლივი ზომების მიღება არანებაყოფლობითი ინტიმური ფოტოებისა და ბავშვთა სექსუალური ძალადობის ამსახველი მასალის (CSAM) წარმოების შესაჩერებლად.

კალიფორნიის გენერალურმა პროკურორმა, რობ ბონტამ, პრესრელიზში განაცხადა: „დღეს მე გავუგზავნე xAI-ს წერილი საქმიანობის შეწყვეტის მოთხოვნით. კომპანიამ დაუყოვნებლივ უნდა შეაჩეროს დიფფეიქების, არანებაყოფლობითი ინტიმური გამოსახულებებისა და ბავშვთა სექსუალური ძალადობის ამსახველი მასალების შექმნა და გავრცელება. მსგავსი მასალის შექმნა უკანონოა. სრულად მოველი, რომ xAI დაუყოვნებლივ შეასრულებს ამ მოთხოვნას. კალიფორნიას ნულოვანი ტოლერანტობა აქვს ბავშვთა სექსუალური ძალადობის ამსახველი მასალების მიმართ“.

პროკურორის ოფისი ასევე ამტკიცებს, რომ xAI, როგორც ჩანს, ხელს უწყობს არანებაყოფლობითი შიშველი ფოტოების „მასშტაბურ წარმოებას“, რომლებიც ინტერნეტში ქალებისა და გოგონების შესავიწროებლად გამოიყენება. უწყება მოელის, რომ xAI მომდევნო ხუთი დღის განმავლობაში დაამტკიცებს, რომ ამ პრობლემების მოსაგვარებლად კონკრეტულ ნაბიჯებს დგამს.

Grok-ის „Spicy“ რეჟიმი და საერთაშორისო რეაქცია

კრიტიკის ცენტრშია Grok-ის ფუნქცია, ე.წ. „spicy“ რეჟიმი, რომელიც xAI-მ სპეციალურად ექსპლიციტური კონტენტის გენერირებისთვის შექმნა. პრობლემა კალიფორნიის ფარგლებს გასცდა: იაპონიამ, კანადამ და ბრიტანეთმა Grok-ის წინააღმდეგ გამოძიება დაიწყეს, ხოლო მალაიზიამ და ინდონეზიამ პლატფორმაზე წვდომა დროებით სრულად დაბლოკეს.

მიუხედავად იმისა, რომ ოთხშაბათს საღამოს xAI-მ გამოსახულების რედაქტირების ფუნქციებზე გარკვეული შეზღუდვები დააწესა, კალიფორნიის გენერალური პროკურორის ოფისმა მაინც გადაწყვიტა ოფიციალური გაფრთხილების გაგზავნა. მანამდე X-ის უსაფრთხოების ანგარიშმა დაგმო მომხმარებელთა მსგავსი ქმედებები და აღნიშნა: „ნებისმიერი პირი, რომელიც გამოიყენებს Grok-ს უკანონო კონტენტის შესაქმნელად, დაექვემდებარება იმავე შედეგებს, რასაც უკანონო კონტენტის ატვირთვის შემთხვევაში“.

კომპანიის პასუხი და ინდუსტრიის გამოწვევები

TechCrunch-ი კომენტარისთვის დაუკავშირდა xAI-ს, თუმცა პასუხად მიიღო ავტომატური ელექტრონული წერილი ტექსტით: „Legacy Media Lies“ (ტრადიციული მედია ცრუობს). გამოცემა ასევე დაუკავშირდა კალიფორნიის გენერალური პროკურორის ოფისს დამატებითი კონტექსტის მისაღებად.

უფასო გენერაციული ხელოვნური ინტელექტის ინსტრუმენტების გამოჩენამ არანებაყოფლობითი სექსუალური მასალის შემაშფოთებელი ზრდა გამოიწვია. ამ პრობლემასთან გამკლავებას არა მხოლოდ X, არამედ მრავალი სხვა პლატფორმაც ცდილობს. აღნიშნულმა საქმიანობამ არა მხოლოდ შტატების ლიდერების, არამედ კონგრესის ყურადღებაც მიიპყრო. ხუთშაბათს კანონმდებლებმა წერილი გაუგზავნეს რამდენიმე კომპანიის ხელმძღვანელს, მათ შორის X, Reddit, Snap, TikTok, Alphabet და Meta-ს წარმომადგენლებს, კითხვით, თუ როგორ გეგმავენ ისინი სექსუალიზებული დიფფეიქების გავრცელების შეჩერებას.