მთავრობები X-ზე არანებაყოფლობითი შიშველი ფოტოების მოზღვავებას ებრძვიან

ბოლო ორი კვირის განმავლობაში სოციალური ქსელი X (ყოფილი Twitter) Grok AI ჩატბოტის მიერ შექმნილი, ხელოვნური ინტელექტით მანიპულირებული შიშველი ფოტოების მოზღვავების წინაშე აღმოჩნდა. არანებაყოფლობითი შიშველი ფოტოების მსხვერპლთა შორის ქალების საგანგაშო რაოდენობა ფიქსირდება, მათ შორის არიან ცნობილი მოდელები, მსახიობები, საინფორმაციო გამოშვებების სახეები, კრიმინალის მსხვერპლნი და მსოფლიო ლიდერებიც კი.

Copyleaks-ის 31 დეკემბრის კვლევის მიხედვით, ყოველ წუთში დაახლოებით ერთი ასეთი სურათი ქვეყნდებოდა, თუმცა მოგვიანებით ჩატარებულმა ტესტებმა გაცილებით დიდი მასშტაბები აჩვენა. 5-6 იანვარს შეგროვებული ნიმუშების საფუძველზე დადგინდა, რომ 24-საათიან პერიოდში საათში საშუალოდ 6,700 ფოტო იტვირთებოდა. მიუხედავად იმისა, რომ საჯარო პირები მთელი მსოფლიოდან აკრიტიკებენ მოდელის უსაფრთხოების მექანიზმების გარეშე გამოშვებას, რეგულატორებისთვის ილონ მასკის გამოსახულების მანიპულირების ახალი სისტემის შეზღუდვის ბერკეტები ჯერჯერობით ბუნდოვანია.

ეს პროცესი ტექნოლოგიური რეგულაციების შეზღუდული შესაძლებლობების მტკივნეულ მაგალითად იქცა და სერიოზულ გამოწვევას წარმოადგენს იმ მარეგულირებლებისთვის, რომლებიც ამ სფეროში წესრიგის დამყარებას ცდილობენ. ყველაზე აგრესიული ნაბიჯები ევროკომისიამ გადადგა, რომელმაც ხუთშაბათს კომპანია xAI-ს Grok ჩატბოტთან დაკავშირებული ყველა დოკუმენტის შენახვა დაავალა.

ევროკომისიის რეაგირება და შიდა გამოძიების ნიშნები

ევროკომისიის მოთხოვნა დოკუმენტაციის შენახვის შესახებ აუცილებლად ახალი გამოძიების დაწყებას არ ნიშნავს, თუმცა ეს ხშირად მსგავსი ქმედებების წინაპირობაა. ვითარებას კიდევ უფრო ამძიმებს CNN-ის ბოლოდროინდელი ინფორმაცია, რომლის მიხედვითაც, ილონ მასკი შესაძლოა პირადად ჩაერია პროცესში, რათა თავიდან აეცილებინა Grok-ის მიერ გენერირებულ სურათებზე უსაფრთხოების შეზღუდვების დაწესება.

ამ დროისთვის გაურკვეველია, განახორციელა თუ არა X-მა რაიმე ტექნიკური ცვლილება Grok-ის მოდელში, თუმცა Grok-ის X ანგარიშიდან საჯარო მედია ჩანართი (media tab) უკვე წაშლილია. კომპანიამ ოფიციალურ განცხადებაში დაგმო ხელოვნური ინტელექტის ინსტრუმენტების გამოყენება ბავშვთა სექსუალური ძალადობის ამსახველი მასალების შესაქმნელად.

„ნებისმიერი პირი, რომელიც გამოიყენებს Grok-ს უკანონო კონტენტის შესაქმნელად, დაექვემდებარება იმავე სანქციებს, რასაც უკანონო კონტენტის ატვირთვის შემთხვევაში მიიღებდა“, — ნათქვამია X Safety-ის 3 იანვრის განცხადებაში, რომელიც ილონ მასკის ადრინდელ პოზიციას იმეორებს.

საერთაშორისო რეგულატორების გაფრთხილებები

მსოფლიოს სხვადასხვა ქვეყნის მარეგულირებლებმა უკვე გამოსცეს მკაცრი გაფრთხილებები:

• გაერთიანებული სამეფო: Ofcom-მა ორშაბათს განაცხადა, რომ კავშირზეა xAI-სთან და ჩაატარებს სწრაფ შეფასებას, რათა დაადგინოს, არსებობს თუ არა შესაბამისობის პრობლემები, რომლებიც გამოძიებას საჭიროებს. პრემიერ-მინისტრმა კირ სტარმერმა ხუთშაბათს რადიოინტერვიუში ამ მოვლენას „სამარცხვინო“ და „ამაზრზენი“ უწოდა.
• ავსტრალია: ელექტრონული უსაფრთხოების კომისარმა ჯული ინმან-გრანტმა LinkedIn-ზე აღნიშნა, რომ 2025 წლის ბოლოდან Grok-თან დაკავშირებული საჩივრების რაოდენობა გაორმაგდა. თუმცა, მან თავი შეიკავა დაუყოვნებლივი სანქციებისგან და განაცხადა, რომ გამოიყენებენ ყველა ხელთ არსებულ ინსტრუმენტს გამოსაძიებლად.

ინდოეთის მკაცრი პოზიცია და სამართლებრივი რისკები

ინდოეთი ყველაზე დიდი ბაზარია, რომელიც X-ს სანქციებით დაემუქრა. Grok-ის საკითხი პარლამენტის წევრის მხრიდან ოფიციალური საჩივრის საგანი გახდა. იანვარში ინდოეთის კომუნიკაციების მარეგულირებელმა ორგანომ (MeitY) დაავალა X-ს, მოეგვარებინა პრობლემა და 72 საათის განმავლობაში წარედგინა ანგარიში გატარებული ზომების შესახებ. მოგვიანებით ეს ვადა კიდევ 48 საათით გახანგრძლივდა.

მიუხედავად იმისა, რომ ანგარიში მარეგულირებელს 7 იანვარს წარედგინა, უცნობია, დააკმაყოფილებს თუ არა MeitY-ს მიღებული პასუხი. წინააღმდეგ შემთხვევაში, X-მა შესაძლოა დაკარგოს „უსაფრთხო ნავსაყუდელის“ (safe harbor) სტატუსი ინდოეთში, რაც სერიოზულად შეზღუდავს მის საქმიანობას ამ ქვეყნის ტერიტორიაზე.