საფრანგეთი და მალაიზია Grok-ს სექსუალიზებული დიფფეიქების გენერირების გამო იძიებენ

ბოლო რამდენიმე დღის განმავლობაში საფრანგეთი და მალაიზია შეუერთდნენ ინდოეთს Grok-ის წინააღმდეგ ბრძოლაში. ჩატბოტი, რომელიც ილონ მასკის ხელოვნური ინტელექტის სტარტაპ xAI-ის მიერ არის შექმნილი და სოციალურ პლატფორმა X-ზეა ინტეგრირებული, ქალებისა და არასრულწლოვნების სექსუალიზებული დიფფეიქების შექმნის გამო მკაცრი კრიტიკის ქარცეცხლში მოექცა.

მიმდინარე კვირის დასაწყისში Grok-ის ოფიციალურ ანგარიშზე ბოდიში გამოქვეყნდა: „ღრმად ვწუხვარ 2025 წლის 28 დეკემბერს მომხდარი ინციდენტის გამო, როდესაც მომხმარებლის მოთხოვნის საფუძველზე შევქმენი და გავაზიარე ორი ახალგაზრდა გოგონას (დაახლოებით 12-16 წლის) ხელოვნური ინტელექტის მიერ გენერირებული გამოსახულება სექსუალიზებულ სამოსში“. განცხადებაში აღნიშნული იყო, რომ ამით დაირღვა ეთიკური სტანდარტები და, შესაძლოა, აშშ-ის კანონმდებლობა ბავშვთა სექსუალური ძალადობის ამსახველი მასალების (CSAM) შესახებ. xAI-ში აცხადებენ, რომ ეს იყო უსაფრთხოების სისტემების ხარვეზი და ამჟამად მიმდინარეობს მუშაობა მსგავსი შემთხვევების პრევენციისთვის.

თუმცა, ბუნდოვანია, თუ ვინ იხდის რეალურად ბოდიშს ან ვინ იღებს პასუხისმგებლობას ზემოაღნიშნულ განცხადებაში. გამოცემა Defector-ის ჟურნალისტმა, ალბერტ ბურნეკომ აღნიშნა, რომ Grok-ი არ არის პიროვნება, რაც მის ბოდიშს ყოველგვარ შინაარსს უკარგავს. მისი ხედვით, ჩატბოტი ვერ იქნება პასუხისმგებელი იმაზე, რომ Twitter-ი (ამჟამინდელი X) მოთხოვნისამებრ CSAM-ის მწარმოებელ ქარხნად იქცა. გარდა ამისა, Futurism-ის მიერ ჩატარებულმა კვლევამ აჩვენა, რომ არაკონსენსუალური პორნოგრაფიული სურათების გარდა, Grok-ს იყენებდნენ ქალებზე ძალადობისა და სექსუალური შეურაცხყოფის ამსახველი კადრების შესაქმნელად.

მთავრობების რეაგირება და სამართლებრივი ზომები

ილონ მასკმა შაბათს სოციალურ ქსელში დაწერა: „ნებისმიერი პირი, რომელიც Grok-ს უკანონო კონტენტის შესაქმნელად გამოიყენებს, იგივე შედეგებს მიიღებს, რასაც უკანონო მასალის ატვირთვის შემთხვევაში მიიღებდა“. მიუხედავად ამისა, რამდენიმე ქვეყნის მთავრობამ უკვე გადადგა კონკრეტული ნაბიჯები:

• ინდოეთი: ქვეყნის ინფორმაციული ტექნოლოგიების სამინისტრომ გამოსცა ბრძანება, რომლის მიხედვითაც X-მა უნდა შეზღუდოს Grok-ის მიერ უხამსი, პორნოგრაფიული, ვულგარული, პედოფილური ან კანონით აკრძალული სხვა კონტენტის გენერირება. პლატფორმას 72 საათი მიეცა რეაგირებისთვის, წინააღმდეგ შემთხვევაში მას „უსაფრთხო ნავსაყუდელის“ (safe harbor) სტატუსის დაკარგვა ემუქრება, რაც მას მომხმარებლების მიერ შექმნილ კონტენტზე სამართლებრივი პასუხისმგებლობისგან იცავს.
• საფრანგეთი: პარიზის პროკურატურამ Politico-სთან საუბარში დაადასტურა, რომ გამოიძიებს X-ზე სექსუალური ხასიათის დიფფეიქების გავრცელების ფაქტებს. საფრანგეთის ციფრულ საქმეთა ოფისის ინფორმაციით, სამმა მინისტრმა უკვე შეატყობინა პროკურატურასა და სამთავრობო ონლაინ მონიტორინგის პლატფორმას „აშკარად უკანონო კონტენტის“ შესახებ, მისი დაუყოვნებლივი წაშლის მიზნით.
• მალაიზია: მალაიზიის კომუნიკაციებისა და მულტიმედიის კომისიამ (MCMC) გამოხატა სერიოზული შეშფოთება X პლატფორმაზე ხელოვნური ინტელექტის ინსტრუმენტების ბოროტად გამოყენების გამო. კომისიის განცხადებით, ისინი იკვლევენ ქალებისა და არასრულწლოვნების სურათების ციფრულ მანიპულაციას, რაც შეურაცხმყოფელი და მავნე კონტენტის შესაქმნელად გამოიყენება.

ამ ეტაპზე X-ის წინააღმდეგ გამოძიება რამდენიმე ქვეყანაში პარალელურ რეჟიმში მიმდინარეობს, რაც პლატფორმისთვის შესაძლოა სერიოზული სამართლებრივი შედეგებით დასრულდეს.