ილონ მასკი Grok-ის მიერ არასრულწლოვანთა სექსუალური ფოტოების შექმნას უარყოფს, კალიფორნიაში კი გამოძიება დაიწყო

ოთხშაბათს ილონ მასკმა განაცხადა, რომ მისთვის უცნობია Grok-ის მიერ არასრულწლოვანთა შიშველი ფოტოების გენერირების შემთხვევები. ეს განცხადება რამდენიმე საათით უსწრებდა კალიფორნიის გენერალური პროკურორის მიერ xAI-ის ჩატბოტის წინააღმდეგ გამოძიების დაწყებას. გამოძიების მიზეზი პლატფორმაზე „არანებაყოფლობითი სექსუალური ხასიათის მასალების გავრცელებაა“.

მასკზე ზეწოლა მთელი მსოფლიოს მასშტაბით იზრდება — დიდი ბრიტანეთიდან და ევროპიდან მალაიზიასა და ინდონეზიამდე. პრობლემა მას შემდეგ გამწვავდა, რაც X-ის მომხმარებლებმა დაიწყეს Grok-ისთვის რეალური ქალების, ზოგ შემთხვევაში კი ბავშვების ფოტოების სექსუალური ხასიათის გამოსახულებებად გადაკეთების დავალება მათი თანხმობის გარეშე.

Copyleaks-ის, ხელოვნური ინტელექტის დეტექციისა და კონტენტის მართვის პლატფორმის მონაცემებით, X-ზე ყოველ წუთში დაახლოებით ერთი ასეთი სურათი ქვეყნდებოდა. 5-დან 6 იანვრამდე პერიოდში ჩატარებულმა ცალკეულმა კვლევამ კი აჩვენა, რომ 24 საათის განმავლობაში საათში საშუალოდ 6,700 სურათი იქმნებოდა. აღსანიშნავია, რომ X და xAI ერთი და იმავე კომპანიის ნაწილებია.

„ეს მასალა ინტერნეტში ადამიანების შევიწროებისთვის გამოიყენება“, — განაცხადა კალიფორნიის გენერალურმა პროკურორმა რობ ბონტამ. მან მოუწოდა xAI-ს, დაუყოვნებლივ მიიღოს ზომები ამ პროცესის შესაჩერებლად. პროკურატურა შეისწავლის, დაარღვია თუ არა xAI-მ კანონი.

სამართლებრივი ჩარჩო და რეგულაციები

არანებაყოფლობითი სექსუალური გამოსახულებებისა და ბავშვთა სექსუალური ძალადობის მასალებისგან (CSAM) მსხვერპლთა დასაცავად რამდენიმე კანონი არსებობს:

• Take It Down Act: გასულ წელს მიღებული ფედერალური კანონი, რომელიც კრიმინალად აცხადებს არანებაყოფლობითი ინტიმური ფოტოების, მათ შორის „დიპფეიკების“ შეგნებულად გავრცელებას. კანონი ავალდებულებს პლატფორმებს, როგორიცაა X, წაშალონ მსგავსი კონტენტი 48 საათის განმავლობაში.
• კალიფორნიის შტატის კანონები: გუბერნატორმა გევინ ნიუსომმა 2024 წელს ხელი მოაწერა კანონთა პაკეტს, რომელიც მიზნად ისახავს სექსუალური ხასიათის დიპფეიკების წინააღმდეგ ბრძოლას.

როგორ დაიწყო პრობლემა Grok-ზე

Grok-მა ქალებისა და ბავშვების სექსუალური ფოტოების შექმნის მოთხოვნების შესრულება წლის ბოლოს დაიწყო. ეს ტენდენცია მას შემდეგ გავრცელდა, რაც ზრდასრულთა კონტენტის შემქმნელებმა Grok-ს საკუთარი თავის სექსუალური გამოსახულებების გენერირება სთხოვეს მარკეტინგული მიზნებისთვის, რასაც სხვა მომხმარებლების მხრიდან მსგავსი მოთხოვნების ტალღა მოჰყვა.

რიგ საჯარო შემთხვევებში, მათ შორის ცნობილი მსახიობის, მილი ბობი ბრაუნის შემთხვევაში, Grok-მა შეცვალა რეალური ქალების ფოტოები — შეცვალა მათი ტანსაცმელი, სხეულის პოზიცია ან ფიზიკური მახასიათებლები აშკარა სექსუალური ფორმით.

უსაფრთხოების ზომები და ხარვეზები

გავრცელებული ინფორმაციით, xAI-მ დაიწყო გარკვეული დამცავი მექანიზმების დანერგვა:

• Grok ახლა ითხოვს პრემიუმ გამომწერის სტატუსს გამოსახულების გენერირების გარკვეულ მოთხოვნებზე.
• Copyleaks-ის მარკეტინგის ვიცე-პრეზიდენტის, აპრილ კოზენის თქმით, ჩატბოტმა შესაძლოა მოთხოვნა უფრო ზოგადი ან შერბილებული ფორმით შეასრულოს.
• თუმცა, Grok კვლავ უფრო ლოიალური ჩანს ზრდასრულთა კონტენტის შემქმნელების მიმართ.

ილონ მასკის პოზიცია

არც xAI-ს და არც მასკს პრობლემაზე პირდაპირი და სერიოზული რეაგირება არ მოუხდენიათ. ინციდენტების დაწყებიდან რამდენიმე დღეში მასკმა საკითხი გააშარჟა და Grok-ს საკუთარი თავის ბიკინიში გამოსახვა სთხოვა. მოგვიანებით მან დაწერა, რომ მისთვის უცნობია Grok-ის მიერ არასრულწლოვანთა შიშველი ფოტოების შექმნის შემთხვევები და ამას „აბსოლუტური ნული“ უწოდა.

„Grok არ აგენერირებს სურათებს სპონტანურად. ის ამას აკეთებს მხოლოდ მომხმარებლის მოთხოვნით. მოთხოვნის შემთხვევაში, ის უარს იტყვის ნებისმიერი უკანონო მასალის შექმნაზე, რადგან მისი მუშაობის პრინციპია ნებისმიერი ქვეყნის ან შტატის კანონების დაცვა. შესაძლოა იყოს შემთხვევები, როდესაც ჰაკერული მეთოდებით ხდება მოულოდნელი შედეგის მიღება, რასაც ჩვენ დაუყოვნებლივ ვასწორებთ“, — განაცხადა მასკმა.

ნიუ-იორკის სამართლის სკოლის ასოცირებული პროფესორის, მაიკლ გუდიერის თქმით, მასკი აქცენტს ბავშვთა პორნოგრაფიაზე (CSAM) იმიტომ აკეთებს, რომ ამ შემთხვევაში სასჯელი გაცილებით მკაცრია. მაგალითად, აშშ-ში CSAM-ის გავრცელებისთვის სამ წლამდე პატიმრობაა გათვალისწინებული, მაშინ როცა ზრდასრულთა არანებაყოფლობითი სექსუალური გამოსახულებებისთვის სასჯელი ორი წელია.

საერთაშორისო რეაგირება

კალიფორნიის გენერალური პროკურორი არ არის ერთადერთი, ვინც xAI-ს პასუხისმგებლობისკენ მოუწოდებს:

• ინდონეზია და მალაიზია: დროებით დაბლოკეს წვდომა Grok-ზე.
• ინდოეთი: მოითხოვა დაუყოვნებლივი ტექნიკური და პროცედურული ცვლილებები.
• ევროკომისია: დაავალა xAI-ს შეინახოს ყველა დოკუმენტი Grok-თან დაკავშირებით, რაც ახალი გამოძიების წინაპირობაა.
• დიდი ბრიტანეთი: მარეგულირებელმა Ofcom-მა ოფიციალური გამოძიება დაიწყო ონლაინ უსაფრთხოების აქტის ფარგლებში.

xAI ადრეც გამხდარა კრიტიკის ობიექტი Grok-ის „Spicy Mode“-ის გამო, რომელიც ექსპლიციტური კონტენტის გენერირების საშუალებას იძლევა. ოქტომბრის განახლებამ კიდევ უფრო გააადვილა უსაფრთხოების წესების გვერდის ავლით პორნოგრაფიული და ძალადობრივი სექსუალური გამოსახულებების შექმნა.

„როდესაც AI სისტემები იძლევა რეალური ადამიანების გამოსახულებებით მანიპულირების საშუალებას მკაფიო თანხმობის გარეშე, გავლენა შეიძლება იყოს მყისიერი და ღრმად პერსონალური“, — განაცხადა Copyleaks-ის აღმასრულებელმა დირექტორმა ალონ იამინმა. მისი თქმით, AI-ს შესაძლებლობების ზრდასთან ერთად, დეტექციისა და მართვის მექანიზმები ახლა უფრო საჭიროა, ვიდრე ოდესმე.