ინდოეთმა ილონ მასკის X-ს Grok-ის გამოსწორება დაავალა "უხამსი" AI კონტენტის გამო

ინდოეთის მთავრობამ ილონ მასკის კუთვნილ სოციალურ პლატფორმა X-ს დაავალა, დაუყოვნებლივ განახორციელოს ტექნიკური და პროცედურული ცვლილებები ხელოვნური ინტელექტის ჩატბოტ Grok-ში. ეს გადაწყვეტილება მოჰყვა მომხმარებლებისა და კანონმდებლების საჩივრებს "უხამსი" კონტენტის, მათ შორის ქალების ხელოვნურად შეცვლილი ფოტოების გენერირების გამო.

პარასკევს ინდოეთის ინფორმაციული ტექნოლოგიების სამინისტრომ გამოსცა ბრძანება, რომელიც X-ს ავალდებულებს მიიღოს მაკორექტირებელი ზომები Grok-თან დაკავშირებით. კერძოდ, პლატფორმამ უნდა შეზღუდოს ისეთი მასალის გენერირება, რომელიც შეიცავს "შიშველ სხეულს, სექსუალიზაციას, აშკარა სექსუალურ შინაარსს ან სხვაგვარად უკანონო" ელემენტებს.

სამინისტრომ სოციალურ პლატფორმას 72 საათი მისცა შესრულებული სამუშაოს შესახებ ანგარიშის წარსადგენად. ანგარიშში დეტალურად უნდა იყოს აღწერილი ის ნაბიჯები, რომლებიც გადაიდგა იმ კონტენტის გავრცელების აღსაკვეთად, რომელიც მიჩნეულია "უხამსად, პორნოგრაფიულად, ვულგარულად, უხეშად, აშკარა სექსუალური ხასიათის მქონედ, პედოფილურად ან კანონით სხვაგვარად აკრძალულად".

სამართლებრივი იმუნიტეტის საფრთხე

TechCrunch-ის მიერ განხილულ ბრძანებაში ნათქვამია, რომ მოთხოვნების შეუსრულებლობამ შესაძლოა საფრთხე შეუქმნას X-ის "უსაფრთხო ნავსადგურის" (safe harbor) სტატუსს. ეს სტატუსი ინდოეთის კანონმდებლობით პლატფორმას ანიჭებს სამართლებრივ იმუნიტეტს მომხმარებლების მიერ განთავსებულ კონტენტზე პასუხისმგებლობისგან.

ინდოეთის ხელისუფლების ეს ნაბიჯი მოჰყვა მომხმარებლების მიერ გაზიარებულ მაგალითებს, სადაც ჩანდა, როგორ ცვლიდა Grok ინდივიდების — ძირითადად ქალების — ფოტოებს ისე, რომ ისინი ბიკინიში გამოწყობილნი გამოჩენილიყვნენ. ამ ფაქტზე ოფიციალური საჩივარი ინდოელმა პარლამენტარმა პრიანკა ჩატურვედიმ შეიტანა.

გარდა ამისა, ბოლო პერიოდში გავრცელდა ინფორმაცია შემთხვევებზე, როდესაც ჩატბოტმა არასრულწლოვანთა სექსუალიზებული გამოსახულებები შექმნა. X-მა პარასკევს აღიარა ეს პრობლემა და განაცხადა, რომ ეს გამოწვეული იყო უსაფრთხოების მექანიზმებში არსებული ხარვეზებით. აღნიშნული ფოტოები მოგვიანებით წაიშალა, თუმცა TechCrunch-ის ინფორმაციით, პუბლიკაციის მომენტისთვის Grok-ის მიერ გენერირებული ქალების ფოტოები ბიკინიში კვლავ ხელმისაწვდომი იყო პლატფორმაზე.

ფართომასშტაბიანი გაფრთხილება სოციალური მედიისთვის

ახალი ბრძანება გამოიცა რამდენიმე დღეში მას შემდეგ, რაც ინდოეთის IT სამინისტრომ ორშაბათს გაავრცელა ზოგადი რეკომენდაცია სოციალური მედიის პლატფორმებისთვის. დოკუმენტში ხაზგასმული იყო, რომ უხამსი და სექსუალური შინაარსის კონტენტის შესახებ ადგილობრივი კანონების დაცვა აუცილებელი პირობაა სამართლებრივი იმუნიტეტის შესანარჩუნებლად.

სამინისტრომ მოუწოდა კომპანიებს გააძლიერონ შიდა უსაფრთხოების ზომები და გააფრთხილა, რომ წესების დარღვევა გამოიწვევს სამართლებრივ დევნას ინდოეთის IT და სისხლის სამართლის კანონმდებლობის შესაბამისად. "ხაზგასმით აღინიშნება, რომ ზემოაღნიშნული მოთხოვნების შეუსრულებლობა განიხილება სერიოზულად და შეიძლება გამოიწვიოს მკაცრი სამართლებრივი შედეგები თქვენი პლატფორმის, მისი პასუხისმგებელი პირებისა და იმ მომხმარებლების წინააღმდეგ, რომლებიც არღვევენ კანონს, ყოველგვარი დამატებითი შეტყობინების გარეშე", — ნათქვამია ბრძანებაში.

ინდოეთი, როგორც გლობალური ტესტ-ქეისი

ინდოეთი, რომელიც მსოფლიოს ერთ-ერთი უდიდესი ციფრული ბაზარია, იქცა კრიტიკულ მაგალითად იმისა, თუ რამდენად შორს შეიძლება წავიდნენ მთავრობები პლატფორმების პასუხისმგებლობის დაკისრებაში AI-გენერირებულ კონტენტზე. ამ ქვეყანაში რეგულაციების გამკაცრებამ შესაძლოა გავლენა მოახდინოს გლობალურ ტექნოლოგიურ კომპანიებზე, რომლებიც მრავალ იურისდიქციაში ოპერირებენ.

აღსანიშნავია, რომ ილონ მასკის X აგრძელებს ინდოეთის კონტენტის რეგულირების წესების გარკვეული ასპექტების გასაჩივრებას სასამართლოში. კომპანია ამტკიცებს, რომ ფედერალური მთავრობის უფლებამოსილება კონტენტის დაბლოკვასთან დაკავშირებით გადაჭარბებულია, მიუხედავად იმისა, რომ პლატფორმა ბლოკირების შესახებ დირექტივების უმეტესობას ასრულებს.

ამავდროულად, მომხმარებლები სულ უფრო ხშირად იყენებენ Grok-ს რეალურ დროში ფაქტების გადასამოწმებლად და ახალი ამბების კომენტირებისთვის. ეს მის შედეგებს უფრო თვალსაჩინოს და პოლიტიკურად მგრძნობიარეს ხდის, ვიდრე სხვა დამოუკიდებელი ხელოვნური ინტელექტის ინსტრუმენტების შემთხვევაში. X-სა და xAI-ს ინდოეთის მთავრობის ბრძანებაზე კომენტარი ჯერ არ გაუკეთებიათ.