OpenAI ბავშვთა ექსპლუატაციის წინააღმდეგ ბრძოლის ახალ სტრატეგიულ გეგმას წარადგენს

ბავშვთა ონლაინ უსაფრთხოებასთან დაკავშირებული მზარდი შეშფოთების საპასუხოდ, OpenAI-მ ახალი სტრატეგიული გეგმა (Child Safety Blueprint) წარადგინა. ინიციატივა ხელოვნური ინტელექტის ბუმის პირობებში აშშ-ში ბავშვთა დაცვის მექანიზმების გაძლიერებას ისახავს მიზნად. სამშაბათს გამოქვეყნებული დოკუმენტი ორიენტირებულია AI-ტექნოლოგიების გამოყენებით განხორციელებული ექსპლუატაციის შემთხვევების სწრაფ გამოვლენაზე, ანგარიშგების გაუმჯობესებასა და გამოძიების პროცესის ეფექტურობის გაზრდაზე.

სტრატეგიული გეგმის მთავარი ამოცანაა იმ საგანგაშო ტენდენციასთან ბრძოლა, რომელიც ხელოვნური ინტელექტის განვითარებასთან ერთად ბავშვთა სექსუალური ექსპლუატაციის შემთხვევების მატებაში გამოიხატება. Internet Watch Foundation-ის (IWF) მონაცემებით, 2025 წლის პირველ ნახევარში AI-ს მიერ გენერირებული ბავშვთა სექსუალური ძალადობის ამსახველი კონტენტის შესახებ 8,000-ზე მეტი შეტყობინება დაფიქსირდა, რაც წინა წელთან შედარებით 14%-იანი ზრდაა. კრიმინალები AI ინსტრუმენტებს იყენებენ ბავშვების ყალბი ინტიმური ფოტოების შესაქმნელად ფინანსური გამოძალვის მიზნით, ასევე დამაჯერებელი შეტყობინებების დასაწერად ე.წ. „გრუმინგისთვის“.

OpenAI-ის ეს ნაბიჯი პოლიტიკოსების, პედაგოგებისა და ბავშვთა უსაფრთხოების დამცველების მხრიდან გაზრდილი ყურადღების ფონზე გადაიდგა. განსაკუთრებით შემაშფოთებელია შემთხვევები, როდესაც ახალგაზრდებმა სიცოცხლე თვითმკვლელობით დაასრულეს AI ჩატბოტებთან ურთიერთობის შემდეგ. გასულ ნოემბერს, Social Media Victims Law Center-მა და Tech Justice Law Project-მა კალიფორნიის სასამართლოებში შვიდი სარჩელი შეიტანეს. სარჩელების თანახმად, OpenAI-მ GPT-4o ბაზარზე ნაადრევად გამოუშვა, ხოლო პროდუქტის ფსიქოლოგიურად მანიპულაციურმა ბუნებამ ხელი შეუწყო თვითმკვლელობის შემთხვევებს. დოკუმენტებში ნახსენებია ოთხი გარდაცვლილი და სამი სხვა პირი, რომლებსაც ჩატბოტთან ხანგრძლივი ინტერაქციის შემდეგ სიცოცხლისთვის საშიში ილუზიები განუვითარდათ.

თანამშრომლობა და სტრატეგიული მიმართულებები

აღნიშნული გეგმა შემუშავდა დაკარგული და ექსპლუატირებული ბავშვების ეროვნულ ცენტრთან (NCMEC) და გენერალურ პროკურორთა ალიანსთან (Attorney General Alliance) მჭიდრო თანამშრომლობით. პროცესში ასევე ჩართულნი იყვნენ ჩრდილოეთ კაროლინას გენერალური პროკურორი ჯეფ ჯექსონი და იუტას გენერალური პროკურორი დერეკ ბრაუნი. კომპანიის განცხადებით, სტრატეგია სამ ძირითად ასპექტზეა ფოკუსირებული:

• საკანონმდებლო განახლება: კანონმდებლობის ადაპტირება, რათა მასში მკაფიოდ აისახოს AI-ს მიერ გენერირებული ძალადობრივი მასალები.
• ანგარიშგების მექანიზმები: სამართალდამცავ ორგანოებთან ინფორმაციის გაცვლისა და შეტყობინებების სისტემის დახვეწა.
• პრევენციული ზომები: დამცავი მექანიზმების ინტეგრირება უშუალოდ ხელოვნური ინტელექტის სისტემებში.

ამ ნაბიჯებით OpenAI მიზნად ისახავს არა მხოლოდ საფრთხეების ადრეულ ეტაპზე იდენტიფიცირებას, არამედ იმასაც, რომ გამომძიებლებმა ოპერატიულად მიიღონ ქმედითი ინფორმაცია. ბავშვთა უსაფრთხოების ახალი გეგმა ეფუძნება კომპანიის წინა ინიციატივებს, მათ შორის 18 წლამდე მომხმარებლებისთვის განკუთვნილ სახელმძღვანელო პრინციპებს. ეს წესები კრძალავს შეუსაბამო კონტენტის გენერირებას, თვითდაზიანების წახალისებას და ისეთი რჩევების გაცემას, რაც ახალგაზრდებს საფრთხის შემცველი ქცევის მშობლებისგან დამალვაში დაეხმარება. აღსანიშნავია, რომ კომპანიამ ცოტა ხნის წინ მსგავსი უსაფრთხოების გეგმა ინდოეთში მცხოვრები მოზარდებისთვისაც წარადგინა.