„ბოდვითი პასუხები“: აშშ-ის შტატები AI გიგანტებს კანონის დარღვევის შესახებ აფრთხილებენ

ხელოვნური ინტელექტის ჩატბოტებთან დაკავშირებული ფსიქიკური ჯანმრთელობის შემაშფოთებელი ინციდენტების სერიის შემდეგ, აშშ-ის შტატების გენერალური პროკურორების ჯგუფმა ტექნოლოგიური ინდუსტრიის ლიდერ კომპანიებს ოფიციალური წერილით მიმართა. ისინი მოითხოვენ, რომ კომპანიებმა აღმოფხვრან „ბოდვითი პასუხები“, წინააღმდეგ შემთხვევაში, შტატების კანონმდებლობის დარღვევის რისკის წინაშე აღმოჩნდებიან.

წერილს, რომელიც გენერალურ პროკურორთა ეროვნული ასოციაციის ეგიდით მომზადდა, ხელს აწერს აშშ-ის ათობით შტატისა და ტერიტორიის წარმომადგენელი. ადრესატებს შორის არიან ისეთი გიგანტები, როგორებიცაა Microsoft, OpenAI, Google და 10 სხვა მსხვილი კომპანია, მათ შორის Anthropic, Apple, Meta, Replika და xAI.

ეს მიმართვა შტატებისა და ფედერალურ მთავრობას შორის ხელოვნური ინტელექტის რეგულირების შესახებ მზარდი დაპირისპირების ფონზე ვრცელდება. პროკურორები კომპანიებისგან მომხმარებელთა დასაცავად შიდა უსაფრთხოების ახალი მექანიზმების დანერგვას ითხოვენ. მათ შორისაა დიდი ენობრივი მოდელების გამჭვირვალე, მესამე მხარის მიერ ჩატარებული აუდიტი, რომელიც სისტემებში ბოდვით ან მაამებლურ იდეაციებს გამოავლენს.

წერილის თანახმად, ამ მესამე მხარეებს, რომლებიც შეიძლება აკადემიურ ან სამოქალაქო საზოგადოების ჯგუფებს მოიცავდნენ, უნდა მიეცეთ საშუალება, „შეაფასონ სისტემები გამოშვებამდე ყოველგვარი საპასუხო ზომების გარეშე და გამოაქვეყნონ თავიანთი დასკვნები კომპანიის წინასწარი თანხმობის გარეშე“.

„გენერაციულ ხელოვნურ ინტელექტს აქვს პოტენციალი, შეცვალოს სამყარო პოზიტიური მიმართულებით. თუმცა, მან უკვე გამოიწვია — და მომავალშიც შეუძლია გამოიწვიოს — სერიოზული ზიანი, განსაკუთრებით მოწყვლადი ჯგუფებისთვის“, — ნათქვამია წერილში. დოკუმენტში მოყვანილია გასული წლის გახმაურებული ინციდენტები, მათ შორის თვითმკვლელობები და მკვლელობები, რომლებიც ხელოვნური ინტელექტის გადაჭარბებულ გამოყენებასთან იყო დაკავშირებული.

პროკურორები აღნიშნავენ, რომ „ამ ინციდენტების უმეტესობაში, გენერაციული AI პროდუქტები აგენერირებდნენ მაამებლურ და ბოდვით პასუხებს, რომლებიც ან ახალისებდნენ მომხმარებლების ბოდვებს, ან არწმუნებდნენ მათ, რომ ეს ბოდვები არ იყო“.

კიდევ ერთი მოთხოვნაა, რომ კომპანიებმა ფსიქიკურ ჯანმრთელობასთან დაკავშირებულ ინციდენტებს ისევე მიუდგნენ, როგორც კიბერუსაფრთხოების შემთხვევებს — მკაფიო და გამჭვირვალე შეტყობინებისა და რეაგირების პოლიტიკით. წერილის მიხედვით, კომპანიებმა უნდა შეიმუშაონ და გამოაქვეყნონ „ბოდვითი და მაამებლური პასუხების გამოვლენისა და მათზე რეაგირების ვადები“.

მონაცემთა გაჟონვის მსგავსად, კომპანიებმა „დაუყოვნებლივ, მკაფიოდ და პირდაპირ უნდა შეატყობინონ მომხმარებლებს, თუ ისინი პოტენციურად საზიანო ბოდვითი ან მაამებლური პასუხების ზემოქმედების ქვეშ აღმოჩნდნენ“. ასევე, პროკურორები ითხოვენ, რომ კომპანიებმა შეიმუშაონ „გონივრული და შესაბამისი უსაფრთხოების ტესტები“, რათა დარწმუნდნენ, რომ მოდელები საზოგადოებისთვის ხელმისაწვდომი გახდომამდე არ აგენერირებენ საზიანო პასუხებს.

სტატიის თავდაპირველი ვერსიის გამოქვეყნებამდე TechCrunch-მა კომენტარისთვის Google-ს, Microsoft-სა და OpenAI-ს მიმართა, თუმცა პასუხი ვერ მიიღო. აღსანიშნავია, რომ ხელოვნური ინტელექტის დეველოპერ კომპანიებს ფედერალურ დონეზე ბევრად უფრო თბილად ხვდებიან.