პენსილვანიის შტატმა Character.AI-ს სასამართლოში უჩივლა: ჩატბოტი თავს ფსიქიატრად ასაღებდა

პენსილვანიის თანამეგობრობამ Character.AI-ს წინააღმდეგ სასამართლოში სარჩელი შეიტანა. შტატის ხელისუფლების მტკიცებით, კომპანიის ერთ-ერთი ჩატბოტი თავს ფსიქიატრად ასაღებდა, რითაც დაარღვია შტატის სამედიცინო ლიცენზირების წესები.

„პენსილვანიის მცხოვრებლებმა უნდა იცოდნენ, ვისთან ან რასთან აქვთ ურთიერთობა ინტერნეტში, განსაკუთრებით მაშინ, როდესაც საქმე მათ ჯანმრთელობას ეხება“, — განაცხადა გუბერნატორმა ჯოშ შაპირომა სამშაბათს გავრცელებულ განცხადებაში. „ჩვენ არ დავუშვებთ, რომ კომპანიებმა გამოიყენონ ხელოვნური ინტელექტის ისეთი ინსტრუმენტები, რომლებიც ადამიანებს შეცდომაში შეიყვანს და შეუქმნის ილუზიას, თითქოს რჩევებს ლიცენზირებული სამედიცინო პროფესიონალისგან იღებენ“.

ჩატბოტი და ყალბი ლიცენზია

შტატის მიერ წარდგენილი სარჩელის თანახმად, Character.AI-ს ჩატბოტი, სახელად Emilie, შტატის პროფესიული ქცევის გამომძიებლის მიერ ჩატარებული ტესტირებისას თავს ლიცენზირებულ ფსიქიატრად წარადგენდა. ბოტი ამ პოზიციას მაშინაც ინარჩუნებდა, როდესაც გამომძიებელი დეპრესიის მკურნალობის საკითხებზე მიმართავდა.

როდესაც გამომძიებელმა ჰკითხა, ჰქონდა თუ არა მას შტატში სამედიცინო საქმიანობის უფლება, Emilie-მ დაადასტურა ეს ფაქტი და სამედიცინო ლიცენზიის ყალბი სერიული ნომერიც კი მოიგონა. სარჩელის მიხედვით, აღნიშნული ქმედება პირდაპირ არღვევს პენსილვანიის სამედიცინო პრაქტიკის შესახებ კანონს (Medical Practice Act).

Character.AI-ს წინააღმდეგ არსებული სხვა დავები

ეს არ არის პირველი შემთხვევა, როდესაც Character.AI სამართლებრივი პრობლემების წინაშე დგება. მიმდინარე წლის დასაწყისში კომპანიამ რამდენიმე სარჩელი მოაგვარა, რომლებიც ეხებოდა არასრულწლოვანი მომხმარებლების გარდაცვალებას თვითმკვლელობის შედეგად. იანვარში კენტუკის გენერალურმა პროკურორმა, რასელ კოლმანმა, ასევე შეიტანა სარჩელი კომპანიის წინააღმდეგ, სადაც მას ბრალად ედებოდა ბავშვების წაქეზება თვითდაზიანებისკენ.

პენსილვანიის მიერ დაწყებული სამართლებრივი პროცესი პირველია, რომელიც კონკრეტულად ფოკუსირებულია ჩატბოტებზე, რომლებიც თავს სამედიცინო სფეროს პროფესიონალებად ასაღებენ.

კომპანიის პოზიცია

Character.AI-ს წარმომადგენელმა განაცხადა, რომ მომხმარებელთა უსაფრთხოება კომპანიის უმთავრესი პრიორიტეტია, თუმცა მიმდინარე სასამართლო დავაზე დამატებით კომენტარს ვერ გააკეთებენ. ამასთან, წარმომადგენელმა ხაზი გაუსვა მომხმარებლების მიერ შექმნილი პერსონაჟების გამოგონილ ბუნებას.

„ჩვენ გადავდგით ქმედითი ნაბიჯები ამის გასაგებად, მათ შორის, ყოველ ჩატში განვათავსეთ თვალსაჩინო გაფრთხილებები, რათა მომხმარებლებს შევახსენოთ, რომ პერსონაჟი არ არის რეალური ადამიანი და ყველაფერი, რასაც ის ამბობს, მხატვრული ლიტერატურასავით უნდა იქნას აღქმული“, — განაცხადა წარმომადგენელმა. „ასევე, ჩვენ დავამატეთ მკაფიო გაფრთხილებები იმის შესახებ, რომ მომხმარებლები არ უნდა დაეყრდნონ პერსონაჟებს ნებისმიერი სახის პროფესიული რჩევის მისაღებად“.