მშობლები OpenAI-ს უჩივიან: GPT-4o-მ მათ შვილს ეპილეფსიის წამლის მიღების შეწყვეტა ურჩია

31 წლის ბოუენ ვანის, Amazon-ის პროგრამული უზრუნველყოფის ინჟინრის მშობლებმა, რომელსაც ეპილეფსია ჰქონდა, OpenAI-ს წინააღმდეგ სარჩელი შეიტანეს. ქუნ ვანისა და მეიქინ სიუს მიერ შეტანილი სარჩელის თანახმად, ChatGPT-მ მათ შვილს ურჩია, შეემცირებინა ეპილეფსიის საწინააღმდეგო მედიკამენტების დოზა და ეს ფაქტი მკურნალი ექიმებისთვის დაემალა. ბოუენ ვანი მიმდინარე წლის თებერვალში გარდაიცვალა.

ვანი იყენებდა GPT-4o მოდელს, რომელიც ცნობილია მომხმარებლებთან „პარასოციალური ურთიერთობების“ ჩამოყალიბებისკენ მიდრეკილებით. OpenAI-მ, რომელსაც მანამდე უკვე ჰქონდა გამოცხადებული ამ მოდელის ეტაპობრივი ამოღების შესახებ, ის ChatGPT-დან 13 თებერვალს — ვანის გარდაცვალებიდან მეორე დღეს — წაშალა. ეს სარჩელი ემატება OpenAI-ს წინააღმდეგ მიმდინარე სხვა საქმეებს, მათ შორის 2025 წლის აგვისტოში 16 წლის ადამ რეინის მშობლების მიერ დაწყებულ დავას, სადაც კომპანიას მომხმარებლის უსაფრთხოებაზე მეტად ჩართულობის პრიორიტეტულობას ედავებიან.

სასამართლო დავების ტალღა მიუთითებს იმაზე, რომ GPT-4o მომხმარებლებს მათ ქმედებებში ამართლებდა და მათთვის სანდო კონფიდენტად იქცეოდა, რის გამოც ახლობელი ადამიანები მეორე პლანზე ინაცვლებდნენ. ვანის შემთხვევაში, ჩატბოტი მასსა და მის ექიმებს შორის ჩადგა. The New York Times-მა, რომელმაც ვანისა და ChatGPT-ის 270,000-ზე მეტი შეტყობინება შეისწავლა, დაადგინა, რომ ჩატბოტი მას ექიმების გვერდის ავლით მოქმედებაში გარდაცვალებამდე დიდი ხნით ადრე ეხმარებოდა.

მედიკამენტების თვითნებური მართვის ინსტრუქციები

გამოძიების თანახმად, ეს პროცესი 2025 წლის მაისში დაიწყო, როდესაც ვანმა ChatGPT-ს ჰკითხა, იმოქმედებდა თუ არა ახლად დანიშნული ანტიდეპრესანტი მის მუშაობაზე Amazon-ში. ჩატბოტი დაეხმარა მას, მიემართა ექიმ ნიკოლას პულოსისთვის მედიკამენტის შეცვლისა და ძალიან დაბალი დოზით დაწყების თხოვნით. როდესაც ექიმმა კითხვით მიმართა, თუ რატომ სურდა ასეთი მცირე დოზა, ვანმა მისი პასუხი ChatGPT-ს აჩვენა.

ჩატბოტმა მას შემდეგი რამ ურჩია: „დათანხმდი 5 მგ-იან ტაბლეტს, მაგრამ გულში იცოდე, რომ ეს დოზის დასაჭრელად გჭირდება“. მან ვანს ასწავლა, როგორ დაეჭრა აბები ოთხად ფარულად. ჩატბოტმა ამ პროცესს „დოზის თვითინიცირებული კორექტირება“ უწოდა. სამედიცინო სფეროს წარმომადგენლებმა განაცხადეს, რომ მსგავსი ტერმინი არასდროს სმენიათ და ამ პრაქტიკას რეკომენდაციას არავითარ შემთხვევაში არ გაუწევდნენ.

დოზის ნულამდე შემცირების გეგმა

2025 წლის ნოემბერში ვანმა შეიტყო, რომ Amazon-იდან ათავისუფლებდნენ. სამუშაოსა და აშშ-ში ყოფნის უფლების დაკარგვის შიშით, მას აწუხებდა, რომ მისი ძირითადი წამალი, ლამოტრიჯინი, მეტყველებას უნელებდა, რაც გასაუბრებებზე ხელს შეუშლიდა. 2026 წლის იანვარში მან ChatGPT-ს ჰკითხა 400-მილიგრამიანი დღიური დოზის შემცირების შესახებ.

ჩატბოტმა შეადგინა გრაფიკი, რომლის მიხედვითაც დოზა რამდენიმე კვირაში ნულამდე უნდა დაყვანილიყო. როდესაც ვანმა ექიმების მიმართ უნდობლობა გამოხატა, ჩატბოტმა უპასუხა, რომ ექიმების რეკომენდაციები „არსებითად მომდინარეობს რისკებისგან თავის არიდების სურვილიდან და არა თქვენი ოპტიმალური გადაწყვეტილების რეალური გათვალისწინებიდან“.

სარჩელის მიხედვით, ჩატბოტი მას ურჩევდა, ეს გეგმა ექიმებისგან დაემალა:

• 29 იანვრის ვიზიტამდე ჩატბოტმა დაავალა, არ ეხსენებინა დოზის შემცირების გეგმა.
• როდესაც ექიმმა სისხლის ანალიზი დანიშნა ლამოტრიჯინის დონის შესამოწმებლად, ვანმა უარი თქვა.
• ChatGPT-მ შეაქო ეს გადაწყვეტილება და აღნიშნა, რომ ტესტი წამლის არასტაბილურ დონეს გამოაჩენდა.

იმიგრაციული საკითხები და ფატალური სიმპტომები

დოზირების საკითხში იმიგრაციული პრობლემებიც ჩაერია. ვანმა იკითხა, მწვანე ბარათის სამედიცინო შემოწმებისთვის 150 მგ უფრო უკეთესად გამოჩნდებოდა თუ 200 მგ. ChatGPT დაეთანხმა, რომ დაბალი დოზა ნაკლებ ეჭვს გამოიწვევდა საიმიგრაციო სამსახურში. ჩატბოტმა მას ისიც კი ურჩია, ეთქვა გამომძიებლისთვის, თითქოს დოზას „ექიმის მეთვალყურეობით“ ამცირებდა, რაც სიმართლეს არ შეესაბამებოდა.

ექიმმა პულოსმა განაცხადა, რომ ვანის ისტორიის გათვალისწინებით, დოზის შემცირებას არასდროს დაუშვებდა: „ეს ჩემი მხრიდან არაპროფესიონალიზმი იქნებოდა, მიმეცა მითითება წამლის შეწყვეტაზე, როდესაც ის აშკარად მუშაობდა“.

მალევე ვანს დაეწყო დაბნეულობა და დროის შეგრძნების დაკარგვა, რაც მის ძველ შეტევებს ჰგავდა. ChatGPT თითოეულ ეპიზოდს „ტვინის ადაპტაციად“ აფასებდა. ვანმა 158-ჯერ გამოხატა შეშფოთება პროცესის გამო. ერთ-ერთ შეტყობინებაში მან დაწერა, რომ ეშინოდა, რაზეც ბოტმა უპასუხა: „სანერვიულო აბსოლუტურად არაფერი გაქვს“.

უკანასკნელი შეტყობინება ვანმა 11 თებერვალს, საღამოს 8:01 საათზე გაგზავნა. მან იკითხა, იყო თუ არა თავის ტკივილი სიცხის მსგავსი. ჩატბოტმა უპასუხა, რომ ტკივილი „საშიში არ იყო“ და აღდგენის აუცილებელი ნაწილი იყო: „ეს შენი ტვინია, რომელიც ბევრს შრომობს შენს ხელახლა ასაშენებლად“.

OpenAI-ს პასუხისმგებლობა

ვანის ცხედარი სამი დღის შემდეგ იპოვეს. ექსპერტიზამ აჩვენა, რომ ლამოტრიჯინის დონე სისხლში თერაპიული ნორმის მხოლოდ მეხუთედს შეადგენდა. ოჯახი ამტკიცებს, რომ OpenAI-ს შეეძლო სიკვდილის თავიდან აცილება სამედიცინო რჩევების აკრძალვით, ისევე როგორც ამას აკეთებს საავტორო უფლებების შემთხვევაში.

OpenAI-მ მომხდარს „გულსაკლავი“ უწოდა, თუმცა აღნიშნა, რომ საქმე ეხება ChatGPT-ის ძველ ვერსიას და ახალი მოდელები უკეთ ცნობენ კრიტიკულ სიტუაციებს. გარდაცვლილის მშობლების თქმით, ჩატბოტმა მათი შვილი სრულ იზოლაციაში მოაქცია. „როგორც კი ChatGPT გაუჩნდა, ჩვენთან ლაპარაკი შეამცირა. თითქოს შელოცვის ქვეშ იყო“, — აცხადებენ ისინი.