Character.AI არასრულწლოვნებისთვის ჩატბოტებს ბლოკავს — ტრაგედიებისა და მზარდი წნეხის ფონზე

ხელოვნური ინტელექტის როლური თამაშების სტარტაპი Character.AI, რომელიც საზოგადოების კრიტიკისა და სასამართლო დავების ცენტრში მოექცა, არასრულწლოვანი მომხმარებლებისთვის პლატფორმის წესებს რადიკალურად ცვლის. გადაწყვეტილება მას შემდეგ მიიღეს, რაც სულ მცირე ორი მოზარდის თვითმკვლელობა კომპანიის ჩატბოტებთან ხანგრძლივ საუბრებს დაუკავშირდა.

„ჩვენ გადავწყვიტეთ, რომ 18 წლამდე მომხმარებლებს ჩვენს პლატფორმაზე ხელოვნურ ინტელექტთან ღია ფორმატის ჩატის შესაძლებლობას მოვუსპობთ“, — განუცხადა TechCrunch-ს კომპანიის აღმასრულებელმა დირექტორმა, კარანდიპ ანანდმა. ღია ფორმატის საუბარი გულისხმობს შეუზღუდავ დიალოგს, სადაც ჩატბოტი მომხმარებლის საწყის ფრაზას კითხვებით პასუხობს, რაც, ექსპერტების აზრით, მომხმარებლის ჩართულობის მაქსიმალურად გაზრდას ისახავს მიზნად.

ანანდის თქმით, ამ ტიპის ინტერაქცია, სადაც AI მეგობრის ან კომპანიონის როლს ირგებს და არა შემოქმედებითი ხელსაწყოს, არა მხოლოდ სარისკოა ბავშვებისთვის, არამედ ეწინააღმდეგება კომპანიის ახალ ხედვას. სტარტაპი ცდილობს „AI კომპანიონის“ იმიჯიდან „როლური თამაშების პლატფორმაზე“ გადავიდეს, სადაც მოზარდები ჩატის ნაცვლად, ხელოვნურ ინტელექტთან ერთად ამბებს შექმნიან ან ვიზუალურ მასალას დააგენერირებენ.

მოზარდებისთვის ჩატბოტებზე წვდომის შეზღუდვა 25 ნოემბრამდე ეტაპობრივად მოხდება. პროცესი დღეში ორსაათიანი ლიმიტით დაიწყება, რომელიც თანდათან შემცირდება და ნულს მიაღწევს. ამ აკრძალვის აღსრულების მიზნით, კომპანია გამოიყენებს როგორც ქცევის ანალიზზე დაფუძნებულ შიდა ასაკის ვერიფიკაციის სისტემას, ასევე მესამე მხარის ინსტრუმენტებს, როგორიცაა Persona. წარუმატებლობის შემთხვევაში, კომპანია სახის ამომცნობსა და პირადობის დამადასტურებელ დოკუმენტებსაც გამოიყენებს.

ეს ნაბიჯი კომპანიის მიერ უკვე დანერგილ სხვა დამცავ მექანიზმებს ემატება, მათ შორის მშობლებისთვის საინფორმაციო პანელს, გაფილტრულ პერსონაჟებს, რომანტიკული საუბრების შეზღუდვასა და ეკრანთან გატარებული დროის შესახებ შეტყობინებებს. ანანდი აღიარებს, რომ წინა ცვლილებებმა უკვე გამოიწვია არასრულწლოვანი მომხმარებლების ნაწილის დაკარგვა და ახალი შეზღუდვები, სავარაუდოდ, კიდევ უფრო არაპოპულარული იქნება.

„უსაფრთხოა ვივარაუდოთ, რომ ბევრი ჩვენი მოზარდი მომხმარებელი იმედგაცრუებული დარჩება, ამიტომ მომხმარებლების გადინებას კვლავ ველით“, — ამბობს ანანდი. „რთულია იმის პროგნოზირება, ყველა მათგანი დატოვებს თუ არა პლატფორმას, თუ ნაწილი იმ ახალ გამოცდილებებზე გადაერთვება, რომლებსაც ბოლო შვიდი თვის განმავლობაში ვქმნიდით“.

პლატფორმის ტრანსფორმაციის ფარგლებში, Character.AI-მ რამდენიმე ახალი, გართობაზე ორიენტირებული ფუნქცია დაამატა. ივნისში კომპანიამ წარმოადგინა AvatarFX — ვიდეოს გენერაციის მოდელი, Scenes — ინტერაქტიული სიუჟეტები და Streams — ფუნქცია, რომელიც ორ პერსონაჟს შორის დინამიკურ ურთიერთქმედებას უზრუნველყოფს. აგვისტოში კი ამოქმედდა Community Feed — სოციალური სივრცე, სადაც მომხმარებლებს პლატფორმაზე შექმნილი კონტენტის გაზიარება შეუძლიათ.

კომპანიამ 18 წლამდე მომხმარებლებს ცვლილებების გამო ბოდიში მოუხადა. „ვიცით, რომ უმეტესობა თქვენგანი Character.AI-ს შემოქმედებითი პოტენციალის გასაძლიერებლად იყენებს და ჩვენი წესების ფარგლებში რჩება. ამ ნაბიჯს მსუბუქად არ ვუდგებით, მაგრამ მიგვაჩნია, რომ ეს სწორი გადაწყვეტილებაა იმ კითხვების ფონზე, რომლებიც ამ ახალ ტექნოლოგიასთან მოზარდების ურთიერთქმედების შესახებ გაჩნდა“, — ნათქვამია განცხადებაში.

ანანდი ხაზს უსვამს, რომ კომპანია არასრულწლოვნებისთვის აპლიკაციას არ ხურავს, არამედ მხოლოდ ღია ფორმატის ჩატს ზღუდავს. ის იმედოვნებს, რომ მომხმარებლები AI გეიმინგის, მოკლე ვიდეოებისა და ისტორიების შექმნის ფუნქციებზე გადაერთვებიან. ის ასევე აღიარებს, რომ ზოგიერთი მოზარდი შესაძლოა სხვა პლატფორმებზე, მაგალითად OpenAI-ზე გადავიდეს, რომელიც ღია საუბრების საშუალებას იძლევა, თუმცა აღნიშნავს, რომ OpenAI-საც მსგავსი პრობლემები შეექმნა.

„იმედი მაქვს, ჩვენი ნაბიჯი ინდუსტრიაში სტანდარტს დაამკვიდრებს, რომ 18 წლამდე მომხმარებლებისთვის ღია ჩატები არ არის სწორი პროდუქტი“, — ამბობს ანანდი და დასძენს, რომ როგორც ექვსი წლის შვილის მამას, სურს, ბავშვები ხელოვნურ ინტელექტთან უსაფრთხო და პასუხისმგებლიან გარემოში იზრდებოდნენ.

Character.AI ამ ნაბიჯებს მარეგულირებლების იძულებამდე დგამს. სენატორებმა ჯოშ ჰოულიმ და რიჩარდ ბლუმენტალმა განაცხადეს, რომ წარადგენენ კანონპროექტს არასრულწლოვნებისთვის AI კომპანიონი ჩატბოტების აკრძალვის შესახებ. ამასთან, კალიფორნია გახდა პირველი შტატი, რომელმაც მსგავსი ჩატბოტების რეგულირება დაიწყო და კომპანიებს უსაფრთხოების სტანდარტების დარღვევისთვის პასუხისმგებლობას აკისრებს.

პლატფორმაზე ცვლილებების გარდა, Character.AI დააფუძნებს და დააფინანსებს AI უსაფრთხოების ლაბორატორიას (AI Safety Lab) — დამოუკიდებელ არაკომერციულ ორგანიზაციას, რომელიც ხელოვნური ინტელექტის გასართობი ფუნქციების უსაფრთხოების საკითხებზე იმუშავებს. ანანდის თქმით, ამ სფეროში უსაფრთხოების კვლევები ჯერ კიდევ არასაკმარისია და კრიტიკულად მნიშვნელოვანია.