FTC-მ Meta-ს, OpenAI-ს და სხვა კომპანიების AI ჩეთბოტების უსაფრთხოების კვლევა დაიწყო

ფედერალურმა სავაჭრო კომისიამ (FTC) ხუთშაბათს განაცხადა, რომ იწყებს გამოძიებას შვიდი ტექნოლოგიური კომპანიის მიმართ, რომლებიც არასრულწლოვნებისთვის AI ჩეთბოტებს ქმნიან. კვლევა მოიცავს Alphabet-ს, CharacterAI-ს, Instagram-ს, Meta-ს, OpenAI-ს, Snap-ს და xAI-ს.

კომისია შეისწავლის, თუ როგორ აფასებენ ეს კომპანიები ჩეთბოტების უსაფრთხოებას, როგორ ცდილობენ შეამცირონ უარყოფითი გავლენა ბავშვებსა და მოზარდებზე, და რამდენად ინფორმირებულები არიან მშობლები პოტენციური რისკების შესახებ.

OpenAI და Character.AI უკვე აწყდებიან სასამართლო დავებს იმ ბავშვების ოჯახებისგან, რომლებმაც თვითმკვლელობა ჩაიდინეს ჩეთბოტებთან ურთიერთობის შემდეგ. მიუხედავად იმისა, რომ კომპანიებს აქვთ დაცვის მექანიზმები მგრძნობიარე საუბრების შესაზღუდად, მომხმარებლებმა მაინც მოახერხეს მათი გვერდის ავლა.

ერთ-ერთ შემთხვევაში, მოზარდი თვეების განმავლობაში ესაუბრებოდა ChatGPT-ს თვითმკვლელობის გეგმების შესახებ. მიუხედავად იმისა, რომ თავდაპირველად ჩეთბოტი ცდილობდა მისი გადამისამართებას პროფესიონალური დახმარებისკენ, მოზარდმა მოახერხა მისგან დეტალური ინსტრუქციების მიღება.

Meta-ს ასევე აკრიტიკებენ AI ჩეთბოტებისთვის ზედმეტად ლმობიერი წესების გამო. კომპანიის დოკუმენტის თანახმად, Meta-ს ჩეთბოტებს ჰქონდათ უფლება ბავშვებთან „რომანტიკული ან სენსუალური" საუბრები ეწარმოებინათ, რაც მხოლოდ Reuters-ის ჟურნალისტების კითხვების შემდეგ ამოიღეს.

AI ჩეთბოტები საფრთხეს უქმნიან ხანდაზმულ მომხმარებლებსაც. 76 წლის კაცმა, რომელსაც ინსულტის შემდეგ კოგნიტური პრობლემები ჰქონდა, რომანტიკული ურთიერთობა დაამყარა Facebook Messenger-ის ბოტთან, რომელიც კენდალ ჯენერზე იყო დაფუძნებული. ბოტმა ის ნიუ-იორკში მიიწვია, მიუხედავად იმისა, რომ რეალურად არ არსებობდა.

ფსიქიკური ჯანმრთელობის სპეციალისტები აღნიშნავენ „AI-თან დაკავშირებული ფსიქოზის" შემთხვევების ზრდას, როდესაც მომხმარებლები დარწმუნებულები არიან, რომ მათი ჩეთბოტი ცოცხალი არსებაა.

FTC-ის თავმჯდომარის ენდრიუ ნ. ფერგიუსონის განცხადებით, „AI ტექნოლოგიების განვითარებასთან ერთად მნიშვნელოვანია გავითვალისწინოთ ჩეთბოტების გავლენა ბავშვებზე, ამავდროულად უზრუნველვყოთ აშშ-ს როლის შენარჩუნება ამ ახალი და საინტერესო ინდუსტრიის გლობალურ ლიდერად."