რა დგას ხელოვნური ინტელექტის ინდუსტრიის „აპოკალიფსური“ გაფრთხილებების მიღმა?

ხელოვნური ინტელექტის (AI) ინდუსტრიაში კვლავ გამწვავდა დებატები იმის შესახებ, წარმოადგენს თუ არა ეს ტექნოლოგია კაცობრიობისთვის ეგზისტენციალურ საფრთხეს. დისკუსიის ახალი ტალღა მას შემდეგ დაიწყო, რაც მკვლევარმა ჯეიკობ კოქსონმა კომპანია Anthropic-იდან წასვლის შესახებ განაცხადა. მისი თქმით, წამყვანი AI კომპანიები „ადამიანების სიცოცხლით აზარტულ თამაშს ეწევიან“.

ამ განცხადებას მალევე მოჰყვა Anthropic-ის შესაბამისობის (alignment) გუნდის ხელმძღვანელის პოსტი, სადაც აღნიშნული იყო: „ჩვენ მართლაც გულწრფელად გვჯერა, რომ ხელოვნურ ინტელექტს შეუძლია ყველა ადამიანის განადგურება“. მან ასევე დასძინა, რომ პირადად ამის შანსს მომდევნო ათწლეულში 10%-ზე მეტად აფასებს. აღნიშნული საკითხები TechCrunch-ის Equity პოდკასტის ფარგლებში განიხილეს, სადაც ექსპერტებმა ამ „აპოკალიფსური“ გაფრთხილებების რეალური მიზეზების გარკვევა სცადეს.

დისკუსიისას გამოითქვა ეჭვი, რომ მსგავსი ნარატივები შესაძლოა იყოს თავისებური მარკეტინგული სვლა, რომელიც მიზნად ისახავს კომპანიის AI მოდელების სიმძლავრის დემონსტრირებას. ეს განსაკუთრებით აქტუალურია იმ ფონზე, როდესაც კომპანიები საჯარო აქციების გამოშვებისთვის (IPO) ემზადებიან. თუ მოდელი იმდენად ძლიერია, რომ კაცობრიობის განადგურება შეუძლია, ეს ირიბად მის უპრეცედენტო შესაძლებლობებზე მიუთითებს.

სკეპტიციზმი და „P(doom)“ კონცეფცია

ხელოვნური ინტელექტის სფეროში ხშირად იყენებენ პროცენტულ მაჩვენებლებს საფრთხეების აღსაწერად, თუმცა ბევრი ექსპერტი ამ ციფრებს სკეპტიკურად უყურებს. მაგალითად, ნახსენები „10%-ზე მეტი შანსი“ ხშირად ეფუძნება სუბიექტურ აღქმას და არა კონკრეტულ გამოთვლებს. ტექნოლოგიურ ინდუსტრიაში დამკვიდრებული ეს ჩვევა — პროცენტების ჰაერიდან მოტანა — ხშირად აბნევს საზოგადოებას. სავარაუდოდ, აღნიშნული პოსტი ეხებოდა კონცეფციას სახელწოდებით P(doom) (განადგურების ალბათობა), თუმცა მისი მეცნიერული საფუძვლიანობა კითხვის ნიშნის ქვეშ დგას.

პროფესიული პასუხისმგებლობა vs. კორპორატიული რიტორიკა

მნიშვნელოვანია განსხვავება მკვლევარ ჯეიკობ კოქსონსა და ისეთ ფიგურებს შორის, როგორიცაა სემ ალტმანი (OpenAI) ან დარიო ამოდეი (Anthropic). როდესაც კომპანიის ხელმძღვანელები საუბრობენ AI-ს საფრთხეებზე, ჩნდება ლოგიკური კითხვა: თუ ტექნოლოგია მართლაც ასეთი საშიშია, რატომ აგრძელებენ მის განვითარებას? კოქსონის შემთხვევა განსხვავებულია — მან საკუთარი კარიერა დათმო იმ რწმენის გამო, რომ პროცესი სახიფათოა, რაც მის პოზიციას მეტ დამაჯერებლობას სძენს.

მარკეტინგული სარგებელი საფრთხის ფონზე

არსებობს მოსაზრება, რომ საფრთხეებზე საუბარი პირდაპირ კავშირშია ბიზნეს ინტერესებთან. განცხადება „ჩვენ შევქმენით ყველაზე მომაკვდინებელი პროგრამული უზრუნველყოფა“ შესაძლოა ცინიკურად ჟღერდეს, მაგრამ ის ინვესტორებისთვის მიმზიდველია. ფსიქოლოგიურ დონეზეც, ადამიანებს სურთ სჯეროდეთ, რომ ის, რაზეც მუშაობენ, მსოფლიოში ყველაზე მნიშვნელოვანი და სახიფათო რამაა.

მომავალი IPO და იურიდიული რისკები

Anthropic-ის მოსალოდნელი IPO-ს წინ, საინტერესოა, როგორ აისახება ეს გაფრთხილებები S-1 ფორმის დოკუმენტში, რომელიც ინვესტორებისთვის რისკ-ფაქტორებს აღწერს. ექსპერტები ვარაუდობენ, რომ იურისტებს მოუწევთ ამ განცხადებების ოფიციალურ ენაზე გადატანა. შესაძლოა, დოკუმენტში ვიხილოთ ჩანაწერი, რომ არსებობს 10%-ზე მეტი შანსი იმისა, რომ კომპანიამ შექმნას რაღაც, რაც კაცობრიობას გაანადგურებს, რაც მატერიალურად საზიანო იქნება მათი ბიზნესისთვის.

ტრადიციულ საინვესტიციო გარემოში მსგავსი ენა კომპანიის შეფასებას დააზიანებდა, თუმცა დღევანდელ რეალობაში საფრთხე და სიმძლავრე ხშირად მაღალ ვალუაციასთან (valuation) ასოცირდება.

კონტროლის დაკარგვა და რეალური ზიანი

ბოლოდროინდელი ინციდენტები, როგორიცაა OpenAI-ს შიდა აგენტების მიერ ვებ-გვერდებზე წვდომა და ერთმანეთისთვის შეტყობინებების დატოვება, მიუთითებს იმაზე, რომ კომპანიებს შესაძლოა აღარ ჰქონდეთ სრული კონტროლი საკუთარ მოდელებზე. ეს რეალური შეშფოთების საგანია.

ამავდროულად, ეგზისტენციალურ საფრთხეებზე (AGI და სუპერინტელექტი) გადაჭარბებული ფოკუსირება ხშირად ფარავს უფრო ახლო და ხელშესახებ პრობლემებს, როგორიცაა:

• გავლენა შრომის ბაზარზე და სამუშაო ადგილების დაკარგვა;
• გარემოსდაცვითი და კლიმატური რისკები;
• მონაცემთა უსაფრთხოება და ჰაკერული თავდასხმები (მაგალითად, Hugging Face-ის შემთხვევა).

საბოლოო ჯამში, აუცილებელია რეგულაციებისა და დამცავი მექანიზმების შემუშავება, თუმცა „აპოკალიფსური“ ჰისტერია ხშირად ხელს უშლის კონსტრუქციულ დისკუსიას იმ ზიანის შესახებ, რომელსაც ხელოვნური ინტელექტი უკვე დღეს აყენებს საზოგადოებას.