ხელოვნური ინტელექტის უსაფრთხოება: რატომ უჭერს მხარს დარგის სამი პიონერი ღია მოდელებს?

ხელოვნური ინტელექტის (AI) სფეროში უსაფრთხოების საკითხებზე დისკუსია სულ უფრო მწვავდება. მაშინ, როდესაც მსხვილი ლაბორატორიები კვლევების უსაფრთხოების უზრუნველყოფას ცდილობენ, ღია კოდის მქონე მოდელები ინდუსტრიისთვის ერთგვარ „მტკივნეულ წერტილად“ იქცა. თავისუფალი გავრცელება და გამოყენების პროცესზე კონტროლის ნაკლებობა ბევრს აშინებს, თუმცა გასულ კვირას ლას-ვეგასში გამართულ Ai4 კონფერენციაზე მსოფლიოს სამმა ყველაზე პატივსაცემმა მკვლევარმა ამ საკითხზე განსხვავებული პოზიცია დააფიქსირა.

ნობელის პრემიის ლაურეატმა ჯეფრი ჰინტონმა, World Labs-ის აღმასრულებელმა დირექტორმა ფეი-ფეი ლიმ და Coursera-ს თანადამფუძნებელმა ენდრიუ ნგიმ AI-ს ღიაობის სასარგებლოდ არაერთი არგუმენტი მოიყვანეს. მიუხედავად კონკრეტულ ტაქტიკებზე აზრთა სხვადასხვაობისა, სამივე მათგანი თანხმდება, რომ ტექნოლოგიის განვითარების ტემპზე კონტროლი მხოლოდ რამდენიმე მსხვილი კომპანიის ხელში არ უნდა დარჩეს.

ენდრიუ ნგი: მონოპოლიის საფრთხე და გლობალური კონკურენცია

ენდრიუ ნგის მთავარი საფიქრალი ე.წ. „კარიბჭის მცველების“ (gatekeepers) გაჩენაა. მისი თქმით, როდესაც ტექნოლოგიაზე წვდომას მხოლოდ რამდენიმე კომპანია აკონტროლებს — როგორც ეს Apple-ისა და Google-ის შემთხვევაშია მობილური ოპერაციული სისტემების ბაზარზე — ინოვაციების ტემპი ნელდება. პლატფორმის მფლობელებს შეუძლიათ გავლენა მოახდინონ იმაზე, თუ რა აშენდება მათ ბაზაზე.

„მე არ მსურს, რომ არსებობდნენ კარიბჭის მცველები. ეს ზღუდავს იმას, თუ როგორ შეგვიძლია ყველამ მივიღოთ წვდომა ხელოვნურ ინტელექტზე“, — განაცხადა ნგიმ.

მისი აზრით, მსხვილ კომპანიებს აქვთ მოტივაცია, დაიცვან თავიანთი კონკურენტული უპირატესობა ინდუსტრიის რეგულაციებზე ზემოქმედებით. ამან შესაძლოა შექმნას გარემო, სადაც მხოლოდ ყველაზე მდიდარ ფირმებს ექნებათ მოწინავე AI სისტემების შექმნის რესურსი. ნგის გამოსავალი მრავალფეროვანი მიმწოდებლების შენარჩუნება და ღიაობის ხელშეწყობაა, რათა ტექნოლოგია ყველასთვის ხელმისაწვდომი იყოს.

გარდა ამისა, ნგიმ ხაზი გაუსვა ამერიკის კონკურენტუნარიანობას. მან აღნიშნა, რომ ჩინეთის ღია მოდელები დიდ წარმატებას აღწევენ აფრიკასა და განვითარებად ქვეყნებში, რაც ჩინეთისთვის „რბილი ძალის“ წყაროა. თუ აშშ-ში ლობირებისა და შიშის გამო ღია კოდის განვითარება შეფერხდება, ჩინური მოდელები, რომლებიც შესაძლოა უფრო ეფექტური აღმოჩნდეს, ბიზნესის ათვისების თვალსაზრისით უპირატესობას მოიპოვებენ.

ჯეფრი ჰინტონი: ღია კოდი vs ღია პარამეტრები

ჯეფრი ჰინტონმა მკაფიო ზღვარი გაავლო ღია კოდის მქონე პროგრამულ უზრუნველყოფასა (Open Source) და ღია პარამეტრების მქონე მოდელებს (Open Weights) შორის. მისი განმარტებით, ღია კოდი კარგია, რადგან ბევრი ადამიანი ამოწმებს მას და პოულობს შეცდომებს. თუმცა, „ღია პარამეტრები“ ნიშნავს, რომ ვარჯიშდება გიგანტური მოდელი და შემდეგ მისი მონაცემები საჯაროდ ვრცელდება.

„მე წინააღმდეგი ვიყავი ღია პარამეტრების, რადგან ეს ბოროტმოქმედებს უადვილებს ამ ძვირადღირებული მოდელების გამოყენებას კიბერშეტევების მოსაწყობად“, — აღნიშნა ჰინტონმა.

მიუხედავად ამისა, ჰინტონმა აღიარა, რომ ეს ბრძოლა უკვე წაგებულია — ღია პარამეტრების მოდელები უკვე არსებობს და მათი გავრცელების შეჩერება შეუძლებელია. თუმცა, რეალობის აღიარება რისკების იგნორირებას არ ნიშნავს. ჰინტონი მიიჩნევს, რომ AI გაზრდის პროდუქტიულობას და გააუმჯობესებს განათლებასა და ჯანდაცვას, მაგრამ ამავე დროს, სავსებით ლეგიტიმურია იმაზე ნერვიულობა, თუ რას მოიმოქმედებენ ჩვენზე ჭკვიანი არსებები მომავალში.

ფეი-ფეი ლი: ნიუანსირებული მიდგომა და ინფრასტრუქტურა

ფეი-ფეი ლიმ გააკრიტიკა საკითხის მხოლოდ „ღია“ ან „დახურულ“ ჭრილში განხილვა. მისი თქმით, რთულ სისტემებში ყველაფერი ბევრად უფრო კომპლექსურია. მან მაგალითად ბირთვული ფიზიკა მოიყვანა: სამეცნიერო ნაშრომები ღიად ქვეყნდება, ურანი რეგულირდება, ხოლო ლაბორატორიული მუშაობა სადღაც შუაშია.

ლიმ ასევე გაიხსენა „ადამიანის გენომის პროექტი“ (Human Genome Project), როგორც საჯარო და კერძო სექტორის წარმატებული თანამშრომლობის მაგალითი. ამ პროექტის შედეგად მიღებული ცოდნა იქცა პლატფორმად, რომელზეც ფარმაცევტულმა კომპანიებმა ბიზნესი ააშენეს, მეცნიერებმა კი კვლევები წინ წასწიეს.

„ჩვენ გვჭირდება ღიაობის გარკვეული დონე სამეცნიერო აღმოჩენებში, განათლებასა და გლობალურ პარტნიორობაში, ისევე როგორც მომგებიანი ბიზნეს მოდელები მეწარმეებისთვის. მაგრამ ჩვენ ასევე მივიღებთ დახურულ სისტემებსაც. დებატები იმის შესახებ, რომ მხოლოდ ერთის მოთმენა შეგვიძლია, მცდარია“, — განაცხადა ლიმ.

რეგულაციების აუცილებლობა

მიუხედავად განსხვავებული ხედვებისა, სამივე ექსპერტი თანხმდება, რომ რეგულაციები აუცილებელია AI-ს სწორი მიმართულებით განვითარებისთვის. ჰინტონმა ხაზგასმით აღნიშნა, რომ რეგულირება დაგვეხმარება ტექნოლოგია ადამიანების სასიკეთოდ გამოვიყენოთ.

მისივე თქმით, დაუშვებელია ხელოვნური ინტელექტის მომავლის განსაზღვრა მხოლოდ ისეთი ფიგურების ხელში დატოვება, როგორებიც ილონ მასკი და მარკ ცუკერბერგი არიან. რეგულაციებმა უნდა უზრუნველყოს, რომ ტექნოლოგია საზოგადოების ინტერესებს ემსახურებოდეს და არა მხოლოდ კერძო კორპორაციების ამბიციებს.