5 სესია ხელოვნური ინტელექტის უსაფრთხოებაზე, რომელიც Disrupt 2026-ის ყველა დამფუძნებლის დღის წესრიგში უნდა იყოს

ენდობოდით ხელოვნური ინტელექტის აგენტს, რომელსაც წვდომა აქვს თქვენი კომპანიის სისტემებთან? ანდობდით თქვენი თანამშრომლების სიცოცხლეს ავტონომიურ სატრანსპორტო საშუალებას? დანერგავდით რობოტს, რომელსაც გადაწყვეტილებების მიღება არაპროგნოზირებად ფიზიკურ სამყაროში უწევს? ხელოვნური ინტელექტის სფეროში მომუშავე დამფუძნებლებისთვის ეს კითხვები უკვე დიდი ხანია ჰიპოთეტური აღარ არის.

იმ ფონზე, როდესაც ხელოვნური ინტელექტი დემო ვერსიებიდან ბიზნეს პროცესებში, ავტომობილებში, რობოტებსა და ავტონომიურ აგენტებში ინაცვლებს, უსაფრთხოება პროდუქტის განუყოფელი ნაწილი ხდება. მათთვის, ვინც AI-ს შემდეგ თაობას ქმნის, Disrupt-ზე დასწრება და უსაფრთხოების საკითხებზე ორიენტირებული ხუთი სესიის მოსმენა კრიტიკულად მნიშვნელოვანია. 25 სექტემბრის 23:59 საათამდე (PT) ბილეთებზე მოქმედებს 200 დოლარამდე ფასდაკლება, ხოლო მეორე ბილეთის შეძენა 50%-იანი შეღავათით არის შესაძლებელი.

1. რას ხედავს Anthropic, როდესაც კომპანიები Claude-ს რეალურად ნერგავენ

ზოგიერთი საწარმო ხელოვნური ინტელექტისგან უკვე იღებს გაზომვად სარგებელს, სხვები კი 18 თვის შემდეგაც საპილოტე რეჟიმში რჩებიან. Anthropic-ის გამოყენებითი AI-ის ხელმძღვანელი, კეტ დე იონგი, ამ პროცესს უშუალოდ აკვირდება. იგი მუშაობს კომპანიებთან, რომლებიც Claude-ს კრიტიკულ სამუშაო პროცესებში ნერგავენ და ხედავს, სად აღწევენ ისინი წარმატებას და სად ფერხდება პროცესი.

სესიაზე „რას ხედავს Anthropic, როდესაც კომპანიები Claude-ს რეალურად ნერგავენ“, დე იონგი განიხილავს ექსპერიმენტული ფაზიდან წარმოებაზე გადასვლის სირთულეებს. დამფუძნებლებისთვის, რომლებიც ცდილობენ თავიანთი AI პროდუქტები მსხვილ კომპანიებს მიჰყიდონ, ეს გამოცდილება ნათელს მოჰფენს იმ მიზეზებს, თუ რატომ მოაქვს ზოგიერთ შემთხვევაში დანერგვას რეალური ღირებულება, ზოგი კი საპილოტე სტადიაზე ჭედება.

2. აგენტების უსაფრთხოების პრობლემა, რომელზეც არავინ საუბრობს

AI აგენტს, რომელსაც მოქმედების უნარი აქვს, შეუძლია უსაფრთხოების სრულიად ახალი პრობლემები წარმოშვას. რაზე უნდა ჰქონდეს მას წვდომა? რისი გაკეთების უფლება უნდა მიეცეს? და რა ხდება მაშინ, როდესაც აპლიკაციის დონის ნებართვები საკმარისი არ არის?

სესიაზე „აგენტების უსაფრთხოების პრობლემა, რომელზეც არავინ საუბრობს“, Okta-ს პროდუქტებისა და ტექნოლოგიების პრეზიდენტი რიკ სმიტი და NanoCo-ს თანადამფუძნებელი და აღმასრულებელი დირექტორი გავრიელ კოენი განიხილავენ აგენტების უსაფრთხოებას ინფრასტრუქტურის დონეზე. საუბარი შეეხება აპლიკაციის დონის ნებართვების მოდელების სუსტ წერტილებს და იმ არქიტექტურულ გადაწყვეტილებებს, რომლებიც დამფუძნებლებმა აგენტური AI-ის დანერგვისას უნდა გაითვალისწინონ. თუ აგენტები თქვენი პროდუქტის განვითარების გეგმაშია, უსაფრთხოებაც იქ უნდა იყოს.

3. AI საწარმოს უსაფრთხოება: რატომ გახდა ღრუბლოვანი ტექნოლოგიები ბევრად რთული

AI პროდუქტის მსხვილ კომპანიაში დანერგვისთვის მხოლოდ შთამბეჭდავი დემო ვერსია არ კმარა. უსაფრთხოება, მართვა (governance) და დაკვირვებადობა (observability) გადამწყვეტი ხდება, როდესაც საქმე კრიტიკულ სისტემებს ეხება. სესიაზე „AI საწარმოს უსაფრთხოება: რატომ გახდა ღრუბლოვანი ტექნოლოგიები ბევრად რთული“, AWS-ის უსაფრთხოების სერვისების ვიცე-პრეზიდენტი რუდი მიტრა, Luta Security-ის აღმასრულებელი დირექტორი ქეითი მუსურისი და კიბერუსაფრთხოების ვეტერანი ვენდი ნეითერი იმ ინფრასტრუქტურას შეაფასებენ, რომელიც კომპანიებს AI-ის ავტონომიური როლების გაზრდასთან ერთად დასჭირდებათ.

4. AI სისტემების მშენებლობა, როდესაც შეცდომა დაუშვებელია

ფიზიკურ სამყაროში მოქმედი ხელოვნური ინტელექტი რისკებს მკვეთრად ზრდის. აქ შეცდომა მხოლოდ ეკრანზე არ რჩება; მან შეიძლება გავლენა მოახდინოს ავტომობილებზე, თვითმფრინავებზე, ინდუსტრიულ სისტემებსა და კრიტიკულ მისიებზე. Shield AI-ის ტექნოლოგიური დირექტორი ნათან მაიკლი, General Motors-ის რობოტიკის სტრატეგიის დირექტორი მიკელ ტეილორი და Waabi-ს დამფუძნებელი რაკელ ურტასუნი განიხილავენ ერთ-ერთ ყველაზე რთულ კითხვას: როგორ უნდა მივხვდეთ, რომ ავტონომიური სისტემა საკმარისად უსაფრთხოა დასანერგად?

დისკუსია „AI სისტემების მშენებლობა, როდესაც შეცდომა დაუშვებელია“ შეეხება უსაფრთხოების კულტურის შექმნას, AI-ის ტესტირებასა და ვალიდაციას, რეგულაციებთან დაკავშირებულ ბარიერებს და ისეთი კომპანიების მშენებლობას, რომლებიც ნდობას იმსახურებენ მაშინაც კი, როდესაც წარუმატებლობის შედეგები ფიზიკურია.

5. რობოტები თავიანთ „ChatGPT მომენტს“ ელიან: რა უშლის მათ ხელს

რობოტებს მონაცემების პრობლემა აქვთ. მათ არ აქვთ წვდომა იმ მასშტაბურ სატრენინგო მონაცემებზე, რამაც დააჩქარა პროგრესი ენობრივ მოდელებსა და თვითმავალ ავტომობილებში. ეს დეფიციტი ფიზიკური AI-ის მასშტაბირების ერთ-ერთი უდიდესი დაბრკოლებაა.

სესიაზე „რობოტები თავიანთ ChatGPT მომენტს ელიან“, Nvidia Inception-ის ფიზიკური AI-ის ხელმძღვანელი ლეს კარპასი განიხილავს, თუ როგორ შეუძლია მონაცემთა მილსადენებს (data pipelines), სიმულაციურ გარემოებსა და საბაზისო მოდელებს (foundation models) ამ ხარვეზის შევსება. დამფუძნებლებისთვის ეს სესია პასუხობს მთავარ კითხვას: რა არის საჭირო იმისათვის, რომ რობოტიკამ მიაღწიოს საკუთარ გარდამტეხ მომენტს და მოიპოვოს ნდობა რეალურ სამყაროში მუშაობისთვის.

ხუთი სესია. ერთი კითხვა, რომელსაც ყველა AI დამფუძნებელმა უნდა უპასუხოს.

ენდობა თუ არა ხალხი იმას, რასაც თქვენ ქმნით? ეს ხუთი დისკუსია იმ 200-ზე მეტი სესიის ნაწილია, რომელიც Disrupt-ზე, სან-ფრანცისკოში, 13-15 ოქტომბერს გაიმართება. ღონისძიებაზე 10,000-ზე მეტ დამფუძნებელს, ინვესტორსა და ტექნოლოგიურ ლიდერს ელიან.

შესაძლოა შექმნათ უფრო ჭკვიანი მოდელი ან უფრო ქმედითი აგენტი, მაგრამ მომხმარებლების ნდობის მოპოვება პროდუქტის ბაზარზე გასვლის ყველაზე რთული ნაწილია. დაჯავშნეთ თქვენი საშვი Disrupt-ზე 25 სექტემბრამდე და მიიღეთ ფასდაკლება, რათა მოისმინოთ, როგორ უმკლავდებიან AI ლიდერები უსაფრთხოებისა და საიმედოობის გამოწვევებს.