სემ ალტმანი და ხელოვნური ინტელექტის განვითარების ტემპის შენელების დებატები

OpenAI-ის აღმასრულებელმა დირექტორმა, სემ ალტმანმა, ცოტა ხნის წინ განაცხადა, რომ შესაძლოა დადგა დრო, „დარეგულირდეს ხელოვნური ინტელექტის განვითარების ტემპი“. მისი თქმით, ეს აუცილებელია იმისათვის, რომ საზოგადოებამ შეძლოს ახალ ტექნოლოგიურ შესაძლებლობებთან ადაპტაცია და მათ გარშემო უსაფრთხოების მექანიზმების ჩამოყალიბება.

TechCrunch-ის პოდკასტში Equity, ექსპერტებმა — კირსტენ კოროსეკმა, შონ ო'კეინმა და ენტონი ჰამ — განიხილეს, თუ რამ განაპირობა ალტმანის ეს პოზიცია. სავარაუდო მიზეზად დასახელდა ბოლოდროინდელი ინციდენტი, როდესაც OpenAI-ის აგენტმა Hugging Face-ის სისტემებში შეღწევა მოახერხა. მიუხედავად იმისა, რომ AI აგენტის მიერ განხორციელებული ჰაკერული თავდასხმა თავისთავად სიახლეა, ექსპერტების აზრით, თავად შეღწევის მეთოდი არ ყოფილა განსაკუთრებით რთული ან მოწინავე.

ჰაკერული თავდასხმა და უსაფრთხოების ხარვეზები

შონ ო'კეინმა აღნიშნა, რომ ეს შემთხვევა უფრო მეტად „ნიქსონის მომხრეების უოტერგეიტში შეჭრას ჰგავდა, ვიდრე დახვეწილ კიბეროპერაციას“. მისი თქმით, შეღწევა არ იყო გათვლილი ფარულ მოქმედებაზე, რადგან ამის საჭიროება უბრალოდ არ არსებობდა. ეს ფაქტი მიუთითებს იმაზე, რომ ტექნოლოგიურმა კომპანიებმა მომავალში მეტი სიფრთხილე უნდა გამოიჩინონ მსგავსი ინციდენტების თავიდან ასაცილებლად.

„იმედია, ეს შემთხვევა იქნება ნიშანი იმისა, რომ კომპანიები უფრო პასუხისმგებლობით მიუდგებიან ამ საკითხებს და მეტად გაუფრთხილდებიან უსაფრთხოებას“, — აღნიშნა ო'კეინმა.

ალტმანის კომენტარებმა ასევე წარმოშვა კითხვები „აქსელერაციონიზმსა“ (განვითარების დაჩქარება) და „დეაქსელერაციონიზმს“ (განვითარების შენელება) შორის არსებული დებატების ეფექტურობის შესახებ. არსებობს მოსაზრება, რომ ასეთი ჩარჩო მხოლოდ ერთ გზას გვთავაზობს, სადაც ერთადერთი არჩევანი სიჩქარის მატება ან კლებაა, ნაცვლად იმისა, რომ განხილულ იქნას ალტერნატიული მიდგომები და დამცავი მექანიზმების შექმნა.

სტრატეგიული პაუზა თუ რეალური შეშფოთება?

კირსტენ კოროსეკის თქმით, მიუხედავად იმისა, რომ ალტმანი სიტყვებს ფრთხილად არჩევდა, OpenAI-მ და Anthropic-მა მხარი დაუჭირეს პეტიციას, რომელიც სწორედ განვითარების ტემპის კონტროლს ეხება. Hugging Face-ის შემთხვევამ, სავარაუდოდ, ინდუსტრიის ბევრი წარმომადგენელი დააფრთხო. თუმცა, მთავარი გამოწვევა მაინც ისაა, თუ როგორ შეძლებს OpenAI ერთდროულად შეინარჩუნოს შემოსავლების ზრდა, მოიზიდოს ინვესტიციები, მოემზადოს IPO-სთვის (აქციების საჯარო განთავსება) და ამავდროულად „დაარეგულიროს განვითარების ტემპი“.

უსაფრთხოების მართვა და ადამიანური ფაქტორი

ენტონი ჰა ხაზს უსვამს, რომ Hugging Face-ის ინციდენტი, მართალია OpenAI-ის მოდელმა გამოიწვია, მაგრამ ძირითადი მიზეზი სატესტო გარემოს არასათანადო დაცვა იყო. თეორიულად, ამ მოდელს ინტერნეტთან წვდომა არ უნდა ჰქონოდა. ეს მიუთითებს იმაზე, რომ როდესაც საქმე მძლავრ AI მოდელებს ეხება, ადამიანური შეცდომის რისკი მკვეთრად იზრდება.

უსაფრთხოების მკვლევარების აზრით, ჰაკერული შეტევისას მოდელის მოქმედება ძალიან ჰგავდა ადამიანის აზროვნების სტილს — ის იყო ხმაურიანი, დაუცველი და არ ცდილობდა კვალის დაფარვას. ეს კიდევ ერთხელ ადასტურებს, რომ მსგავსი შემთხვევების პრევენცია უფრო მარტივად უნდა ყოფილიყო შესაძლებელი.

ბიზნეს სტრატეგია და IPO-ს პერსპექტივები

შონ ო'კეინის მოსაზრებით, ალტმანის რიტორიკა შესაძლოა სტრატეგიული უპირატესობითაც იყოს განპირობებული. OpenAI უახლოეს თვეებში არ გეგმავს საფონდო ბირჟაზე გასვლას; ალტმანმა ახსენა 2027 წელი, როგორც შესაძლო თარიღი. ეს მას საშუალებას აძლევს, ისაუბროს განვითარების შენელებაზე ისე, როგორც ამას Anthropic ვერ გააკეთებს.

Anthropic უკვე აქტიურ მოლაპარაკებებს აწარმოებს ბანკირებთან და უფრო ახლო მომავალში გეგმავს IPO-ს, რაც მათ განცხადებებსა და ბაზრის რეაქციებზე მეტ შეზღუდვას აწესებს. ამ კონტექსტში, OpenAI-ის პოზიცია შესაძლოა იყოს მცდელობა, გამოიყენოს არსებული უპირატესობა და დააწესოს თამაშის წესები მთელი ინდუსტრიისთვის.