OpenAI-მ ხელოვნური ინტელექტის აგენტების უსაფრთხოების გასაძლიერებლად Promptfoo შეიძინა
OpenAI-მ AI უსაფრთხოების სტარტაპი Promptfoo შეიძინა. ტექნოლოგია OpenAI Frontier პლატფორმაში ინტეგრირდება, რათა უზრუნველყოს AI აგენტების დაცვა და უსაფრთხოების ავტომატიზებული ტესტირება.
OpenAI-მ ორშაბათს განაცხადა, რომ შეიძინა Promptfoo — ხელოვნური ინტელექტის უსაფრთხოების სტარტაპი, რომელიც 2024 წელს დიდი ენობრივი მოდელების (LLM) კიბერშეტევებისგან დასაცავად დაფუძნდა. კომპანიის ბლოგპოსტის თანახმად, გარიგების დასრულების შემდეგ Promptfoo-ს ტექნოლოგია OpenAI Frontier-ში ინტეგრირდება, რომელიც ხელოვნური ინტელექტის აგენტებისთვის განკუთვნილ კორპორაციულ პლატფორმას წარმოადგენს.
დამოუკიდებელი AI აგენტების განვითარებამ, რომლებსაც სხვადასხვა ციფრული დავალების შესრულება შეუძლიათ, პროდუქტიულობის მნიშვნელოვანი ზრდის მოლოდინი გააჩინა. თუმცა, ამ ტექნოლოგიამ ბოროტმოქმედებს ახალი შესაძლებლობებიც მისცა სენსიტიურ მონაცემებზე წვდომის მოსაპოვებლად ან ავტომატიზებული სისტემებით მანიპულირებისთვის. აღნიშნული გარიგება ხაზს უსვამს იმას, თუ როგორ ცდილობენ წამყვანი ლაბორატორიები დაამტკიცონ, რომ მათი ტექნოლოგიების გამოყენება კრიტიკულ ბიზნეს ოპერაციებში სრულიად უსაფრთხოა.
Promptfoo-ს როლი და მნიშვნელობა ბაზარზე
Promptfoo იან ვებსტერმა და მაიკლ დ’ანჯელომ დააფუძნეს. სტარტაპი ქმნის ინსტრუმენტებს, რომელთა მეშვეობითაც კომპანიებს დიდი ენობრივი მოდელების უსაფრთხოების ხარვეზების შემოწმება შეუძლიათ. მათ პროდუქტებს შორის არის ღია კოდის მქონე ინტერფეისი და ბიბლიოთეკა. კომპანიის მონაცემებით, მათ ტექნოლოგიებს Fortune 500-ის სიის კომპანიების 25%-ზე მეტი იყენებს.
Pitchbook-ის ინფორმაციით, დაარსების დღიდან Promptfoo-მ 23 მილიონი დოლარის ინვესტიცია მოიზიდა, ხოლო 2025 წლის ივლისის ბოლო რაუნდის შემდეგ მისი ღირებულება 86 მილიონ დოლარად შეფასდა. მიუხედავად გარიგების დადასტურებისა, OpenAI-ს ტრანზაქციის ზუსტი ფინანსური ღირებულება არ გაუმჟღავნებია.
ინტეგრაცია და სამომავლო ფუნქციონალი
OpenAI-ს განცხადებით, Promptfoo-ს ტექნოლოგია მათ აგენტურ პლატფორმას შემდეგი ფუნქციების შესრულების საშუალებას მისცემს:
- ავტომატიზებული Red-teaming: უსაფრთხოების სისტემური ტესტირება პოტენციური საფრთხეების გამოსავლენად.
- აგენტური სამუშაო პროცესების შეფასება: უსაფრთხოების რისკების ანალიზი სპეციფიკურ სამუშაო პროცესებში.
- მონიტორინგი და შესაბამისობა: აქტივობების მუდმივი კონტროლი რისკების მართვისა და რეგულაციებთან შესაბამისობის (compliance) მიზნით.
კომპანიამ ასევე აღნიშნა, რომ გეგმავს Promptfoo-ს ღია კოდის მქონე პროდუქტების შემდგომ განვითარებასა და მხარდაჭერას.
მსგავსი სტატიები
ტრამპის ადმინისტრაციის წარმომადგენლები ბანკებს Anthropic-ის Mythos მოდელის გამოცდისკენ მოუწოდებენ
აშშ-ის მაღალჩინოსნები მსხვილ ბანკებს Anthropic-ის ახალი AI მოდელის, Mythos-ის გამოყენებისკენ მოუწოდებენ, მიუხედავად კომპანიასა და მთავრობას შორის არსებული სასამართლო დავისა.
კოსმოსში ყველაზე დიდი გამოთვლითი კლასტერი ამოქმედდა: ორბიტალური მონაცემთა ცენტრების ეპოქა იწყება
კანადურმა Kepler Communications-მა ორბიტაზე 40 Nvidia-ს პროცესორისგან შემდგარი ყველაზე დიდი გამოთვლითი კლასტერი აამუშავა, რაც კოსმოსური მონაცემთა ცენტრების განვითარებაში ახალ ეტაპს ნიშნავს.
HumanX კონფერენციაზე ყურადღების ცენტრში Claude მოექცა: რატომ კარგავს OpenAI ლიდერის პოზიციას?
სან-ფრანცისკოში გამართულ HumanX კონფერენციაზე Anthropic-ის ჩატბოტი Claude მთავარ ფავორიტად დასახელდა, ხოლო OpenAI-ის მიმართ კრიტიკა და კონკურენცია გაიზარდა.