OpenAI-მ ხელოვნური ინტელექტის აგენტების უსაფრთხოების გასაძლიერებლად Promptfoo შეიძინა
OpenAI-მ AI უსაფრთხოების სტარტაპი Promptfoo შეიძინა. ტექნოლოგია OpenAI Frontier პლატფორმაში ინტეგრირდება, რათა უზრუნველყოს AI აგენტების დაცვა და უსაფრთხოების ავტომატიზებული ტესტირება.
OpenAI-მ ორშაბათს განაცხადა, რომ შეიძინა Promptfoo — ხელოვნური ინტელექტის უსაფრთხოების სტარტაპი, რომელიც 2024 წელს დიდი ენობრივი მოდელების (LLM) კიბერშეტევებისგან დასაცავად დაფუძნდა. კომპანიის ბლოგპოსტის თანახმად, გარიგების დასრულების შემდეგ Promptfoo-ს ტექნოლოგია OpenAI Frontier-ში ინტეგრირდება, რომელიც ხელოვნური ინტელექტის აგენტებისთვის განკუთვნილ კორპორაციულ პლატფორმას წარმოადგენს.
დამოუკიდებელი AI აგენტების განვითარებამ, რომლებსაც სხვადასხვა ციფრული დავალების შესრულება შეუძლიათ, პროდუქტიულობის მნიშვნელოვანი ზრდის მოლოდინი გააჩინა. თუმცა, ამ ტექნოლოგიამ ბოროტმოქმედებს ახალი შესაძლებლობებიც მისცა სენსიტიურ მონაცემებზე წვდომის მოსაპოვებლად ან ავტომატიზებული სისტემებით მანიპულირებისთვის. აღნიშნული გარიგება ხაზს უსვამს იმას, თუ როგორ ცდილობენ წამყვანი ლაბორატორიები დაამტკიცონ, რომ მათი ტექნოლოგიების გამოყენება კრიტიკულ ბიზნეს ოპერაციებში სრულიად უსაფრთხოა.
Promptfoo-ს როლი და მნიშვნელობა ბაზარზე
Promptfoo იან ვებსტერმა და მაიკლ დ’ანჯელომ დააფუძნეს. სტარტაპი ქმნის ინსტრუმენტებს, რომელთა მეშვეობითაც კომპანიებს დიდი ენობრივი მოდელების უსაფრთხოების ხარვეზების შემოწმება შეუძლიათ. მათ პროდუქტებს შორის არის ღია კოდის მქონე ინტერფეისი და ბიბლიოთეკა. კომპანიის მონაცემებით, მათ ტექნოლოგიებს Fortune 500-ის სიის კომპანიების 25%-ზე მეტი იყენებს.
Pitchbook-ის ინფორმაციით, დაარსების დღიდან Promptfoo-მ 23 მილიონი დოლარის ინვესტიცია მოიზიდა, ხოლო 2025 წლის ივლისის ბოლო რაუნდის შემდეგ მისი ღირებულება 86 მილიონ დოლარად შეფასდა. მიუხედავად გარიგების დადასტურებისა, OpenAI-ს ტრანზაქციის ზუსტი ფინანსური ღირებულება არ გაუმჟღავნებია.
ინტეგრაცია და სამომავლო ფუნქციონალი
OpenAI-ს განცხადებით, Promptfoo-ს ტექნოლოგია მათ აგენტურ პლატფორმას შემდეგი ფუნქციების შესრულების საშუალებას მისცემს:
- ავტომატიზებული Red-teaming: უსაფრთხოების სისტემური ტესტირება პოტენციური საფრთხეების გამოსავლენად.
- აგენტური სამუშაო პროცესების შეფასება: უსაფრთხოების რისკების ანალიზი სპეციფიკურ სამუშაო პროცესებში.
- მონიტორინგი და შესაბამისობა: აქტივობების მუდმივი კონტროლი რისკების მართვისა და რეგულაციებთან შესაბამისობის (compliance) მიზნით.
კომპანიამ ასევე აღნიშნა, რომ გეგმავს Promptfoo-ს ღია კოდის მქონე პროდუქტების შემდგომ განვითარებასა და მხარდაჭერას.
მსგავსი სტატიები
Databricks-მა $1 მილიარდის მოზიდვა დაგეგმა, თუმცა ინვესტორების ინტერესმა $15 მილიარდს მიაღწია: კომპანიის ღირებულება $190 მილიარდამდე გაიზარდა
Databricks-მა $5 მილიარდიანი დაფინანსება მოიზიდა, რის შედეგადაც კომპანიის ღირებულება $190 მილიარდამდე გაიზარდა. გაიგეთ, რატომ გადაწყვიტა AI გიგანტმა დაგეგმილზე მეტი კაპიტალის მოზიდვა.
Writer-მა ახალი AI მოდელი და განახლებული ინფრასტრუქტურა წარადგინა ტოკენების ხარჯების შესამცირებლად
კომპანია Writer-მა გამოუშვა ახალი მოდელი Palmyra X6 და განახლებული ინფრასტრუქტურა, რაც ბიზნესს AI ხარჯების 50%-მდე შემცირების საშუალებას მისცემს.
Anthropic-ის ექსპერიმენტი: ხელოვნური ინტელექტის აგენტებმა ერთმანეთს „ომი“ გამოუცხადეს
Anthropic-ის ახალი კვლევა აჩვენებს, თუ როგორ გადადის ხელოვნური ინტელექტის აგენტებს შორის ურთიერთქმედება აგრესიულ კონკურენციაში, საბოტაჟსა და ფასების ფარულ შეთანხმებებში.