OpenAI-მ ხელოვნური ინტელექტის აგენტების უსაფრთხოების გასაძლიერებლად Promptfoo შეიძინა
OpenAI-მ AI უსაფრთხოების სტარტაპი Promptfoo შეიძინა. ტექნოლოგია OpenAI Frontier პლატფორმაში ინტეგრირდება, რათა უზრუნველყოს AI აგენტების დაცვა და უსაფრთხოების ავტომატიზებული ტესტირება.
OpenAI-მ ორშაბათს განაცხადა, რომ შეიძინა Promptfoo — ხელოვნური ინტელექტის უსაფრთხოების სტარტაპი, რომელიც 2024 წელს დიდი ენობრივი მოდელების (LLM) კიბერშეტევებისგან დასაცავად დაფუძნდა. კომპანიის ბლოგპოსტის თანახმად, გარიგების დასრულების შემდეგ Promptfoo-ს ტექნოლოგია OpenAI Frontier-ში ინტეგრირდება, რომელიც ხელოვნური ინტელექტის აგენტებისთვის განკუთვნილ კორპორაციულ პლატფორმას წარმოადგენს.
დამოუკიდებელი AI აგენტების განვითარებამ, რომლებსაც სხვადასხვა ციფრული დავალების შესრულება შეუძლიათ, პროდუქტიულობის მნიშვნელოვანი ზრდის მოლოდინი გააჩინა. თუმცა, ამ ტექნოლოგიამ ბოროტმოქმედებს ახალი შესაძლებლობებიც მისცა სენსიტიურ მონაცემებზე წვდომის მოსაპოვებლად ან ავტომატიზებული სისტემებით მანიპულირებისთვის. აღნიშნული გარიგება ხაზს უსვამს იმას, თუ როგორ ცდილობენ წამყვანი ლაბორატორიები დაამტკიცონ, რომ მათი ტექნოლოგიების გამოყენება კრიტიკულ ბიზნეს ოპერაციებში სრულიად უსაფრთხოა.
Promptfoo-ს როლი და მნიშვნელობა ბაზარზე
Promptfoo იან ვებსტერმა და მაიკლ დ’ანჯელომ დააფუძნეს. სტარტაპი ქმნის ინსტრუმენტებს, რომელთა მეშვეობითაც კომპანიებს დიდი ენობრივი მოდელების უსაფრთხოების ხარვეზების შემოწმება შეუძლიათ. მათ პროდუქტებს შორის არის ღია კოდის მქონე ინტერფეისი და ბიბლიოთეკა. კომპანიის მონაცემებით, მათ ტექნოლოგიებს Fortune 500-ის სიის კომპანიების 25%-ზე მეტი იყენებს.
Pitchbook-ის ინფორმაციით, დაარსების დღიდან Promptfoo-მ 23 მილიონი დოლარის ინვესტიცია მოიზიდა, ხოლო 2025 წლის ივლისის ბოლო რაუნდის შემდეგ მისი ღირებულება 86 მილიონ დოლარად შეფასდა. მიუხედავად გარიგების დადასტურებისა, OpenAI-ს ტრანზაქციის ზუსტი ფინანსური ღირებულება არ გაუმჟღავნებია.
ინტეგრაცია და სამომავლო ფუნქციონალი
OpenAI-ს განცხადებით, Promptfoo-ს ტექნოლოგია მათ აგენტურ პლატფორმას შემდეგი ფუნქციების შესრულების საშუალებას მისცემს:
- ავტომატიზებული Red-teaming: უსაფრთხოების სისტემური ტესტირება პოტენციური საფრთხეების გამოსავლენად.
- აგენტური სამუშაო პროცესების შეფასება: უსაფრთხოების რისკების ანალიზი სპეციფიკურ სამუშაო პროცესებში.
- მონიტორინგი და შესაბამისობა: აქტივობების მუდმივი კონტროლი რისკების მართვისა და რეგულაციებთან შესაბამისობის (compliance) მიზნით.
კომპანიამ ასევე აღნიშნა, რომ გეგმავს Promptfoo-ს ღია კოდის მქონე პროდუქტების შემდგომ განვითარებასა და მხარდაჭერას.
მსგავსი სტატიები
OpenAI-ის პარტნიორმა Thrive Holdings-მა $2 მილიარდი მოიზიდა: AI-ის ინტეგრაცია ტრადიციულ ბიზნესებში
Thrive Holdings-მა $2 მილიარდი მოიზიდა ტრადიციულ ბიზნესებში ხელოვნური ინტელექტის დასანერგად. კომპანია OpenAI-სთან მჭიდროდ თანამშრომლობს და ინფრასტრუქტურის სექტორში ფართოვდება.
ხელოვნური ინტელექტის უსაფრთხოება: რატომ უჭერს მხარს დარგის სამი პიონერი ღია მოდელებს?
ხელოვნური ინტელექტის პიონერები — ჯეფრი ჰინტონი, ფეი-ფეი ლი და ენდრიუ ნგი — AI მოდელების ღიაობის აუცილებლობაზე, უსაფრთხოების რისკებსა და გლობალურ კონკურენციაზე მსჯელობენ.
AI სტარტაპი Cognition-ი, შესაძლოა, 40 მილიარდ დოლარად შეფასდეს: კომპანია ახალ ინვესტიციებს ელოდება
AI პროგრამირების აგენტის, Devin-ის შემქმნელი სტარტაპი Cognition-ი, ახალი საინვესტიციო რაუნდის მოლოდინშია, რამაც მისი საბაზრო ღირებულება 40 მილიარდ დოლარამდე შეიძლება გაზარდოს.