Instinct-ის მძლავრი AI ასისტენტი კონფიდენციალურობისა და უსაფრთხოების გამო კრიტიკის ქარცეცხლშია

ხელოვნური ინტელექტის პერსონალური ასისტენტი Instinct, რომელიც ამჟამად დახურული წვდომის რეჟიმშია, ტექნოლოგიურ წრეებში დიდ ინტერესს იწვევს. მისი შესაძლებლობები მომხმარებლებზე შთამბეჭდავ შთაბეჭდილებას ახდენს, თუმცა პარალელურად მწვავე კითხვები ჩნდება კონფიდენციალურობისა და უსაფრთხოების შესახებ. ზოგიერთი ტესტერი ამ აგენტს „ჯადოსნურს“ უწოდებს და მას OpenClaw-ის შემდეგ ერთ-ერთ ყველაზე ამაღელვებელ პროექტად მიიჩნევს.

მიუხედავად აღფრთოვანებისა, ექსპერტები ყურადღებას ამახვილებენ AI აგენტის უსაფრთხოების მოდელსა და მომსახურების საეჭვო პირობებზე. ვინაიდან Instinct ჯერ კიდევ ტესტირების ფაზაშია, ეს პრობლემები ფართო საზოგადოებაზე ჯერ არ ასახულა. პროექტი შექმნილია მცირე გუნდის მიერ, რომელსაც Sierra-ს ყოფილი მკვლევარი, ნოა შინი ხელმძღვანელობს. სან-ფრანცისკოში ბაზირებული სტარტაპი Spear Street Technology-ის მიერ იმართება და PitchBook-ის მონაცემებით, ამჟამად „სტელს“ (ფარულ) რეჟიმში მუშაობს.

AI აგენტი მომხმარებლის სხვადასხვა აპლიკაციასა და მოწყობილობასთან დაკავშირებით მუშაობს. მას წვდომა აქვს ელექტრონულ ფოსტაზე, მესენჯერებზე, კალენდარზე, ასევე მოწყობილობის აუდიოზე, ლოკაციაზე, ეკრანსა და სხვა მონაცემებზე. მომხმარებლებს შეუძლიათ აგენტს ტექსტური შეტყობინებით ან WhatsApp-ის საშუალებით დაუკავშირდნენ და სხვადასხვა დავალების შესრულება სთხოვონ, როგორიცაა შეხვედრების დაგეგმვა, რესტორნის დაჯავშნა, ტაქსის გამოძახება, ელექტრონული ფოსტის მოწესრიგება, შოპინგი ან იაფი ავიაბილეთების მოძიება.

კონფიდენციალურობის რისკები და მომსახურების პირობები

Instinct-ის შესაძლებლობები მოლოდინს აჭარბებს, თუმცა კომპანიის მიდგომა მომხმარებლის მონაცემებისადმი ბევრ კითხვას აჩენს. ჩნდება ლოგიკური კითხვა: ღირს თუ არა AI-სთვის ასეთი დონის წვდომისა და ავტონომიის მინიჭება? კომპანიის მომსახურების პირობების (Terms of Service) თანახმად, Instinct-ს ენიჭება ფართო, „მუდმივი და გამოუხმობი“ ლიცენზია მომხმარებლის ნებისმიერ მასალაზე წვდომის, გამოყენების, შენახვის, რეპროდუცირების, გავრცელებისა და მოდიფიცირებისთვის, მათ შორის AI მოდელების მოსამზადებლად.

დოკუმენტში ასევე დეტალურადაა აღწერილი, თუ როგორ შეუძლია Instinct-ს მიიღოს ინფორმაცია მომხმარებლის მოწყობილობებიდან, მათ შორის ეკრანის ანაბეჭდები (screen captures), კურსორის მოძრაობა და კლავიატურაზე აკრეფილი ტექსტი. გარდა ამისა, პირობები საშუალებას აძლევს Instinct-ს, მომხმარებლის სახელით დადოს „შეთანხმებები, ვალდებულებები ან ტრანზაქციები“, რომლებიც იურიდიულად სავალდებულო იქნება.

მომხმარებელთა უარყოფითი გამოცდილება

ერთ-ერთმა პირველმა მომხმარებელმა, პიტერ იანგმა, აღნიშნა, რომ Instinct-მა მოთხოვნის მიუხედავად არ წაშალა მისი Gmail-ის ჩანაწერები. მოგვიანებით გუნდმა ეს პრობლემა პარამეტრებში გარე მონაცემების წაშლის ფუნქციის დამატებით გამოასწორა. კიდევ ერთმა მომხმარებელმა, კლერ ვომ, აღმოაჩინა, რომ წვდომის გაუქმების შემდეგაც კი, Instinct აგრძელებდა მისი შემოსული წერილების დარეზიუმებას. ბოტმა დაადასტურა, რომ ელექტრონული წერილები დაუშიფრავი ტექსტის (plain text) სახით ინახებოდა შემდგომი ძიებისთვის.

Moxxie Ventures-ის დამფუძნებელმა, ქეითი ჯეიკობს სტენტონმა, გააზიარა შემთხვევა, როდესაც Instinct-მა მისი სახელით ელექტრონული წერილი გაგზავნა წინასწარი შეთანხმების გარეშე. მან აღნიშნა, რომ მომხმარებლები ხშირად ცვლიან კონფიდენციალურობასა და კონტროლს ჰიპერ-პერსონალიზებულ AI ინსტრუმენტებზე ისე, რომ ბოლომდე არ ესმით ამის ფასი. მისი თქმით, რაც უფრო ძლიერი ხდება აგენტი, მით უფრო მნიშვნელოვანია ნდობა, ხოლო ერთი უნებართვო ქმედება ამ ნდობას ანულებს.

„ჩვენ კონფიდენციალურობასა და კონტროლს ჰიპერ-პერსონალიზებულ AI ინსტრუმენტებში ვცვლით, ხშირად ისე, რომ ამ გაცვლის ფასს ბოლომდე ვერ ვაცნობიერებთ“, — აღნიშნა სტენტონმა.

უსაფრთხოების ახალი ნორმები

მაიკლ მინიანომ, Anchor-ის დამფუძნებელმა და Union Square Ventures-ის პარტნიორმა, აღნიშნა, რომ Instinct-ის მსგავსი პროდუქტები შეცვლის თანამედროვე უსაფრთხოების ნორმებს. მისი პროგნოზით, მომხმარებლები სულ უფრო ხშირად გადასცემენ პაროლებს მესამე მხარის აპლიკაციებს ისე, რომ არ ეცოდინებათ, როგორ ან რა ფორმით ინახება მათი მონაცემები.

პერსონალური AI ასისტენტების მიმართ ინტერესი OpenClaw-ის გამოჩენის შემდეგ გაიზარდა. ამ უკანასკნელის დამფუძნებელი მოგვიანებით OpenAI-ს შეუერთდა. კიდევ ერთი მსგავსი პროექტი, Poke, ცოტა ხნის წინ Cognition-მა შეიძინა. კრიტიკის მიუხედავად, Instinct-ის გუნდს ჯერჯერობით საჯარო პასუხი არ გაუცია პრეტენზიებზე. ვრცელდება ინფორმაცია, რომ კომპანიაში Sierra-ს კიდევ ერთი ყოფილი თანამშრომელი, ლუკა ბორლეტიც არის ჩართული.

ინვესტორების ინფორმაციით, Kleiner Perkins-მა და Conviction-მა სტარტაპში უკვე განახორციელეს ინვესტიციები. TechCrunch-ის მცდელობა, მიეღო კომენტარი ნოა შინისგან ან კომპანიისგან, ამ ეტაპზე უშედეგოდ დასრულდა.