ხელოვნური ინტელექტი და კონტენტის შექმნა: სამი განსხვავებული ისტორია ერთი და იმავე პრობლემის შესახებ

ხელოვნური ინტელექტი (AI) ამჟამად ვებ-კონტენტის დაახლოებით ნახევარს აგენერირებს. Google-ის ხარისხის კონტროლის სისტემები ამას მკაფიოდ აფიქსირებენ, ისევე როგორც თავად მკითხველები. კონტენტის შემქმნელებისთვის დღეს მთავარი კითხვაა, თუ რომელ მხარეს აღმოჩნდებიან ისინი ამ ტექნოლოგიურ გარდატეხაში.

ბოლო პერიოდში განვითარებული სამი ერთი შეხედვით დაუკავშირებელი ისტორია რეალურად ერთსა და იმავე ტენდენციაზე მიუთითებს. ეს შემთხვევები ნათლად აჩვენებს, თუ რა საფრთხეებს შეიცავს ხელოვნური ინტელექტის გაუაზრებელი გამოყენება და რატომ არის ადამიანური ზედამხედველობა კრიტიკულად მნიშვნელოვანი.

Sports Illustrated და გამოგონილი ავტორების სკანდალი

ერთ-ერთი ყველაზე რეზონანსული შემთხვევა ჟურნალ Sports Illustrated-ს უკავშირდება. გამოცემაში ქვეყნდებოდა სტატიები, რომელთა ავტორებიც რეალურად არ არსებობდნენ. გამოყენებული იყო ხელოვნური ინტელექტის მიერ გენერირებული ფოტოები და ბიოგრაფიები. მაგალითად, ერთ-ერთი „ავტორი“, დრიუ ორტიზი, აღწერილი იყო როგორც ადამიანი, რომელმაც ბავშვობა გარეთ გაატარა და უყვარს ბუნება, თუმცა სინამდვილეში ის მხოლოდ ციფრული კოდის ნაყოფი იყო.

ამ ფაქტის გამოაშკარავებამ მძიმე დარტყმა მიაყენა გამოცემის რეპუტაციას. შედეგად:

• კომპანიის აღმასრულებელმა დირექტორმა თანამდებობა დატოვა.
• მკითხველის ნდობა ბრენდის მიმართ მკვეთრად შემცირდა.
• ხაზი გაესვა Google-ის E-E-A-T (გამოცდილება, ექსპერტიზა, ავტორიტეტულობა, სანდოობა) პრინციპების დარღვევას.

CNET-ის ექსპერიმენტი და ფინანსური შეცდომები

ტექნოლოგიურმა პორტალმა CNET-მა სცადა AI-ს გამოყენება ფინანსური სტატიების დასაწერად. სტატიები ქვეყნდებოდა ზოგადი ხელმოწერით „CNET Money Staff“, თუმცა მოგვიანებით გაირკვა, რომ მათ უკან ხელოვნური ინტელექტი იდგა. პრობლემა მხოლოდ ავტორობაში არ იყო — სტატიები შეიცავდა უხეშ ფაქტობრივ შეცდომებს რთულ ფინანსურ საკითხებში, რამაც მკითხველები შეცდომაში შეიყვანა.

ამ შემთხვევამ აჩვენა, რომ AI-ს ჯერ კიდევ უჭირს ზუსტი და სანდო ინფორმაციის მიწოდება ისეთ სფეროებში, სადაც სიზუსტეს გადამწყვეტი მნიშვნელობა აქვს. CNET იძულებული გახდა, დროებით შეეჩერებინა AI-კონტენტის გამოქვეყნება და გადაეხედა თავისი სარედაქციო პოლიტიკისთვის.

Gannett და სასკოლო სპორტის რეპორტაჟები

მედიაჰოლდინგმა Gannett-მა გამოიყენა ინსტრუმენტი LedeAI სასკოლო სპორტული მატჩების მიმოხილვების დასაწერად. შედეგი კომიკური და იმავდროულად სამწუხარო აღმოჩნდა. სტატიები იყო ერთფეროვანი, რობოტული და შეიცავდა უცნაურ ფრაზებს, როგორიცაა „ათლეტური ტიპის ახლო კონტაქტი“ (close encounter of the athletic kind).

ადგილობრივმა მკითხველმა მალევე შეამჩნია, რომ ტექსტებს აკლდა ემოცია და კონტექსტის ცოდნა. ამან გამოიწვია:

• სოციალურ ქსელებში მკითხველთა დაცინვა.
• კონტენტის ხარისხის მკვეთრი გაუარესება.
• პროექტის შეჩერება და AI-სთან თანამშრომლობის გადახედვა.

Google-ის პოზიცია და მარტის განახლება

ეს სამი ისტორია პირდაპირ კავშირშია Google-ის 2024 წლის მარტის ძირითად განახლებასთან (March 2024 Core Update). Google-მა მკაცრად განსაზღვრა „მასშტაბური კონტენტის ბოროტად გამოყენების“ (scaled content abuse) ცნება. ეს ნიშნავს, რომ დიდი რაოდენობით დაბალი ხარისხის კონტენტის შექმნა, მიუხედავად იმისა, ის AI-ით არის დაწერილი თუ ადამიანის მიერ, საძიებო სისტემის მხრიდან დაისჯება.

დასკვნის სახით შეიძლება ითქვას, რომ ხელოვნური ინტელექტი დამხმარე ინსტრუმენტია და არა ადამიანის შემცვლელი. ხარისხიანი კონტენტი კვლავ საჭიროებს ადამიანურ ექსპერტიზას, ფაქტების გადამოწმებას და უნიკალურ ხედვას, რასაც ალგორითმი ამ ეტაპზე ვერ ანაცვლებს.