უკრაინის ქალაქ პოკროვსკში რამდენიმე კვირაა ინტენსიური საბრძოლო მოქმედებები მიმდინარეობს. პარალელურად, სოციალური ქსელებში ვრცელდება უკრაინელი სამხედროების AI-ით გენერირებული ვიდეობი. სხვადასხვა პლატფორმასა და ენაზე გავრცელებული ვიდეოების შინაარსი ერთმანეთის მსგავსია: სამხედრო ფორმიან ახალგაზრდა უკრაინელებს (ძირითადად 22 და 23 წლის) ომში წასვლა არ სურთ, რის გამოც ტირიან და დახმარებას ითხოვენ, ასევე, სამხედროები დანებების შესახებ ვიდეოებში საუბრობენ, რუსულ მხარეს ბარდებიან და ქალაქ პოკროვსკს ტოვებენ. მსგავს ვიდეოებს ავრცელებენ ქართულ და რუსულენოვანი ფეისბუქ ანაგრიშებიც. ნოემბრის თვეში (6 ნოემბრიდან 20 ნოემბრამდე პერიოდში) “მითების დეტექტორმა” მონიტორინგის შედეგად არაერთი ასეთი ვიდეო გამოავლინა პარტნიორ ორგანიზაციებთან ერთად გადაამოწმა.
“მითების დეტექტორი” გთავაზობთ მიმოხილვას, თუ როგორ იქმნება და ვრცელდება ხელოვნური ინტელექტის (AI) გამოყენებით უკრაინელი სამხედროების დისკრედიტაციისკენ მიმართული ვიდეოები და როგორ უნდა ამოვიცნოთ AI-ით გენერირებული კადრები.
ჩვენ მიერ გადამოწმებული ერთ-ერთი პოსტი რამდენიმე ვიდეოსა და ფოტოს შეიცავდა მტკიცებით, რომ ყველა მათგანი ქალაქ პოკროვსკშია გადაღებული და უკრაინელი სამხედროების ტყვედ ჩავარდნას ასახავს. პოსტზე დართული ფოტოები რეალურია, თუმცა მათი გადაღების თარიღი პოკროვსკში საბრძოლო მოქმედებებს არ ემთხვევა, რაც გამორიცხავს, რომ ისინი უკანასკნელ დღეებში უკრაინელი სამხედროების ბრძოლის ველზე დანებებას ასახავდეს. დავადგინეთ, რომ ფოტოებთან ერთად გავრცელებული ვიდეოების ნაწილის შესაქამენად ხელოვნური ინტელექტია გამოყენებული. ზოგიერთ მათგანზე AI-ის გამოყენების კვალზე მიანიშნებს Sora-ს ლოგო ან ხელოვნური ინტელექტით შექმნილი ვიდეოებისთვის დამახასიათებელი ხარვეზები. ერთ-ერთ ვიდეოზე, რომელზეც თითქოს ტყვედ ჩავარდნილი ასეულობით უკრაინელი სამხედრო ჩანს, ჯარისკაცების ხელის თითები, ისევე, როგორც შედარებით უკან მდგომი ჯარისკაცების ფიგურები, ერთმანეთშია შეზრდილი.
უკრაინელი სამხედროების დანებების შესახებ ხელოვნური ინტელექტის მიერ გენერირებული და რუსულენოვანი ანგარიშის მიერ გავრცელებული კიდევ ერთი ვიდეო გადავამოწმეთ. გარდა იმისა, რომ მსგავსი ვიდეო და ინფორმაცია სანდრო წყაროებით არ გავრცელებულა, მასზე არაერთი ხარვეზი შეიმჩნევა, რომელიც ადასტურებს, რომ ის რეალური არ არის. მაგალითად, ვიდეოზე ნაჩვენები ადამიანებისა და მათი ხელების რაოდენობა ერთმანეთთან შეუსაბამოა. ზოგიერთ აწეულ ხელზე თითების რაოდენობა ხუთზე მეტია, ხოლო შედარებით უკან მდგარი ერთ-ერთი სამხედროს სახე ერთგვაროვანია და დეტალების გარჩევა შეუძლებელია. ამასთანავე, ვიდეოს გადასამოწმებლად გამოვუყენეთ ხელოვნური ინტელექტის ამომცნობი ხელსაწყო, რომელმაც ვიდეო მაღალი ალბათობით AI გენერირებულად შეაფასა.
უკრაინისა და უკრაინელი სამხედროების დისკრედიტაციის ახალი კამპანიის ნაწილია სხვადასხვა სოციალურ ქსელში, არაერთ ენაზე გავრცელებული ვიდეოები, რომლებიც თითქოს უკრაინელი სამხედროების ემოციებს ასახავს: ისინი 22-23 წლის არიან და იძულებითი მობილიზაციის სამიზნე გახდნენ, არ სურთ ფრონტზე წასვლა, რის გამოც ტირიან და დახმარებას ითხოვენ. მსგავსი შინაარსის ვიდეოები არაერთ ქვეყანაში გავრცელდა და მისმა მასშტაბმა დეზინფორმაციის მკვლევრებისა და ჟურნალისტების ყურადღება მიიქცია. “მითების დეტექტორმა” შეისწავლა ორი ასეთი ვიდეო, რომლსაც ერთი და იგივე ტიკ-ტოკ ანგარიში ავრცელებდა. როგორც ზემოთ განხილულ შემთხვევებში, ვიდეოები ამჯერადაც საეჭვო წყაროების მიერ ვრცელდებოდა და მასში მონაწილე სამხედროების ვინაობის დადგენა შეუძლებელი იყო. გარდა ამისა, დავაკვირდით ვიდეოების რამდენიმე ვიზუალურ მახასიათებელს, რაც ადასტურებდა, რომ ის რეალური არ იყო და ხელოვნური ინტელექტის გამოყენების კვალზე მიანიშნებდა. მაგალითად, ერთ-ერთ ვიდეოფაბრიკაციაში 23 წლის უკრაინელ სამხედროდ წარმოჩენილი კაცი ტირის და ამბობს, რომ ომში წასვლა არ უნდა. მას ვიდეოში სამხედრო ფორმა აცვია და ჩაფხუტი ახურავს. სამხედროს ჩაფხუტი საბრძოლო თამაშის, “ეარსოფტის” დროს გამოყენებულ ჩაფხუტს ჰგავს, თუმცა ხელოვნურ ინტელექტს მასზე გაურკვეველი დანიშნულების დატალებიც აქვს დამატებული.
ამასთანავე, ვიდეოფაბრიკაციაში ნაჩვენები სამხედრო უნიფორმა არ ემთხვევა უკრაინულ მოდელს. მათ შორის, ჩაფხუტიც განსხვავებულია. ამის შესახებ AFP-ის ფაქტების გადამოწმების რედაქცია წერს და უნიფორმებს/ჩაფხუტებს ერთმანეთს ადარებს.
მორიგ ვიდეოფაბრიკაციაშიც სამხედროს ფორმიანი კაცი მონაწილეობს. ვიდეოში ის ტირის და ამბობს, რომ ომში ძალით მიჰყავთ, სიკვდილი არ უნდა და მაყურებელს სთხოვს, ვიდეო გაავრცელონ. ვიზუალურ მასალაზე დაკვირვებით შესამჩნევია, რომ სამხედროს სახე და ცრემლები არაბუნებრივად გამოიყურება, გამოსახულება “გლუვია”, გარკვეულ ეპიზოდებში მისი სათვალე თითქოს სახის კანს ერწყმის. ვიზუალურ შეუსაბამობებთან ერთად, საყურადღებოა ჯარისკაცის ფორმაზე დატანილი წარწერაც. უკრაინელ სამხედროებს ფორმაზე საკუთარი გვარი უკრაინულად, კირილიცათი აწერიათ, თუმცა ამ სამხედროს ფორმაზე მხოლოდ გაურკვეველი ფორმის ასოებს ვხედავთ.
რა ვიცით უკრაინელი სამხედროების ვიდეოების გავრცელების შესახებ?
მედიები და ფაქტების გადამმოწმებელი ორგანიზიები სწავლობდნენ უკრაინის, უკრაინელი სამხედროებისა და მობილიზაციის წინააღმდეგ მიმართულ მორიგ დეზინფორმაციულ კამპანიას. 6 ნოემბერს, მაშინ, როდესაც უკრაინელი სამხედროების ტირილის და დანებების შესახებ ვიდეოფაბრიკაციების გავრცელება ჯერ კიდევ ახალი დაწყებული იყო, ესპანურმა ფაქტების გადამოწმების პლატფპრმა Maldita-მა დაადგინა, რომ პლატფორმა X-ზე მსგავსი ვიდეოები, სულ მცირე, 13 სხვადასხვა ენაზე გავრცელდა და მილიონობით ნახვა დააგროვა. მკვლევრებმა მიუთითეს, რომ X-ზე ვიდეოების მხოლოდ მცირე ნაწილს ჰქონდა ხილული Community Notes (სოციალური ქსელის მომხმარებლების მიერ პოსტზე დატოვებული კომენტარი, რომელიც მის სანდოობაზე ინფორმაციას შეიცავს ან პოსტს დამატებით დეტალს ურთავს). ასევე, X-ის ხელოვნურ ინტელექტზე დაფუძნებული ე.წ. ჩათბოტი Grok ვიდეოების ავთენტიკურობის შესახებ შეკითხვებს დადებითად პასუხობდა და სხვადასხვა ენაზე მომხმარებლებს ეუბნებოდა, რომ ვიდეო ხელოვნური ინტელექტით გენერირებული არ არის.
22-23 წლის უკრაინელი სამხედროების ტირილის ვიდეოებს ტიკ-ტოკ ანგარიში Fantomoko ავრცელებდა. ანგარიში 24 ნოემბრის მონაცემით აღარ იძებნება. რეალურად, ვიდეოფაბრიკაციაში მონაწილე პირები უკრაინელი სამხედროები არ არიან და მათი გამოსახულება რუსი სტრიმერების ვიზუალის გამოყენებით შეიქმნა. სწორედ რუსი სტრიმერის Каша88-ს სახეა გამოყენებული AI ვიდეოების შესაქმენლად, რომელიც მოგვიანებით “მითების დეტექტორმა” გადაამოწმა.
Каша88 ტელეგრამ არხზე გამოეხმაურა შვედური ტელევიზიის მიერ უკრაინელი სამხედროების ვიდეოფაბრიკაციების შესახებ მომზადებულ სიუჟეტს. მედია საუბრობდა, თუ ვისი სახე გამოიყენებოდა ვიდეობის შესაქმნელად. Каша88-მა ტელეგრამზე დაწერა, რომ ის შვედურ მედიაში გავრცელებული რეპორტაჟის გმირი გახდა.
Каша88-ის გარდა, ვიდეოები კიდევ რამდენიმე ადამიანის სახის გამოყენებით იქმნებოდა. მათ შორისაა ასევე რუსი სტრიმერი, სახელად T2X2 და ანტი-პუტინისტი აქტივისტი ალექსეი გუბანოვი. ტიკ-ტოკ ანგარიში გუბანოვის სახის გამოყენებით ქმნიდა ვიდეოებს, სადაც მოსკოვში, წითელ მოედანზე კაცს უკრაინის დროშა ჰქონდა გაშლილი.
Fantomoko-ს მსგავსი შინაარსის არაერთი ვიდეო ჰქონდა გამოქვეყნებული ტიკ-ტოკის არხზე. მათ ნაწილს Sora-ს ლოგო ახლდა, ნაწილზე კი შესამჩნევი იყო ხელოვნური ინტელექტის კვალი. მაგალითად, ერთ-ერთ ვიდეოში უკრაინელ სამხედროდ წარმოჩენილი პირი წითელი ფერის ცრემლებით ტირის.
წყარო: Open.online
ამავე პერიოდში მონიტორინგის შედეგად “მითების დეტექტორმა” ქართულ (1;2) და რუსულენოვან (1;2;3;4) ანგარიშებზე რამდენიმე სხვა ვიდეოც გამოავლინა. ვიდეოს გამავრცელებლები ამტკიცებდნენ, რომ კადრები უკრაინელი სამხედროების ტირილს, დანებებასა და ქალაქ პოკროვსკის დატოვებას ასახავს. მიუხედავად იმისა, რომ კადრებზე Sora-ს ლოგო ჩანდა, ფეისბუქ-მომხმარებლების ნაწილი მას რეალურ კადრებად აღიქვამდა. ერთ-ერთი ვიდეოს, რომელზეც დაჭრილი უკრაინელი სამხედროები თითქოს პოკროვსკს ტოვებენ, ავტორი აღწერაში მიუთითებს, რომ ის ხელოსვნური ინტელექტის მიერაა შექმნილი. თუმცა, სხვა ქვეყნის ფაქტების გადამმოწმებელმა ორგანიზაციებმა ის AI გენერირებულად შეაფასეს და მის შესახებ მასალები მოამზადეს.
უკრაინულ გამოცემასთან Kyiv Independent ექსპერტები საუბრობენ სამხედრო პირების წინააღმდეგ მიმართულ ბოლოდროინდელ დეზინფორმაციის კამპანიაზე. მათი შეფასებით, უკრაინელი სამხედროების ვიდეოფაბრიკაციების გავრცელება რუსეთის საინფორმაციო ომის ახალი ეტაპია, რომელიც უკრაინის ხელმძღვანელობის მიმართ ნდობის შესუსტებას, პანიკის დათესვასა და დასავლეთის მხარდაჭერის შესუსტებას ისახავს მიზნად. Kyiv Independent დამატებით სამართლებრივ დეტალზე ამახვილებს ყურადღებას და აღნიშნავს, რომ უკრაინის კანონმდებლობის თანახმად სავალდებულო სამხედრო გაწვევა 25 და უფრო დიდი ასაკის კაცებს ეხებათ. შესაბამისად, სიმართლე ვერ იქნება ვიდეოფაბრიკაციაში მოყვანილი ინფორმაცია, რომ 22-23 წლის ახალგაზრდები ფრონტზე მიჰყავთ.
რა არის Sora და როგორ ამოვიცნოთ AI გენერირებული ვიზუალი?
მართალია, განხილული ვიდეოების ნაწილს Sora-ს ლოგო ახლავს, თუმცა ფეისბუქ-მომხმარებლების ნაწილი მას რეალურ კადრებად აღიქვამს. ბოლო პერიოდში Sora-ს ნიშნით არაერთი ვიდეო გავრცელდა სოციალურ ქსელში. Sora არის Open AI-ს პროექტი, რომელსაც შეუძლია ფოტოებისა და ტექსტის მეშვეობით ვიდეოების შექმნა. ამ მოდელის გამოყენებით შექმნილი ვიზუალური მასალების შესახებ “მითების დეტექტორი” წარსულშიც წერდა (1;2;3).
Sora-ს გამოყენებით მომხმარებლებს შეუძლიათ, რეალისტური ვიდეოები თითქმის ყველა საკითხზე შექმნან – მაგალითად, შესაძლებელია პროტესტის, დაპატიმრებების, ბუნებრივი კატასტროფებისა და სხვა მოვლენების ამსახველი ვიდეოების გენერირება. Sora ასევე აძლევს მომხმარებელს საშუალებას, ატვირთოს საკუთარი ფოტოები და თავადაც ფიგურირებდეს კადრებში. აპლიკაციას შეუძლია ვიდეოებში გამოგონილი პერსონაჟების, კომპანიების ლოგოებისა და გარდაცვლილი პირების ინტეგრირება. ექსპერტები შეცდომაში შემყვანი კონტენტის რაოდენობის ზრდაზე საუბრობენ, Open AI კი აცხადებს, რომ აპლიკაცია ფართომასშტაბიანი უსაფრთხოების ტესტირების შედეგად გამოუშვეს და ასევე გაითვალისწინეს დამცავი ბარიერები. მათივე განმარტებით, მოხმარების პოლიტიკით აკრძალულია იმიტაციისა და თაღლითობის გზით სხვების შეცდომაში შეყვანა და ზომებს იღებენ, როდესაც Sora-ს ბოროტად გამოყენების მაგალითებს აწყდებიან.
მთავარი ნიშანი, რომელიც მიანიშნებს, რომ კადრები ხელოვნური ინტელექტით არის გენერირებული, მასზე Sora-ს და სახელისა და ლოგოს ჭვირნიშნის არსებობაა. მოცემულ ფოტოზე ასახული გამჭვირვალე ჭვირნიშანი კადრებში ხშირად რამდენჯერმე ჩნდება. ეს ადასტურებს, რომ ვიდეოს გენერირებისთვის ხელოვნური ინტელექტი გამოიყენეს.
ამის მიუხედავად, ხშირია შემთხვევები, როდესაც ვიდეოს დაბალი ხარისხის გამო ნიშნის შემჩნევა რთულია ან, სხვა შემთხვევებში, ვიდეო იმგვარად არის მოჭრილი, რომ ლოგო და წარწერა არ გამოჩნდეს. აღსანიშნავია ისიც, რომ ღია წყაროებში ასევე იძებნება ვიდეოები, რომლის ავტორებიც მაყურებელს კადრებიდან Sora-ს ნიშნის მოშორების გზებს ასწავლიან. ვიდეო, რომელიც, სავარაუდოდ, Sora-ს მიერ იყო გენერირებული და მასზე ჭვირნიშანი არ ჩანდა, “მითების დეტექტორმაც” გადაამოწმა.
გარდა Sora-ს ნიშნისა, ხშირად მსგავს ვიდეოებში ასევე შესამჩნევი არის ხარვეზები, რომლებიც მიუთითებს, რომ ისინი AI გენერირებულია. მაგალითისთვის, როგორც უკრაინელი სამხედროების ვიდეოების, ისე სხვა შემთხვევებშიც, ხარვეზები მოიცავს არაბუნებრივ ვიზუალს, დეფორმირებულ ნაკვთებს, კიდურებსა და თითებს, ასევე, თვალების, პირის ან ზოგადად სხეულის არაბუნებრივ მოძრაობას, ასახული საგნების მოძრაობაში მოულოდნელ გაქრობას ან ა.შ.
მაგალითად, “მითების დეტექტორის” მიერ გადამოწმებულ ამ ვიდეოში, რომელსაც საქართველოში მიმდინარე პროტესტის დროს პოლიციის ქცევას ადარებდნენ, ჩანს, რომ სამართალდამცავის ხელში წიწაკის სპრეი მოულოდნელად “ჩნდება” და მასთან ახლოს მდგარ ადამიანს სახეში ასხამს.
მიუხედავად იმისა, რომ Sora-ს ვიდეოები რეალისტურია, მათ ნაწილში კიდურებსა და თითებზე დაკვირვებით მაინც შესამჩნევია, რომ ის AI-ით არის გენერირებული. მაგალითად, უკრაინელი სამხედროების დანებების შესახებ გენერირებულ ვიდეოებში ხელის მტევანზე ხუთზე მეტი თითი შეიმჩნეოდა. ხარვეზი განსაკუთრებულად გამოკვეთილი არის ხოლმე კადრებში, სადაც არაერთი ადამიანი ჩანს.
აღსანიშნავია ისიც, რომ მაშინ, როცა ხელოვნურ ინტელექტს მსგავსი კადრების გენერირებას ვთხოვთ, ხშირად არის შესამჩნევი, რომ კადრებში იდენტური დეტალები მეორდება – მაგალითად, სამხედროების კადრში თავზე დადებული ხელები ერთ რიგში იდენტურად გამოიყურება. ეს ხელოვნური ინტელექტით გენერირებული ვიდეოებისთვის დამახასიათებელი ერთ-ერთი ნიშანია. ეს ხარვეზი შეინიშნება “მითების დეტექტორის” მიერ გადამოწმებულ კიდევ ერთ ვიდეოშიფაბრიკაციაში, რომელშიც ჩანს, როგორ ლოცულობს სამხედრო უკრაინულ სუპერმარკეტში. ამ შემთხვევაში, თაროზე დალაგებული პროდუქტები ერთნაირია.
ამავე კადრის მაგალითზე შეგვიძლია განვიხილოთ კიდევ ერთი ხარვეზი – ლოგოების, დროშებისა და სხვა ნიშნების გენერირება. ხშირად Sora-ს და, ზოგადად, AI-ით გენერირებულ სხვა ვიდეოებში ლოგოები ჩანს, თუმცა მათი ნაწილი რეალური ლოგოსგან განსხვავებული – ფერები, შრიფტი, ფორმა, შესაძლოა, განსხვავებული იყოს. გარდა ამისა, მათი ვიზუალი, შესაძლოა, ვიდეოს მიმდინარეობისას იცვლებოდეს, როგორც ეს უკრაინელი სამხედროს კადრებშია – სქრინშოტზე ლურჯ-თეთრი დროშა ჩანს, მაშინ, როცა უკრაინის დროშა ყვითელი და ლურჯი ფერებისგან შედგება. სუპერმარკეტის ლოგოს შრიფტი რეალურისგან განსხავავდება, გარდა ამისა, აღნიშნულ ლოგოს ბრენდი წარსულში იყენებდა.
Sora-ს მიერ გენერირებული ვიდეოების ამოცნობისთვის ერთ-ერთი მეთოდია დაკვირვება, ეწინააღმდეგება თუ არა ასახული კადრები ფიზიკის კანონებს – მაგალითად, აღნიშნულ კადრებში, რომელსაც The Wall Street Journal-ი Sora-ს მიერ გენერირებული კონტენტის ამოცნობისთვის მაგალითად იყენებს, ტალღები არა სანაპიროსკენ, არამედ საპირისპირო მიმართულებით მოძრაობს.
რა ვიცით პოკროვსკში სამხედრო მოქმედებებზე?
ქალაქი პოკროვსკი უკრაინის აღმოსავლეთით მდებარეობს. იქ ერთ წელზე მეტია საბრძოლო მოქმედებები მიმდინარეობს, თუმცა უკანასკნელ კვირებში ბრძოლამ განსაკუთრებით ინტენსიური ხასიათი მიიღო. პოკროვსკი როგორც უკრაინისთვის, ისე რუსეთისთვის სტრატეგიული მნიშვნელობისაა. ქალაქზე კონტროლი მხარეებისთვის დონეცკში სარკინიგზო და საავტომობილო მაგისტრალზე წვდომას ნიშნავს. პოკროვსკზე სრული კონტროლით რუსეთის მხარე მოახერხებს უკრაინის აღმოსავლეთ რეგიონის სრულ ოკუპაციასთან მიახლოებას და მას დნეპროპეტროვსკის ცენტრამდე გზას გაუხსნის. რაც შეეხება უკრაინულ მხარეს, პოკროვსკი ახლოს მდებარეობს უკრაინის კოქსის ნახშირის მწარმოებელ მაღაროსთან, რომლის მუშაობაც მნიშვნელოვანია ფოლადის ინდუსტრიისათვის.
დასავლურ მედიაში აქტიურად წერენ პოკროვსკის მოახლოებული დაცემის შესახებაც. ქალაქში საბრძოლო მოქმედებების გაგრძელებას ისინი უკრაინის მთავარ დილემად განიხილავენ. მედიების თანახმად, უკრაინის ხელმძღვანელობას მოუწევს გადაწყვიტოს დაცემის პირას მყოფ პოკროვსკში უკან დაიხიოს და ადამიანების სიცოცხლე შეინარჩუნოს თუ ბრძოლა განაგრძოს და ქალაქში რუსეთის გამარჯვება გადაავადოს, თუმცა სერიოზული დანაკარგების ხარჯზე.
13 ნოემბერს ვოლოდიმირ ზელენსკიმ პოკროვსკში შექმნილი სიტუაციის შესახებ ისაუბრა. ზელენსკის თქმით, პოკროვსკში ვითარება “ძალიან რთულია”, თუმცა უკან დახევის შესახებ ნებისმიერ გადაწყვეტილებას ადგილზე მყოფი სამხედრო მეთაურები იღებენ. ასევე, უკრაინის პრეზიდენტმა განაცხადა: „არავინ უბიძგებს მათ [სამხედროებს] სიკვდილისკენ ნანგრევების გულისთვის. მე მხარს დავუჭერ ჩვენს ჯარისკაცებს, განსაკუთრებით იქ მყოფ მეთაურებს, როგორ შეუძლიათ მათ სიტუაციის კონტროლი. წინააღმდეგ შემთხვევაში, ეს ძალიან ძვირად დაგვიჯდება – ჩვენთვის ყველაზე მნიშვნელოვანი ჩვენი ჯარისკაცები არიან.“
“ომის შემსწავლელი ინსტიტუტის” 24 ნოემბრის განახლების თანახმად, უკრაინული მხაზე პოკროვსკში შეზღუდული რაოდენობითაა წარმოდგენილი. ორგანიზაციას უკრაინის არმიაში წყარო ეუბნება, რომ რუსული სამხედრო ძალები ცუდად ორიენტირებული არიან და ხშირია ერთმანეთს შორის ინციდენტები.
