ხელოვნური ინტელექტით მართვადმა რუსულმა დრონმა სამი მშვიდობიანი მოქალაქე მოკლა: უკრაინელები „ტერმინატორის“ სცენარის საფრთხეზე საუბრობენ

ამერიკელმა ჟურნალისტებმა ხელოვნური ინტელექტით (AI) აღჭურვილი დრონის მიერ ადამიანების დახოცვის პირველი შემთხვევა დააფიქსირეს. ტრაგედია ზაპოროჟიეში მოხდა, სადაც თანამედროვე ალგორითმით მართულ რუსულ საბრძოლო საშუალებას სამი უკრაინელი მშვიდობიანი მოქალაქე ემსხვერპლა.

ზაპოროჟიეში რუსული უპილოტო საფრენი აპარატის იერიშს 6 ივლისს სამი უკრაინელი: ტატიანა ბუბინეცი, ოლექსი სვირინი და რომან კარპიი ემსხვერპლა. დრონის სამიზნეს საწვავის ავზები წარმოადგენდა, თუმცა ჭურვი მახლობლად მდებარე შენობას მოხვდა. უკრაინელმა სპეციალისტებმა მოულოდნელად კარგ მდგომარეობაში გადარჩენილი დრონი შეისწავლეს და აღმოაჩინეს, რომ მას რადიოგადამცემი საერთოდ არ გააჩნდა. ეს და სხვა დეტალები მოწმობს, რომ აპარატს სრულად ხელოვნური ინტელექტი მართავდა, რამაც მშვიდობიანი მოსახლეობის დაღუპვა გამოიწვია.

აღნიშნულ ინციდენტზე, ექსპერტებსა და უკრაინულ წყაროებზე დაყრდნობით, გამოცემა „ნიუ იორკ თაიმსი” წერს.

ბოლო ოთხი წლის განმავლობაში უკრაინაში რუსეთის სრულმასშტაბიან შეიარაღებულ აგრესიას ათასობით მშვიდობიანი მოქალაქე ემსხვერპლა, თუმცა ამ სამი ადამიანის დაღუპვა რუსეთ-უკრაინის ომში პირველი დოკუმენტირებული შემთხვევაა, როდესაც მშვიდობიანი მოსახლეობა სრულად ხელოვნური ინტელექტის მიერ მართულმა სისტემამ იმსხვერპლა.

საჰაერო იერიშებისას ხელოვნური ინტელექტის ტექნოლოგიას უკრაინაც და რუსეთიც იმ მასშტაბით იყენებენ, რომ საბრძოლო ველს ხშირად AI-ტექნოლოგიების რეალურ დროში გამოცდის პოლიგონად მოიხსენიებენ. „ნიუ იორკ თაიმსის” მიერ ციტირებული ექსპერტების განმარტებით, გასულ თვეს განხორციელებული შეტევისას რუსულმა დრონმა ექსპერიმენტული ხელოვნური ინტელექტი გამოიყენა, რომელიც ადრე გამოყენებული სისტემებისგან იმით განსხვავდებოდა, რომ დარტყმის განხორციელების საბოლოო გადაწყვეტილება არა ადამიანმა, არამედ უშუალოდ AI-სისტემამ მიიღო.

არსებული ინფორმაციით, აქამდე დრონებში გამოყენებული AI-სისტემები სამიზნის დასადასტურებლად ადამიანის ჩართულობას ითხოვდა, რაც შესაძლო შეცდომების თავიდან აცილებასა და პასუხისმგებლობის მკაფიოდ განსაზღვრას ემსახურებოდა. თუმცა, დრონის ანალიზი აჩვენებს, რომ რუსეთმა ამ მიდგომაზე უარი უკვე თქვა. „ეს მთელი მსოფლიოსთვის სერიოზულ საფრთხეს წარმოადგენს“, – განუცხადა ზაპოროჟიეს საჰაერო თავდაცვის მეთაურმა სერჰი მინაევმა „ნიუ იორკ თაიმსს”. „რამდენიმე წელიწადში ფილმ „ტერმინატორის“ რეალობაში აღმოვჩნდებით. ეს ხუმრობა არ არის, მანქანები დარტყმების შესახებ გადაწყვეტილებას უკვე დამოუკიდებლად იღებენ“.

მტკიცებულებები ლაბორატორიიდან

იერიშის ადგილიდან ამოღებული ნარჩენების ექსპერტიზამ აჩვენა, რომ დრონი კომპანია Nvidia-ს მიერ წარმოებული მინიატურული საბორტო კომპიუტერული მოდულით იყო აღჭურვილი. მცირე ზომის მიუხედავად, აღნიშნულ მოდულებს იმ სპეციალური AI-მოდელების ამუშავება შეუძლიათ, რომლებიც სამიზნეების ამოცნობასა და განადგურებაზე არიან გაწვრთნილნი.

სწორედ ამ თანამედროვე მოდულმა, Nvidia Jetson Orin-მა, რომელსაც ხელოვნურ ინტელექტში ხშირად იყენებენ, ანტენებისა და რადიოგადამცემების არარსებობასთან ერთად, უკრაინელ სპეციალისტებს ეჭვი აღუძრა, რომ იარაღი ადამიანის კონტროლის გარეშე მოქმედებდა. შემდგომმა გამოძიებამ ეს ეჭვი სრულად დაადასტურა. „6 ივლისს ავტოგასამართ სადგურზე განხორციელებული შეტევისას ავტონომიური ხელოვნური ინტელექტის გამოყენება პირველი დოკუმენტირებული შემთხვევა იქნება, როდესაც მსგავსი სისტემით აღჭურვილმა რუსულმა დრონმა მშვიდობიან მოსახლეობაში მსხვერპლი გამოიწვია“, – განუცხადა „ნიუ იორკ თაიმსს” ვაშინგტონის სტრატეგიული და საერთაშორისო კვლევების ცენტრის (CSIS) Wadhwani AI-ის ცენტრის უფროსმა მეცნიერ-თანამშრომელმა ეკატერინა ბონდარმა.

ვინაიდან რუსებს Nvidia-ს ჩიპი დაშიფრული არ ჰქონდათ, უკრაინელმა გამომძიებლებმა მისი მოქმედების ტრაექტორია ზუსტად აღადგინეს. აღმოჩნდა, რომ ჩიპი სხვადასხვა სამოქალაქო ობიექტის, მათ შორის საწვავის ავზებისა და ავტოგასამართი სადგურების დამოუკიდებლად ამოცნობაზე იყო დაპროგრამებული. მას შემდეგ უკრაინელმა ექსპერტებმა კიდევ რამდენიმე ანალოგიური დრონი ჩაიგდეს ხელში, რომლებიც ასევე ადამიანის ჩარევის გარეშე მოქმედებდნენ, თუმცა ამ შემთხვევებს მსხვერპლი არ მოჰყოლია.

კომპანია Nvidia-ს განცხადებით, აღნიშნული ჩიპი სამხედრო მიზნებისთვის განკუთვნილი არ არის და რუსეთში საერთოდ არ უნდა იყიდებოდეს. სავარაუდოდ, მოწყობილობა რუსეთში შუამავალი ქვეყნის გავლით მოხვდა. გამოცემა „ნიუ იორკ თაიმსის” ცნობით, კონკრეტულ დეტალს დატანილი აქვს მარკირება „Made in China“.

ხელოვნური ინტელექტი და ომი

გავრცელებულ ერთობლივ განცხადებაში უფლებადამცველმა ორგანიზაციებმა Amnesty International-მა და Access Now-მ მთავრობებსა და ტექნოლოგიურ კომპანიებს მოუწოდეს, ხელოვნური ინტელექტის შემცველი სამხედრო სისტემების გავრცელება შეაჩერონ. „ჩვენი შეშფოთება მხოლოდ ამ სისტემების ხარვეზებით გამოწვეული შესაძლო შეცდომებით არ შემოიფარგლება, ის ეხება იმასაც, თუ როგორ ცვლის AI ფუნდამენტურად სამხედრო ოპერაციების ხასიათს“, – აღნიშნულია ორგანიზაციების განცხადებაში.

„სერიოზულად შეშფოთებულნი ვართ იმით, რომ სამიზნეების იდენტიფიცირებისა და პრიორიტეტიზაციისთვის დიდი ენობრივი მოდელების (LLM) გამოყენება სამხედრო სუბიექტებს უბიძგებს ომის წარმოების ისეთი ფორმისკენ, სადაც საერთაშორისო ჰუმანიტარული სამართლის ფუნდამენტური პრინციპებიმ მათ შორის გამიჯვნა, პროპორციულობა და სიფრთხილე, დაცული არ არის და სავარაუდოდ, ვერც იქნება. ეს გამოწვეულია ამ ტექნოლოგიების უზარმაზარი სიჩქარითა და მასშტაბით, ისევე როგორც არასანდო, მიკერძოებული და ხშირად უკანონოდ მოპოვებული მონაცემებით“.

ხელოვნური ინტელექტით მართვადი იარაღი სამხედრო ძალებისთვის მეტად მიმზიდველია: ის დრონებთან კავშირის გაწყვეტის რისკს ამცირებს, ფრონტის ხაზთან ოპერატორების ყოფნის აუცილებლობას ხსნის და გადაწყვეტილების მიღების პროცესს მნიშვნელოვნად აჩქარებს. ამ ტექნოლოგიებით ექსპერიმენტებს მხოლოდ რუსეთი არ ატარებს, თუმცა ის პირველი სახელმწიფოა, რომელმაც მსგავსი იარაღი მშვიდობიანი მოსახლეობის წინააღმდეგ გამოიყენა.

უკრაინის ყოფილმა თავდაცვის მინისტრმა მიხაილო ფედოროვმა განაცხადა, რომ უკრაინამ მსგავსი სისტემები ყირიმში ცოტა ხნის წინ ასევე გამოსცადა, თუმცა ამას მშვიდობიან მოსახლეობაში მსხვერპლი არ მოჰყოლია. ამასთანავე, ღაზის სექტორში პალესტინელების წინააღმდეგ ისრაელის შეტევებს ხშირად მოიხსენიებენ „ხელოვნური ინტელექტის ცოცხალ ლაბორატორიად“, სადაც AI-საბრძოლო საშუალებებს რეალურ ადამიანებზე ცდიან.

მიმდინარე წლის დასაწყისში საჯარო დავა წარმოიშვა ტრამპის ადმინისტრაციის აშშ-ის თავდაცვის დეპარტამენტსა და კომპანია Anthropic-ს შორის. გავრცელებული ცნობებით, უთანხმოება მოჰყვა კომპანიის უარს, მისი AI-სისტემები გამოყენებულიყო სრულად ავტონომიურ საბრძოლო საშუალებებში, რომლებიც სამიზნის საბოლოო არჩევისას ადამიანის მონაწილეობას გამორიცხავს, რაც, სავარაუდოდ, ირანზე აშშ-ის ბოლო იერიშებს უკავშირდებოდა.