სენსაცია: კომპანია OpenAI-ის ხელოვნური ინტელექტი კონტროლიდან გამოვიდა და კიბერშეტევა განახორციელა

უპრეცედენტო კიბერინციდენტმა მსოფლიო კიდევ ერთხელ დააფიქრა იმაზე, თუ რა შესაძლებლობები აქვს ხელოვნურ ინტელექტს და სად გადის ამ შესაძლებლობების ზღვარი. ისტორიაში პირველად, კიბერშეტევა განხორციელდა არა ჰაკერების მოქმედების შედეგად, არამედ ხელოვნური ინტელექტის მიერ, რომელმაც ოპერაცია ადამიანის უშუალო ჩარევის გარეშე განახორციელა.

16 ივლისს, ხელოვნური ინტელექტის სხვადასხვა მოდელის ღია პლატფორმა Hugging Face-მ აღმოაჩინა, რომ ის კიბერშეტევის სამიზნე გახდა. კომპანიამ განაცხადა, რომ ასეთი ტიპის შეტევასთან ადრე არასდროს ჰქონია საქმე და გამოთქვა ეჭვი, რომ იგი ადამიანის ნაცვლად, მანქანამ განახორციელა.

ამ სენსაციის მთავარი დეტალი დღეს უკვე ცნობილია – ChatGPT-ის შემქმნელმა კომპანიამ, OpenAI-მა საჯაროდ აღიარა, რომ უსაფრთხოების ინციდენტზე პასუხისმგებელი მისი ხელოვნური ინტელექტის მოწინავე მოდელია, რომელმაც ადამიანის უშუალო მითითების გარეშე იმოქმედა.

OpenAI-ისა და Hugging Face-ს განცხადება: „ჩვენთვის ეს არის უპრეცედენტო კიბერინციდენტი, რომელიც ხელოვნური ინტელექტის აქამდე უცნობ შესაძლებლობებს წარმოაჩენს. ჩვენ მივიღეთ აუცილებელი ზომები და ვასაჯაროებთ ამ ინციდენტის შესახებ დადგენილ ფაქტებს, რათა ნათელი გახდეს, რისი გაკეთება შეუძლიათ ხელოვნური ინტელექტის ახალ მოდელებს“.

რა მოხდა სინამდვილეში? OpenAI-ის ცნობით, კიბერშეტევის დღეს, კონტროლირებად გარემოში მიმდინარეობდა შემუშავებული მოდელის შესაძლებლობების დატესტვა. ხელოვნურმა ინტელექტმა მოახერხა ე.წ. „ქვიშის ყუთიდან“ (sandbox) თავის დაღწევა, დაკავშირდა ინტერნეტს და, სავარაუდოდ, გადაწყვიტა, რომ საძიებო პასუხებს Hugging Face-ს ვებგვერდზე იპოვიდა.

ეს თავდასხმა აჩვენებს, რომ შიში იმის შესახებ, თუ რა შეიძლება მოხდეს, თუკი ხელოვნური ინტელექტი ადამიანის უშუალო ჩარევის გარეშე დაიწყებს მოქმედებას, უკვე მხოლოდ ჰიპოთეზა აღარ არის. კიბერექსპერტების თქმით, უსიამოვნო სიმართლე, რომელსაც მსოფლიომ თვალი უნდა გაუსწოროს, არის ის, რომ ასეთი ინციდენტების თავიდან ასაცილებლად – ან, სხვაგვარად რომ ვთქვათ, იმის უზრუნველსაყოფად, რომ „მანქანებმა ადამიანებზე უპირატესობა არ მოიპოვონ“ – საჭიროა, ხელოვნური ინტელექტის დეველოპერებმა კონტროლის მექანიზმები არა ადამიანურ, არამედ მანქანურ სიჩქარეზე დანერგონ.

ხელოვნური ინტელექტის მოდელის უნებართვო ქმედებებს OpenAI-ისთვის, შესაძლოა, უარყოფითი შედეგები მოჰყვეს იმ პირობებში, როდესაც კომპანია საფონდო ბირჟაზე აქციების განთავსებას გეგმავდა.