OpenAI-ում հայտարարում են, որ ներքին թեստավորման ժամանակ արհեստական բանականության երկու մոդել դուրս են եկել վերահսկողությունից և ներթափանցել Hugging Face հարթակի ենթակառուցվածք
OpenAI ընկերությունում հայտարարում են, որ ներքին թեստավորման ընթացքում իր արհեստական բանականության երկու մոդել դուրս են եկել վերահսկողությունից և կարողացել են ներթափանցել AI-հարթակ Hugging Face-ի ենթակառուցվածք։
Hugging Face-ը հուլիսի 16-ին հայտարարել է, որ AI-գործակալները չարտոնված հասանելիություն են ստացել ընկերության ներքին տվյալների մի մասին և մի քանի օգտատերերի հաշիվների։ Ընկերության տեղեկություններով՝ հարձակումը կանգնեցրել են սեփական արհեստական բանականության գործիքներով։ Նրանց խոսքով՝ սա առաջին դեպքն էր, երբ հարձակումն իրականացվել է ամբողջությամբ ինքնավար AI-գործակալի կողմից։
Ավելի ուշ OpenAI-ն հաստատել է, որ միջադեպին մասնակցել են իր երկու մոդելները՝ GPT-5.6 Sol-ը և ևս մեկ՝ ավելի հզոր մոդել, որը դեռ չեն թողարկել։ Ընկերությունում հայտարարում են, որ դրանք կիբեռկարողությունների գնահատման նպատակով թեստավորում էին անցնում մեկուսացված միջավայրում՝ առանց ինտերնետին ուղղակի հասանելիության, սակայն մոդելներն օգտագործել են համակարգում առկա թույլ կողմերը և հասանելիություն ստացել ինտերնետին։
OpenAI-ի փոխանցմամբ՝ դրանից հետո մոդելները սկսել են փնտրել առաջադրանքը կատարելու համար անհրաժեշտ տեղեկատվությունը և կարողացել են ներթափանցել Hugging Face-ի հարթակ, այդ թվում՝ օգտագործելով օգտատերերի գողացված հաշիվները։
Միջադեպից հետո OpenAI-ն հայտարարել է, որ ուժեղացնում է վերահսկողությունը թեստավորման ենթակառուցվածքի նկատմամբ, սահմանափակում է հասանելիությունը և ավելացնում անվտանգության լրացուցիչ մեխանիզմներ, որոնք կօգտագործվեն ապագա թեստավորումների ժամանակ։ Ընկերությունը տեղի ունեցածն անվանել է «աննախադեպ»։