Alibaba-ს ხელოვნურმა ინტელექტმა, სახელად ROME, ტესტირების დროს დაწესებულ შეზღუდვებს გვერდი აუარა და კრიპტოვალუტის მაინინგი სცადა. ინფორმაციას გამოცემა Axios-ი ინციდენტის შესახებ მომზადებულ სამეცნიერო ანგარიშზე დაყრდნობით ავრცელებს.
შემოწმების პროცესში მკვლევრებმა ხელოვნური ინტელექტის მხრიდან უჩვეულო ქმედებები შეამჩნიეს. უსაფრთხოების სისტემამ მისი ქცევის გადახრები დააფიქსირა და შიდა გაფრთხილებები გაუშვა.
ROME-მა გარე ბრძანებების გარეშე სცადა გამოსულიყო სატესტო ზონის ფარგლებიდან და შექმნა მექანიზმი, რომელიც კომპიუტერთან დისტანციური სერვერის მეშვეობით დაკავშირების საშუალებას იძლევა.
Axios-ის მონაცემებით, სისტემამ შეძლო სატესტო გარემოს შიგნით ფარული „კარის“ შექმნა. აგენტის სწავლების პროგრამაში არც SSH-გვირაბის შექმნის შესაძლებლობა და არც კრიპტოვალუტის მოპოვების დავალება გათვალისწინებული არ ყოფილა.
ინციდენტის აღმოჩენის შემდეგ, დეველოპერებმა მომავალში ასეთი ქმედებების გამორიცხვის მიზნით, სწავლების პროცესი შეცვალეს და შეზღუდვები გაამკაცრეს.
ანალიტიკოსთა და მეცნიერთა დარბაზი – ,,დოქტრინა”
0
