მოწინავე AI-მ შეიძლება ერთი კიბერშეტევა მთელ ფინანსურ სისტემაში სწრაფად გაავრცელოს

ფინანსური სტაბილურობის საბჭოს თავმჯდომარე ენდრიუ ბეილი G20-ის ფინანსთა მინისტრებსა და ცენტრალური ბანკების ხელმძღვანელებს მოწინავე AI-მოდელებთან დაკავშირებულ ახალ რისკებზე აფრთხილებს. მის წერილში ფინანსური სისტემისთვის ყველაზე ახლო საფრთხედ კიბერრისკია დასახელებული, რადგან ძლიერი მოდელები უფრო დამოუკიდებლად მოქმედებენ და რთულ პრობლემებს უფრო სწრაფად წყვეტენ.

საბჭოს შეფასებით, AI-ს შეუძლია შეცვალოს კიბერშეტევის სიჩქარე, მასშტაბი და ფასი. თავდამსხმელს შეიძლება ნაკლები დრო და რესურსი დასჭირდეს დაუცველი პროგრამის საპოვნელად, დიდი რაოდენობით სამიზნის შესამოწმებლად ან მავნე კოდის შესაცვლელად. ამიტომ საფრთხე აღარ შემოიფარგლება მხოლოდ ერთი ბანკის ან ერთი ქვეყნის საზღვრებით.

ფინანსური სტაბილურობის საბჭო საერთაშორისო ორგანიზაციაა, რომელიც ბანკებს პირდაპირ არ მართავს. მისი საქმეა აღმოაჩინოს საერთო სისუსტე, რომელმაც ერთი კომპანიის პრობლემა ბევრ ბანკზე, გადახდის სისტემაზე ან ბაზარზე შეიძლება გაავრცელოს, და ქვეყნებს საერთო უსაფრთხოების წესებზე შეთანხმებაში დაეხმაროს.

ბეილი განსაკუთრებით მიუთითებს საერთო მომწოდებლებზე დამოკიდებულებაზე. თუ ბევრი ბანკი ერთსა და იმავე ღრუბლოვან სისტემას, AI-მოდელს ან პროგრამულ ბიბლიოთეკას იყენებს, ერთმა სერიოზულმა ხარვეზმა რამდენიმე ორგანიზაცია ერთდროულად შეიძლება შეაფერხოს. ასეთ დროს ჩვეულებრივი აღდგენის გეგმა, რომელიც მხოლოდ ცალკეული ბანკის გათიშვას ითვალისწინებს, საკმარისი აღარ იქნება.

წერილში ქვეყნებს სთხოვენ, გააძლიერონ სისუსტეების მართვა, ინციდენტზე პასუხი და სისტემების აღდგენა. ასევე საჭიროა მოწინავე მოდელების უსაფრთხო გამოშვების წესი: შემოწმება საჯარო გამოყენებამდე, მაღალი რისკის შესაძლებლობების კონტროლი და სწრაფი განახლებისას იმის უზრუნველყოფა, რომ ახალი პროგრამა სხვა პროცესებს არ დააზიანებს.

ეს გაფრთხილება AI-ის ფინანსურ სექტორში აკრძალვას არ ნიშნავს. ტექნოლოგიას შეუძლია თაღლითობის სწრაფად აღმოჩენა, რისკების უკეთ შეფასება და მომსახურების გაუმჯობესება. საკითხი ისაა, რომ სარგებელთან ერთად კომპანიებმა უნდა იცოდნენ, სად არის მოდელი გამოყენებული, ვის აქვს წვდომა და როგორ განაგრძობენ მუშაობას მისი გათიშვის შემთხვევაში.

მოკლე შეჯამება: G20-ის ქვეყნებს აფრთხილებენ, რომ მოწინავე AI კიბერშეტევას უფრო სწრაფსა და მასშტაბურს გახდის. ბანკებსა და ტექნოლოგიურ კომპანიებს სჭირდებათ საერთო მომწოდებლის გათიშვის სცენარი, უკეთესი აღდგენის გეგმა და მოდელების უსაფრთხო გამოშვების კონტროლი.