OpenAI-მ ChatGPT-ის Lockdown Mode გამოუშვა. რეჟიმი ვებწვდომასა და AI აგენტის ფუნქციებს ზღუდავს

OpenAI-მ Lockdown Mode წარადგინა, რომელიც prompt-injection შეტევის შედეგად მგრძნობიარე ინფორმაციის გარე სისტემაში გაგზავნის რისკს ამცირებს. რეჟიმი ძირითადად იმ ადამიანებისა და ორგანიზაციებისთვისაა, რომლებიც კონფიდენციალურ ბიზნეს, იურიდიულ ან სხვა მაღალი ღირებულების მონაცემს ამუშავებენ.

Prompt injection ხდება მაშინ, როცა AI მის მიერ წაკითხულ ვებგვერდში, ფაილში ან შეტყობინებაში დამალულ მავნე ინსტრუქციას ნამდვილ დავალებად იღებს. მაგალითად, დოკუმენტი შეიძლება სისტემას უბრძანებდეს, მოძებნოს საიდუმლო ინფორმაცია და გარე მისამართზე გაგზავნოს. მომხმარებელი ამ ბრძანებას ეკრანზე შეიძლება საერთოდ ვერ ხედავდეს.

Lockdown Mode ქსელთან დაკავშირებულ შესაძლებლობებს ზღუდავს: live web browsing-ს, deep research-ს, agent mode-ს, downloads-ს და ვებიდან მიღებული გამოსახულების ზოგ მხარდაჭერას. ლოგიკა მარტივია — თუ AI-ს გარე სისტემასთან ნაკლები კავშირი აქვს, მოპარული მონაცემის გატანის გზაც მცირდება.

უსაფრთხოებას ფუნქციური ფასი აქვს. რეჟიმში მომხმარებელი კარგავს იმ შესაძლებლობებს, რომლებიც AI-ს ყველაზე სასარგებლო აგენტად აქცევს. ამიტომ იგი ყველა თანამშრომლისთვის მუდმივად ჩართული აუცილებელი რეჟიმი არაა. ორგანიზაციამ მონაცემის მგრძნობელობის მიხედვით უნდა გადაწყვიტოს, ვის სჭირდება მაქსიმალური შეზღუდვა.

OpenAI თავად ხაზს უსვამს, რომ რეჟიმი რისკს ამცირებს და არა აუქმებს. მომხმარებელმა უცნობ ფაილს მაინც ფრთხილად უნდა მოექცეს, წვდომა მინიმუმამდე შეზღუდოს და მნიშვნელოვანი მოქმედება ხელით დაადასტუროს. ტექნიკური ფილტრი უსაფრთხოების მთელი პროცესის მხოლოდ ერთი ფენაა.

მოკლე შეჯამება: Lockdown Mode სწორი trade-off-ს აშკარად აჩვენებს — მეტი დაცვა ნაკლები ფუნქციის სანაცვლოდ. მაღალი რისკის სამუშაოში ეს შეზღუდვა გონივრულია, მაგრამ ორგანიზაციამ იგი წვდომის კონტროლთან, თანამშრომელთა სწავლებასთან და მონაცემის კლასიფიკაციასთან უნდა გააერთიანოს. ერთი ღილაკი prompt injection-ს სრულად ვერ მოაგვარებს.