Arcee: ჩინური ღია AI მოდელის უსაფრთხოება წარმოშობის ქვეყნის მიხედვით არ უნდა შეფასდეს

ამერიკული AI სტარტაპი Arcee არ ეთანხმება მოსაზრებას, რომ ჩინური ღია AI მოდელი წარმოშობის გამო ავტომატურად საშიშია. ეს პოზიცია განსაკუთრებით მნიშვნელოვანია: Arcee აშენებს ამერიკულ ღია ალტერნატივას და ჩინური მოდელების აკრძალვით კომერციულად სარგებობას მიიღებდა.

კომპანიის ტექნიკური ხელმძღვანელი ლუკას ეტკინსი ამბობს, რომ მოდელი ჩვეულებრივი ჩინური პროგრამის მსგავსად არ უნდა წარმოვიდგინოთ. დიდი ენობრივი მოდელი სტატიკური წესების ნაკრები არ არის. ის მილიარდობით მაგალითზე სწავლობს და სავარაუდო პასუხს ამ ცოდნის საფუძველზე ქმნის. შესაბამისად, მისი ფარული ბრძანებით დისტანციურად მართვა ბევრად რთულია, განსაკუთრებით მაშინ, როცა კომპანია მოდელს საკუთარ დახურულ სერვერზე უშვებს.

აქ მნიშვნელოვანია ღია პარამეტრების მქონე მოდელისა და სრულად ღია პროგრამული უზრუნველყოფის გამიჯვნა. Kimi და Qwen მოდელის პარამეტრებს აქვეყნებენ და სხვებს მისი საკუთარ ინფრასტრუქტურაზე გაშვების საშუალებას აძლევენ, თუმცა სწავლების სრულ მეთოდსა და მონაცემებს არ ასაჯაროებენ. მოდელის გასაშვები კოდი Hugging Face-ის მსგავს პლატფორმაზე ხილული და შემოწმებადია. ამიტომ კომპანიამ უსაფრთხოება მხოლოდ ფაილის წარმოშობის მიხედვით არ უნდა შეაფასოს.

ეტკინსის თქმით, დიდმა ორგანიზაციამ ნებისმიერი მოდელი უსაფრთხოების ჩვეულებრივ პროცესში უნდა გაატაროს. ტესტი ამოწმებს მავნე კოდს, სისტემის შეცდომაში შეყვანას, მიკერძოებას, არასწორ პასუხსა და მგრძნობიარე თემაზე ქცევას. კომპანია შემდეგ მოდელს საკუთარ საქმეზე ადაპტირებს და მხოლოდ ამის მერე აძლევს თანამშრომელს ან პროგრამას წვდომას.

თეორიულად შესაძლებელია, რომ სპეციალურად გაწვრთნილმა მოდელმა კონკრეტულ გარემოში მავნე კოდი დაწეროს. ასეთი სქემის ამუშავება მაინც რთული იქნება: საწარმოში ზუსტად იგივე ფარული პირობა უნდა შეიქმნას და მიღებული პასუხი შეუმოწმებლად გამოიყენონ. რისკი ნულოვანი არ არის, მაგრამ მისი შეფასება ტექნიკურ მტკიცებულებას უნდა ეყრდნობოდეს და არა მხოლოდ ქვეყნის სახელწოდებას.

Arcee იმასაც ამბობს, რომ კომპანიები ერთ მოდელზე სრულად არ უნდა იყვნენ დამოკიდებული. მოდელ-აგნოსტიკური სისტემა ერთი ამოცანისთვის მოდელს სცვლის, მეორისთვის კი სხვას ირჩევს. ეს ვერც ფარულ შეცდომას აქრობს, მაგრამ ერთი მომწოდებლის ტექნიკური, ფასის ან პოლიტიკური პრობლემის მთლიან საქმეზე გადატანას არ დაუშვებს.

მოკლე შეჯამება: Arcee-ის პოზიცია არ ნიშნავს, რომ ჩინური ღია AI რისკისგან სრულად თავისუფალია. მისი არგუმენტია, რომ რისკი ყოველი მოდელისთვის საცდელი გამოცდით, კოდის შემოწმებით, ადგილობრივი ჰოსტინგით, შეზღუდული წვდომითა და მრავალი მოდელის გამოყენებით უნდა ვმართოთ. ამგვარი პროცესი საწარმოს არჩევანსა და ფასის კონკურენციასაც უნარჩუნებს.