ამერიკული AI სტარტაპი: ჩინური ღია მოდელი წარმოშობის გამო საშიში არ არის

ამერიკული AI სტარტაპი Arcee არ ეთანხმება მოსაზრებას, რომ ჩინური ღია AI მოდელი წარმოშობის გამო ავტომატურად საშიშია. ეს პოზიცია განსაკუთრებით მნიშვნელოვანია: Arcee აშენებს ამერიკულ ღია ალტერნატივას და ჩინური მოდელების აკრძალვით კომერციულად სარგებობას მიიღებდა.

კომპანიის ტექნიკური ხელმძღვანელი ლუკას ეტკინსი ამბობს, რომ მოდელი ჩვეულებრი ჩინური პროგრამის მსგავსად არ უნდა წარმოვიდგინოთ. დიდი ენობრივი მოდელი სტატიკური წესების ნაკრები არ არის. ის მილიარდობით მაგალითზე წვრთნით სწავლობს სავარაუდო პასუხს. შესაბამისად, მისი ფარული ბრძანებით დისტანციურად მართვა ბევრად რთულია, განსაკუთრებით მაშინ, როცა კომპანია მოდელს საკუთარ დახურულ სერვერზე უშვებს.

აქ მნიშვნელოვანია open-weight-ისა და სრულად ღია პროგრამული უზრუნველყოფის გამიჯვნა. Kimi და Qwen პარამეტრებს აქვეყნებენ და მოდელის გაშვებას სხვასთან აძლევენ, მაგრამ წვრთნის სრულ მეთოდსა და მონაცემს არ ხსნიან. მოდელის გასაშვებელი კოდი კი Hugging Face-ის მსგავს სისტემაში ხილული და შემოწმებადია. ამიტომ საწარმოს მხოლოდ ფაილის წარმოშობაზე დაყრდნობა არ უნდა მოუწიოს.

ეტკინსის თქმით, დიდმა ორგანიზაციამ ნებისმიერი მოდელი უსაფრთხოების ჩვეულებრივ პროცესში უნდა გაატაროს. ტესტი ამოწმებს მავნე კოდს, სისტემის შეცდომაში შეყვანას, მიკერძოებას, არასწორ პასუხსა და მგრძნობიარე თემაზე ქცევას. კომპანია შემდეგ მოდელს საკუთარ საქმეზე ადაპტირებს და მხოლოდ ამის მერე აძლევს თანამშრომელს ან პროგრამას წვდომას.

თეორიულად შესაძლებელია, რომ სპეციალურად გაწვრთნილმა მოდელმ კონკრეტულ კონტექსტში მავნე კოდი დაწეროს. ამის სამუშაოდ ქცევა მაინც ძალიან რთული იქნება: საწარმოს იგივე ფარული პირობა უნდა შეხვდეს და მიღებული პასუხი შეუმოწმებლად გამოიყენოს. რისკი ნული არ არის, მაგრამ მისი შეფასება ტექნიკურ მტკიცებულებას უნდა ეყრდნობოდეს და არა ქვეყნის სახელწოდებას.

Arcee იმასაც ამბობს, რომ კომპანიები ერთ მოდელზე სრულად არ უნდა იყვნენ დამოკიდებული. მოდელ-აგნოსტიკური სისტემა ერთი ამოცანისთვის მოდელს სცვლის, მეორისთვის კი სხვას ირჩევს. ეს ვერც ფარულ შეცდომას აქრობს, მაგრამ ერთი მომწოდებლის ტექნიკური, ფასის ან პოლიტიკური პრობლემის მთლიან საქმეზე გადატანას არ დაუშვებს.

მოკლე შეჯამება: Arcee-ის პოზიცია არ ნიშნავს, რომ ჩინური ღია AI რისკისგან სრულად თავისუფალია. მისი არგუმენტია, რომ რისკი ყოველი მოდელისთვის საცდელი გამოცდით, კოდის შემოწმებით, ადგილობრივი ჰოსტინგით, შეზღუდული წვდომითა და მრავალი მოდელის გამოყენებით უნდა ვმართოთ. ამგვარი პროცესი საწარმოს არჩევანსა და ფასის კონკურენციასაც უნარჩუნებს.