Çin teknolojik devi Alibaba, büyük dil modellerini (LLM) öğretme maliyetlerini önemli ölçüde azaltabilecek yenilikçi bir yöntem geliştirdi. Şirkete göre Zerosearch olarak adlandırılan yeni teknoloji, dış arama hizmetlerinin kullanımına dayanarak geleneksel yaklaşımlara kıyasla veri toplama maliyetlerini yüzde 88’e düşürebilir.
Güçlü yapay zeka modellerinin (AI) eğitimi, yüksek performanslı ekipman, büyük miktarda veri ve önemli finansal yatırımlar dahil muazzam kaynaklar gerektirir. Pahalı aşamalardan biri, genellikle arama motorlarıyla iletişim kurmayı gerektiren eğitim veri kümesinin toplanması ve hazırlanmasıdır.
Zerosearch yaklaşımının özü, öğrenme için gerekli yeni veri modellerinin üretilmesinin mevcut, iyi eğitimli LLM şirketine emanet edilmesidir. Bu modeller, bilgi arama ve toplama sürecini etkili bir şekilde taklit eder, ancak üçüncü bir Party API’sına erişim için ödeme yapmanız veya harici arama altyapısını kullanmaya gerek kalmadan dahili olarak yapın.
Ekonomik etki çok önemlidir. Alibaba bir örnek veriyor: Standart bir arama API ile 64.000 sorgu işleme, geliştiricilere yaklaşık 586,70 $ maliyeti olabilir. Aynı zamanda, aynı görevi tamamlamak için 14 milyar parametreli iç ve modelin kullanılması sadece 70,80 $ ‘dır. Böylece, bu aşamada maliyetlerde sekiz kattan fazla azalma elde edilir.
Geliştiricilere göre, giderlerin azaltılmasında böyle bir atılım, özellikle büyük bütçeleri veya kendi kapsamlı altyapıları olmayan küçük şirketler ve araştırma grupları için AI sistemlerinin geliştirilmesini ve iyileştirilmesini daha uygun hale getirecektir. Alibaba’nın kendisi, karmaşık kullanıcı isteklerine verilen cevapların doğruluğunu ve alaka düzeyini artırmak için Qwen ailesinin gelişmiş modellerinin yeteneklerini geleneksel arama teknolojileriyle birleştirerek hibrit yaklaşımları zaten kullanıyor.
Daha önce, Nvidia, Trump’ın Çin’e yonga tedariki konusundaki kısıtlamasını nasıl çözeceğini ortaya çıkardı.