Alibaba'nın yapay zeka kodlama aracı Batı'da güvenlik endişelerine yol açıyor
Özet
Alibaba, 480 milyar parametreye sahip Qwen3-Coder adlı yeni bir açık kaynaklı yapay zeka kodlama modelini piyasaya sürdü. Model, ajans görevlerinde diğer açık modellerden daha iyi performans gösterdiği iddia ediliyor. Ancak, Cybernews baş editörü, bu modelin Batılı geliştiriciler tarafından yaygın olarak benimsenmesi halinde küresel teknoloji sistemleri için risk oluşturabileceği konusunda uyarıyor. Endişeler, denetlenmesi zor olan yapay zeka sistemleri tarafından üretilen yazılımların kullanılmasının gizli riskleri ve sistemlerin farkında olmadan savunmasız kodlarla oluşturulmasıyla ilgili.
Alibaba, büyük bir açık kaynak model kullanarak karmaşık yazılım görevlerini ele almak üzere tasarlanan, Qwen3-Coder adlı yeni bir yapay zeka kodlama modeli yayınladı. Bu araç, Alibaba'nın Qwen3 ailesinin bir parçasıdır ve şirketin bugüne kadarki en gelişmiş kodlama ajanı olarak tanıtılıyor.
Model, 480 milyar parametrenin tamamından 35 milyarını etkinleştiren ve 256.000'e kadar bağlam belirteci destekleyen bir Uzmanlar Karışımı (MoE) yaklaşımı kullanıyor. Bu sayının, özel ekstrapolasyon teknikleri kullanılarak 1 milyona kadar genişletilebildiği bildiriliyor. Şirket, Qwen3-Coder'ın, Moonshot AI ve DeepSeek'in sürümleri de dahil olmak üzere, ajans görevlerinde diğer açık modellerden daha iyi performans gösterdiğini iddia ediyor.
Ancak herkes bunu iyi bir haber olarak görmüyor. Cybernews'in Baş Editörü Jurgita Lapienyė, Qwen3-Coder'ın sadece yardımcı bir kodlama asistanından fazlası olabileceği konusunda uyarıyor; Batılı geliştiriciler tarafından yaygın olarak benimsenirse, küresel teknoloji sistemleri için gerçek bir risk oluşturabilir.
Açık kaynak kıyafetleri içinde bir truva atı mı?
Alibaba'nın Qwen3-Coder etrafındaki mesajlaşması, teknik gücüne odaklanarak, OpenAI ve Anthropic'ten üst düzey araçlarla karşılaştırma yapıyor. Ancak kıyaslama skorları ve özellikleri dikkat çekse de, Lapienyė bunların asıl sorundan, yani güvenlikten dikkatleri dağıtabileceğini öne sürüyor.
Çin'in yapay zekada yetişiyor olması değil - bu zaten biliniyor. Daha derin endişe, denetlenmesi veya tam olarak anlaşılması zor olan yapay zeka sistemleri tarafından üretilen yazılımları kullanmanın gizli riskleri ile ilgilidir.
Lapienyė'nin ifadesiyle, geliştiriciler, temel sistemlerin farkında olmadan savunmasız kodlarla oluşturulduğu bir "geleceğe uykulu bir şekilde yürüyebilirler". Qwen3-Coder gibi araçlar hayatı kolaylaştırabilir, ancak aynı zamanda fark edilmeyen ince zayıflıklar da ortaya çıkarabilir.
Bu risk varsayımsal değil. Cybernews araştırmacıları yakın zamanda büyük ABD firmaları arasındaki yapay zeka kullanımını inceledi ve S&P 500'ün 327'sinin artık yapay zeka araçları kullandığını kamuya açıkladığını buldu. Sadece bu şirketlerde araştırmacılar, 1.000'e yakın yapay zeka ile ilgili güvenlik açığı tespit etti.
Başka bir yapay zeka modeli eklemek - özellikle Çin'in katı ulusal güvenlik yasaları altında geliştirilen bir model - daha zor kontrol edilebilir başka bir risk katmanı ekleyebilir.
Kod bir arka kapı haline geldiğinde
Günümüzün geliştiricileri, kod yazmak, hataları düzeltmek ve uygulamaların nasıl oluşturulduğunu şekillendirmek için yapay zeka araçlarına büyük ölçüde güveniyor. Bu sistemler hızlı, yardımcı ve her geçen gün daha iyiye gidiyor.
Ancak aynı sistemler, kusurları enjekte etmek üzere eğitilseydi ne olurdu? Açık hatalar değil, alarmları tetiklemeyecek küçük, fark edilmesi zor sorunlar. Zararsız bir tasarım kararı gibi görünen bir güvenlik açığı, yıllarca fark edilmeyebilir.
Tedarik zinciri saldırıları çoğu zaman böyle başlar. SolarWinds olayı gibi geçmiş örnekler, uzun vadeli sızmanın nasıl sessizce ve sabırla yapılabileceğini gösteriyor. Yeterli erişim ve bağlamla, bir yapay zeka modeli, özellikle milyonlarca kod tabanına maruz kalırsa, benzer sorunları nasıl yerleştireceğini öğrenebilir.
Bu sadece bir teori değil. Çin'in Ulusal İstihbarat Yasası uyarınca, Alibaba gibi şirketler, veri ve yapay zeka modellerini içerenler de dahil olmak üzere, hükümetin talepleriyle işbirliği yapmak zorundadır. Bu, sohbeti şuradan değiştirir: