GovTech Singapur ve Google DeepMind'dan cihaz üzerinde çalışan Gemma dolandırıcılık tespit aracı detayları



Özet


GovTech Singapore ve Google DeepMind, Singapur'daki artan karmaşık sosyal mühendislik yoluyla yapılan dolandırıcılık yöntemlerine karşı cihaz üzerinde çalışan yeni bir yapay zeka sistemi geliştirdi. Kişisel mahremiyeti korumayı esas alan bu sistem, düşük güç tüketen ilk aşamada mesajları tarayıp, potansiyel risk tespit edildiğinde ince ayar yapılmış Gemma modeliyle derinlemesine analiz yapıyor. Mobil cihazların pil ve kaynak kısıtlamalarını göz önünde bulunduran iki aşamalı bu mimari, kullanıcıların özel iletişimlerini gizli tutarken dolandırıcılık girişimlerini gerçek zamanlı olarak yakalamayı hedefliyor. Ulusal Yapay Zeka Ortaklığı kapsamında hayata geçirilen proje, yüksek hedefli dijital suçlara karşı vatandaşları doğrudan cihaz düzeyinde korumayı amaçlıyor.



GovTech Singapore ve Google DeepMind, ince ayar (fine-tuning) yapılmış bir Gemma yapay zeka modeline dayalı, cihaz üzerinde çalışan bir dolandırıcılık tespit sistemi geliştirdi ve bu mimariyi SICW 2026'da tanıttı.

Bu proje, Singapur Hükümeti ile yürütülen Ulusal Yapay Zeka Ortaklığı'nın bir parçası. Singapur'da 2019'dan bu yana dolandırıcılık yöntemleri 4 milyar doları aşkın finansal kayba neden oldu ve bu rakam, bildirilen tüm suçların yarısından fazlasını oluşturuyor. Artık bu kayıpların %80'i, otomatik toplu kimlik avı (phishing) bağlantıları yerine karmaşık sosyal mühendislik diyalogları yoluyla gerçekleşiyor.

GovTech Singapore Güven ve Güvenlik Direktörü Mark Chen konuyu şu sözlerle değerlendiriyor: “Dolandırıcılıkla mücadele etmek, kişisel mahremiyetten ödün vermek anlamına gelmemeli.

Google DeepMind ile iş birliği yaparak, gelişmiş yapay zeka korumasını doğrudan vatandaşların cihazlarına taşıyoruz. Bu sayede, kişisel iletişimleri özel tutarken, yüksek hedefli ve yerel dolandırıcılık girişimlerini gerçek zamanlı olarak yakalayabiliyoruz.”

Mobil donanım üzerinde çalışan iki aşamalı süreç

Akıllı telefonlarda çıkarım (inference) görevlerini yürütürken pil tüketimi sürekli bir teknik engel teşkil ediyor. Kaynak sınırlarını yönetmek için mühendislik ekipleri kademeli bir tarama mimarisi oluşturdu.

1. Aşama, gelen mesajlar üzerinde doğrudan çalışan küçük, düşük güç tüketen bir ikili sınıflandırıcı (binary classifier) çalıştırır. Bu ilk filtre, minimum elektrik tüketimiyle gelen metinleri sürekli izleyerek manipülatif davranışların erken işaretlerini tarar. Bu aşama potansiyel bir yanıltmayı tespit ettiğinde, sistem etkileşimi ikinci katmana aktarır.

2. Aşama, ince ayar yapılmış Gemma modelini kullanarak bağlam içi bir değerlendirme başlatır. Sistem, kötü niyetli amacı doğrulamak veya yanlış alarmları elemek için çevredeki konuşmanın genişletilmiş bir özetini analiz eder. Eğer model manipülatif bir diyaloğu onaylarsa, kullanıcıyı kimlik bilgilerini paylaşmadan veya para transferi yapmadan önce durdurması için telefon ekranında anında bir uyarı verir.

Yerli bulut eğitimi yerel verileri izole ediyor

Model özelleştirmesi, GovTech Singapore'ın yönettiği ve izole bir "Sovereign Sandbox" olarak yapılandırılmış Google Cloud Platform ortamında gerçekleştirildi. Bu kurulum, geliştirme ağırlıklarının dış bulut altyapısından ayrı tutulmasını sağladı.

Mühendislik ekipleri, eğitim verilerinden vatandaşların özel iletişimlerini ve kişisel olarak tanımlanabilir kayıtları kasten çıkardı. Bunun yerine model; anonimleştirilmiş dolandırıcılık raporlarından, resmi istihbarat kayıtlarından, bölgesel lehçe veri kümelerinden ve yapay olarak oluşturulmuş sohbet kayıtlarından öğrendi. Bu veri setleri, modeli yerel kamu görevlilerinin, yerel bankaların ve bölgesel yatırım fırsatlarının taklit edilmesi gibi bölgeye özgü taktiklere karşı hazırladı.

Onay kontrolleri uç cihaz dağıtımını yönetiyor

Yazılım, kullanıcı konuşmalarını denetim için merkezi bulut sunucularına yönlendirmek yerine yerel olarak çalışır. Bu mimari tercih, mesajlaşma platformlarındaki uçtan uca şifreleme uygulamalarıyla uyumludur.

Planlanan yaygınlaştırma çerçevesi uyarınca, tespit süreci mesaj akışlarına yalnızca uygulama standartlarına uygun olarak kullanıcının açık onayı alındıktan sonra erişir.