Apple gibi şirketler neden sınırlı yapay zekâ ajanları geliştiriyor?
Özet
Apple ve Qualcomm gibi şirketler tarafından geliştirilen yeni nesil yapay zeka asistanları, uygulamalar arası görevleri yönetebilme yeteneğiyle tasarlanmaktadır. Güvenlik ve gizliliği ön planda tutan bu sistemler, özellikle ödeme ve hesap değişikliği gibi hassas işlemlerde "döngüdeki insan" modelini benimseyerek kullanıcı onayı gerektirmektedir. Ayrıca, yapay zekanın erişim alanını belirli uygulamalarla sınırlandıran kontrol katmanları sayesinde, sistemin kullanıcının izni olmadan bağımsız eylemler gerçekleştirmesi engellenmektedir. Bu mekanizmalar, verilerin cihaz içinde işlenmesini sağlayarak kullanıcı gizliliğini korumayı amaçlamaktadır.
Apple ekosisteminde ve Qualcomm gibi çip üreticileri tarafından geliştirilen yeni nesil yapay zeka asistanları, ilk raporlara göre belirli sınırlamalarla tasarlanıyor.
Tom's Guide, bu asistanların ilk sürümlerini uygulamalar arasında gezinebilen, rezervasyon yapabilen ve hizmetlerdeki görevleri yönetebilen yeteneklere sahip olarak tanımladı. Örneğin, özel bir beta sürümündeki aracı (agentic) sistem, hizmet rezervasyonu yapma veya uygulamalarda içerik paylaşma gibi görevleri tamamladı. Bir testte, sistem bir uygulama iş akışında ilerleyip ödeme ekranına kadar geldi ve kullanıcıdan onay istedi.
Yapay zeka araçları, onay kontrol noktalarıyla inşa ediliyor. Hassas işlemler, özellikle ödemeler veya hesap değişiklikleriyle ilgili olanlar, tamamlanmadan önce kullanıcı onayı gerektiriyor. "Döngüdeki insan" (human-in-the-loop) modeli, sistemin bir eylem hazırlamasına olanak tanırken, onayı kullanıcıya bırakıyor. Apple'ın yapay zeka çalışmalarıyla bağlantılı araştırmalar, sistemlerin kullanıcıların açıkça talep etmediği eylemleri gerçekleştirmeden önce durmasını sağlamanın yollarını araştırdı.
Bankacılık uygulamaları zaten transferler için onay gerektiriyor. Aynı fikir artık birden fazla hizmetteki yapay zeka destekli eylemlere de uygulanıyor.
Sınırlamalar ve kontrol
Bir kontrol katmanı, yapay zekanın nelere erişebileceğinin kısıtlanmasıyla sağlanıyor. Sisteme uygulamalara ve verilere tam erişim sağlamak yerine işletmeler, yapay zekanın hangi uygulamalarla etkileşime girebileceği ve eylemlerin ne zaman tetiklenebileceği gibi sınırlamalar getiriyor.
Uygulamada bu, yapay zekanın bir satın alma işlemi taslağı hazırlayabileceği veya bir rezervasyon oluşturabileceği, ancak onay olmadan bunu sonuçlandıramayacağı anlamına geliyor. Ayrıca bu, sistemin izin verilmediği sürece tüm hizmetlerde özgürce hareket edemeyeceği anlamına da geliyor.
Tom's Guide'a göre bu mekanizma gizlilik için tasarlandı. Veriler cihazda kaldığında, hassas bilgilerin harici sunuculara gönderilmesi ihtiyacı ortadan kalkıyor.
Ödeme gibi alanlarda yapay zeka sistemlerinin, halihazırda katı kuralları olan ortaklarla çalışması bekleniyor. Bildirilen bir örnekte, işlemler tamamlanmadan önce güvenli kimlik doğrulama sağlamak için ödeme sağlayıcılarının hizmetleri entegre ediliyor, ancak bu tür güvenlik önlemleri hala geliştirme aşamasında. Mevcut sistemler ek bir denetim katmanı görevi görüyor. İşlem limitleri belirleyebiliyor veya ek doğrulama isteyebiliyorlar.
Yapay zeka yönetişimi etrafındaki tartışmaların çoğu kurumsal kullanıma odaklanmış durumda. Bu, siber güvenlik ve büyük ölçekli otomasyon gibi alanları kapsıyor. Tüketici tarafı ise farklı bir zorluğu beraberinde getiriyor ve şirketlerin günlük kullanıcılar için işe yarayan kontroller tasarlaması gerekiyor. Bu, net onay adımları ve yerleşik gizlilik korumaları anlamına geliyor.
Sınırları olan özerklik
Yapay zeka eylem gerçekleştirme yeteneği kazandıkça, hataların finansal kayıplara veya veri sızıntılarına yol açabilmesi nedeniyle riskler de artıyor.
Şirketler, onay ve altyapı dahil olmak üzere birçok noktaya kontrol mekanizmaları yerleştirerek bu riskleri yönetmeye çalışıyor.
Bu yaklaşım, aracı yapay zekanın yakın vadede nasıl gelişeceğini şekillendirebilir. Şirketler tam bağımsızlığı hedeflemek yerine, risklerin yönetilebileceği kontrollü ortamlara odaklanmış görünüyor.
(Fotoğraf: Junseong Lee)
Ayrıca bakınız: