Suvianna Grecu, AI for Change: Kurallar olmadan, yapay zeka 'güven krizi' riskiyle karşı karşıya
Özet
Yapay zekanın (YZ) hızla yaygınlaşmasıyla birlikte, AI for Change Vakfı Kurucusu Suvianna Grecu, güçlü bir yönetişim olmadan "ölçekli zararı otomatikleştirme" riski konusunda uyarıyor. Grecu'ya göre, YZ etiği, pratik araçlarla geliştirme iş akışlarına dahil edilmeli ve hesap verebilirliğin sağlanması için süreçler şeffaf ve tekrarlanabilir olmalıdır. Ayrıca, YZ'nin güvenini inşa etmek ve riskleri azaltmak için hem hükümet hem de sektör işbirliğine dayalı bir yaklaşım benimsenmelidir. Bu sayede, YZ etiği felsefi bir tartışmadan yönetilebilir, günlük bir göreve dönüştürülebilir.
Dünya, yapay zekayı (YZ) kullanıma sokma yarışında, ancak teknoloji etiğinin önde gelen bir sesi, güvenliğin önüne hızı koymanın bir "güven krizi" riski taşıdığı konusunda uyarıyor.
AI for Change Vakfı'nın Kurucusu Suvianna Grecu, acil ve güçlü bir yönetişim olmadan, "ölçekli zararı otomatikleştirme" yolunda olduğumuzu savunuyor.
YZ'nin kritik sektörlere entegrasyonu hakkında konuşan Grecu, en acil etik tehlikenin teknolojinin kendisi değil, onun kullanıma sunulmasını çevreleyen yapı eksikliği olduğuna inanıyor.
Güçlü sistemler giderek artan bir şekilde iş başvuruları ve kredi notlarından sağlık hizmetleri ve ceza adaletine kadar her konuda hayat değiştiren kararlar alıyor ve genellikle önyargı için yeterli test yapılmadan veya uzun vadeli toplumsal etkileri dikkate alınmadan alınıyor.
Birçok kuruluş için YZ etiği, günlük operasyonel bir gerçeklikten ziyade, yüksek ilkelerin bir belgesi olarak kalıyor. Grecu, gerçek hesap verebilirliğin ancak birinin sonuçlardan gerçekten sorumlu tutulmasıyla başladığını savunuyor. Niyet ve uygulama arasındaki boşluk, asıl riskin yattığı yerdir.
Grecu'nun vakfı, soyut fikirlerden somut eyleme geçişi savunuyor. Bu, etik hususları doğrudan geliştirme iş akışlarına, tasarım kontrol listeleri, zorunlu dağıtım öncesi risk değerlendirmeleri ve yasal, teknik ve politika ekiplerini bir araya getiren çok işlevli inceleme kurulları gibi pratik araçlarla dahil etmeyi içerir.
Grecu'ya göre, anahtar, her aşamada net bir sahiplik oluşturmak, tıpkı diğer herhangi bir temel işlevi için yapacağınız gibi, şeffaf ve tekrarlanabilir süreçler oluşturmaktır. Bu pratik yaklaşım, etik YZ'yi ilerletmeyi, onu felsefi bir tartışmadan bir dizi yönetilebilir, günlük göreve dönüştürmeyi amaçlıyor.
YZ güvenini inşa etmek ve riskleri azaltmak için ortaklık
Uygulamaya gelince, Grecu, sorumluluğun yalnızca hükümetin veya sektörün üzerine düşemeyeceği konusunda açık. "Ya o ya da bu değil, ikisi de olmalı," diyor ve işbirliğine dayalı bir modeli savunuyor.
Bu ortaklıkta, hükümetler yasal sınırları ve asgari standartları, özellikle temel insan haklarının söz konusu olduğu yerlerde belirlemelidir. Düzenleme, temel zemini sağlar. Ancak, sektör, salt uyumun ötesinde yenilik yapmak için çevikliğe ve teknik yeteneğe sahiptir.
Şirketler, gelişmiş denetim araçları oluşturmak, yeni koruma önlemlerine öncülük etmek ve sorumlu teknolojinin başarabileceği şeylerin sınırlarını zorlamak için en iyi konumdadır.
Yönetişimi tamamen düzenleyicilere bırakmak, ihtiyacımız olan yeniliği engelleme riskini taşırken, onu yalnızca şirketlere bırakmak ise suistimallere davetiye çıkarır. Grecu, "İşbirliği, ileriye giden tek sürdürülebilir yoldur" diye belirtiyor.
Değer odaklı bir geleceği teşvik etmek
Acil zorlukların ötesine bakıldığında, Grecu, özellikle duygusal manipülasyon ve değer odaklı teknolojiye acil ihtiyaç olmak üzere, yeterli ilgi görmeyen daha ince, uzun vadeli riskler konusunda endişeli.
YZ sistemleri insan duygularını ikna etme ve etkileme konusunda daha yetenekli hale geldikçe, bunun sonuçları için hazırlıksız olduğumuz konusunda uyarıyor.