Koalisyon, OpenAI'nin kâr amacı gütmeyen köklerinden uzaklaşmasına karşı çıkıyor
Özet
Bir grup uzman, OpenAI'nin kar amacı gütmeyen köklerinden uzaklaşmasına karşı çıkarak şirketin temel misyonunun tehlikeye girdiğini savunuyor. Hukuk ve yapay zeka uzmanlarından oluşan grup, şirketin kar amacı güden bir yapıya geçme planının, yapay genel zekanın (AGI) geliştirilmesinde insanlığın yararını önceleyen yönetişim korumalarını ortadan kaldıracağını belirtiyor. Uzmanlar, bu değişimin, AGI'nin nihai kontrolünü hayır kurumundan hissedarlara devredeceğinden endişe ediyor. OpenAI'nin kurucuları, AGI'nin potansiyel risklerine rağmen, başlangıçta AGI'nin tamamen ticari kuruluşlar tarafından geliştirilmesinden endişe duymuşlardı.
Eski OpenAI çalışanları da dahil olmak üzere bir grup uzman, şirketin kar amacı gütmeyen köklerinden uzaklaşmasına şiddetle karşı çıktı.
California ve Delaware başsavcılarına hitaben yazılan açık bir mektupta, grup - hukuk uzmanları, kurumsal yönetişim uzmanları, yapay zeka araştırmacıları ve kar amacı gütmeyen kuruluş temsilcileri de dahil olmak üzere - önerilen değişikliklerin OpenAI'nin orijinal hayırsever misyonunu temelden tehdit ettiğini savunuyor.
OpenAI benzersiz bir yapıyla kuruldu. Şirketin kuruluş maddelerinde belirtilen temel amacı, herhangi bir "kişinin özel kazancına" hizmet etmek yerine "yapay genel zekanın tüm insanlığın yararına olmasını sağlamaktır."
Mektubu imzalayanlar, mevcut kar amacı güden bir yan kuruluşun (OpenAI-profit) orijinal kar amacı gütmeyen kuruluş (OpenAI-nonprofit) tarafından kontrol edilmesinden, Delaware kamu yararı şirketine (PBC) dönüştürülmesine yönelik planlanan yeniden yapılandırmanın, temel yönetişim korumalarını ortadan kaldıracağını iddia ediyor.
İmzacılar, bu değişimin, potansiyel olarak dönüştürücü Yapay Genel Zeka'nın (AGI) geliştirilmesi ve konuşlandırılması üzerindeki nihai kontrolü, insanlığın yararına odaklanan bir hayır kurumundan, hissedarlara karşı sorumlu bir kar amacı güden bir kuruluşa devredeceğini savunuyor.
OpenAI'nin orijinal vizyonu: Bir siper olarak kar amacı gütmeyen kontrol
OpenAI, AGI'yi "insanları çoğu ekonomik açıdan değerli işte geride bırakan oldukça otonom sistemler" olarak tanımlıyor. OpenAI liderliği, AGI'nin "insanlığı yüceltme" potansiyelini kabul ederken, aynı zamanda "kötüye kullanma, ciddi kazalar ve toplumsal bozulma riski" konusunda da uyardı.
Kurucu ortak Sam Altman ve diğerleri, AGI'nin yok olma risklerini azaltmayı, salgın hastalıkları ve nükleer savaşı önlemekle eşdeğer tutan ifadeler bile imzaladı.
Altman, Elon Musk ve Greg Brockman dahil olmak üzere şirketin kurucuları, başlangıçta Google gibi tamamen ticari kuruluşlar tarafından AGI geliştirilmesi konusunda endişeliydiler. OpenAI'yi özellikle "finansal getiri üretme ihtiyacıyla kısıtlanmayan" kar amacı gütmeyen bir kuruluş olarak kurdular. Altman 2017'de belirttiği gibi, "Sorumlu olmak istediğimiz tek kişi, bütün olarak insanlıktır."
OpenAI, gerekli yatırımı çekmek için 2019'da "sınırlı kar" yan kuruluşu oluşturduğunda bile, kar amacı gütmeyen ana kuruluşun kontrolü elinde tuttuğunu ve misyonun öncelikli olduğunu vurguladı. Temel korumalar şunları içeriyordu:
Kar amacı gütmeyen kontrol: Kar amacı güden yan kuruluş, açıkça "OpenAI Nonprofit'in yönetim kurulu tarafından kontrol ediliyordu".
Sınırlı karlar: Yatırımcı getirileri sınırlandırıldı, aşan değer insanlığın yararı için kar amacı gütmeyen kuruluşa aktarıldı.
Bağımsız kurul: Kar amacı gütmeyen yönetim kurulu üyelerinin çoğunluğunun, yan kuruluşta hiçbir mali çıkarı olmayan bağımsız olması gerekiyordu.
Vekalet görevi: Kurulun yasal görevi yalnızca yatırımcı karını en üst düzeye çıkarmak değil, kar amacı gütmeyen kuruluşun misyonuna hizmet etmekti.
AGI mülkiyeti: AGI teknolojileri, yönetmek üzere açıkça kar amacı gütmeyen kuruluşa ayrılmıştı.
Altman bizzat 2023'te Kongre'ye verdiği ifadede, bu "alışılmadık yapının" "[