Hukuk Yüksek Lisanslarında Temelde Bir Sorun Var
Geleceği bugün görmek için kaydolun
Bilim ve teknolojinin en uç noktasından kaçırılmayacak yenilikler
E-posta adresi Teşekkürler!
ChatGPT'nin yazım özelliklerine aşina olduğunuzda, bunları fark etmemeniz imkansız hale gelir. İnternet, genellikle tirelerin cömertçe kullanımı ve tekrarlayan cümle yapılarından belirli ifade biçimlerine ve tona kadar ayırt edici dil kalıpları sergileyen yapay zeka tarafından oluşturulmuş metinlerle dolup taştı.
Bu eğilim o kadar yaygınlaştı ki uzmanlar artık bunun gerçek hayattaki konuşma şeklimizi bile etkileyebileceği konusunda uyarıda bulunuyor.
Tarihçi Ada Palmer ile kriptograf ve yazar Bruce Schneier'in The Guardian için kaleme aldıkları bir görüş yazısında belirttikleri gibi, bu durum bugün büyük dil modellerini rahatsız eden temel bir kusuru pekiştirebilecek çok gerçek bir risktir. Bu modeller çok miktarda yazılı metin, sosyal medya gönderisi, film, televizyon programı ve diğer kayıtlar üzerinde eğitilmiş olsa da, bu veriler genellikle "yüz yüze veya sesli olarak yaptığımız ve konuşmanın büyük çoğunluğunu ve insan kültürünün hayati bir bileşenini temsil eden doğaçlama konuşmalar" konusunda yetersiz kalıyor.
Bu, insanların nihayetinde bu modellerin dilsel kalıplarını benimsemesine ve diğer geniş kapsamlı sonuçlara yol açabilecek devasa bir kör noktadır.
Palmer ve Schneier, "Bu sadece birbirimizle nasıl iletişim kurduğumuzu değil, aynı zamanda kendimiz ve çevremizde olup bitenler hakkında nasıl düşündüğümüzü de etkileyecek," diye yazıyor.
"Dünya algımız, henüz kavramaya yeni başladığımız şekillerde çarpıklaşabilir," diye sonucuna varıyorlar.
Araştırmalar, yapay zeka tarafından oluşturulan dilin, insan konuşmasından daha dar bir kelime dağarcığı kullanırken, ortalamadan daha kısa cümlelere dayandığını zaten göstermiştir. Ayrıca, Palmer ve Schneier'in "duyguları ileten dolambaçlı yollar, kesintiler ve mantık sıçramaları" olarak adlandırdığı, insan tarafından yazılmış metni insan yapan unsurları da feda ediyor.
Daha da kötüsü, ChatGPT'nin ortaya çıkışından sonra geliştirilen yapay zeka modelleri, bizzat bir yapay zeka tarafından üretilen çıktılar üzerinde eğitilme riski taşıyor; bu, makine esintili bu kalıpları daha da pekiştirebilecek tehlikeli bir geri bildirim döngüsüdür.
Dilsel seçimlerin ötesinde, yapay zeka modellerinin uzun süredir kullanıcıya karşı son derece uyumlu veya "yalaka" olduğu, genellikle kullanıcının potansiyel olarak kusurlu veya düpedüz tehlikeli düşünce çizgilerine veya inançlarına boyun eğdiği gösterilmiştir. Palmer ve Schneier, bunun "önyargıları pekiştirebilecek ve hatta psikozu kötüleştirebilecek" bir eğilim olduğunu savunuyor.
Etkilenebilir zihinler için sonuçlar geniş kapsamlı olabilir. Eğitimciler, öğrencilerin kendi başlarına düşünme yeteneklerini kaybettiklerini, bunun yerine cevaplayamadıkları bir soruyla karşılaştıklarında yapay zekaya danışmayı tercih ettiklerini konusunda uyarıyorlar. Üniversite öğrencileri, arkadaşlarının aynı makine tarafından oluşturulan çıktılara güvenerek hepsinin aynı şekilde konuşmaya başlamasından endişe ediyor. Bu arada uzmanlar, iş yerinde yapay zeka ürünlerinin yaygın kullanımının kullanıcıların bilişsel yetilerinin ve eleştirel düşünme becerilerinin bozulmasına neden olabileceğinden endişe ediyor.
Bu yapay zeka modellerinin, "en otantik insan halimizde" olduğumuz zamanları daha iyi yansıtmasını sağlayacak uzun vadeli bir çözüm bulmak zor olabilir. Ancak bu, bir çözüm aramaktan vazgeçmemize neden olmamalı.
Palmer ve Schneier makalelerinde, "En iyi çözümlerin neler olabileceğini bildiğimizi iddia etmiyoruz," sonucuna varıyorlar. "Ancak yapay zeka modellerini geliştirecek yaratıcılık varsa, onları sadece en stilize, gizlenmiş ve bazen de en kötü halimizle değil, gayri resmi insan konuşmalarıyla eğitecek bir yol bulacak yaratıcılığın da kesinlikle var olduğunu düşünmek gerekir."