Halüsinasyonlarla mücadele: MIT yan kuruluşu yapay zekaya hiçbir şey bilmediğinde bunu kabul etmeyi öğretiyor
Özet
Yapay zeka sistemlerinin halüsinasyonları artan öneme sahipken, MIT spin-off'u Themis AI, yapay zeka sistemlerine "emin değilim" demeyi öğreten bir platform geliştirdi. Capsa adlı bu platform, yapay zekanın belirsizlik anlarını tespit ederek hataları önlemeye yardımcı olur ve çoğu yapay zeka sistemine entegre edilebilir. Themis AI, telekomünikasyon, petrol ve gaz gibi çeşitli sektörlerde maliyetli hataları önlemeye yardımcı olduğunu kanıtladı. Bu teknoloji, yapay zeka sistemlerinin kritik görevlerde yer aldığı düşünüldüğünde önemli bir öz-farkındalık katmanı sunuyor.
Yapay zeka halüsinasyonları, modellerin bilgi sunmak ve kritik kararlar almak için giderek daha fazla güvenilir hale gelmesiyle daha tehlikeli hale geliyor.
Hepimizin, bir şey bilmediğini kabul edemeyen veya internette okuduklarına dayanarak güvenilmez tavsiyelerde bulunan o ukala arkadaşı vardır. Yapay zeka modellerinin halüsinasyonları o arkadaşa benzer, ancak bu arkadaş kanser tedavi planınızı hazırlamakla görevli olabilir.
İşte Themis AI devreye giriyor. Bu MIT spin-off'u, teoride basit görünen ancak aslında oldukça karmaşık olan bir şey başarmayı başardı: Yapay zeka sistemlerine "Bundan emin değilim." demeyi öğretmek.
Yapay zeka sistemleri tipik olarak aşırı özgüven sergiler. Themis'in Capsa platformu, yapay zeka için bir gerçeklik kontrolü görevi görür ve modellerin kesinlikten ziyade tahmine dayalı hareket ettiklerini fark etmelerine yardımcı olur.
2021 yılında MIT Profesörü Daniela Rus tarafından, eski araştırma arkadaşları Alexander Amini ve Elaheh Ahmadi ile birlikte kurulan Themis AI, neredeyse tüm yapay zeka sistemleriyle entegre olabilen ve hatalara yol açmadan önce belirsizlik anlarını işaretleyen bir platform geliştirdi.
Capsa, temel olarak yapay zekayı, kafası karışmış, önyargılı olduğunu veya halüsinasyonlara yol açabilecek eksik verilerle çalıştığını gösterebilecek bilgileri nasıl işlediğindeki kalıpları tespit etmesi için eğitiyor.
Themis, lansmanından bu yana, telekomünikasyon şirketlerinin maliyetli ağ planlama hatalarından kaçınmasına, petrol ve gaz şirketlerinin karmaşık sismik verileri anlamasına yardımcı olduğunu ve kendinden emin bir şekilde uydurmayan sohbet robotları oluşturma üzerine araştırmalar yayınladığını iddia ediyor.
Çoğu insan, yapay zeka sistemlerinin ne sıklıkla sadece en iyi tahminlerini yaptığının farkında değil. Bu sistemler giderek daha kritik görevleri üstlendikçe, bu tahminlerin ciddi sonuçları olabilir. Themis AI'nin yazılımı, eksik olan bir öz-farkındalık katmanı ekliyor.
Themis'in yapay zeka halüsinasyonlarıyla mücadele yolculuğu
Themis AI'ye giden yol, Profesör Rus'un MIT laboratuvarında yıllar önce, ekibin temel bir sorunu araştırmasıyla başladı: Bir makineye kendi sınırlarının farkında olmasını nasıl sağlarsınız?
2018'de Toyota, hataların ölümcül olabileceği bir sektör olan, kendi kendine giden araçlar için güvenilir yapay zeka araştırmalarını finanse etti. Otonom araçların yayaları ve diğer yol tehlikelerini doğru bir şekilde tanımlaması gerektiğinde riskler inanılmaz derecede yüksektir.
Çığır açan gelişmelerini, yüz tanıma sistemlerindeki ırksal ve cinsiyet önyargısını tespit edebilen bir algoritma geliştirdiklerinde elde ettiler. Sistemleri, sadece sorunu tespit etmekle kalmadı, aynı zamanda eğitim verilerini yeniden dengeleyerek, yani yapay zekaya kendi önyargılarını düzeltmeyi öğreterek sorunu gerçekten düzeltti.
2021 yılına gelindiğinde, bu yaklaşımın ilaç keşfinde nasıl devrim yaratabileceğini göstermişlerdi. Yapay zeka sistemleri potansiyel ilaçları değerlendirebilir, ancak -kritik olarak- tahminlerinin sağlam kanıtlara mı yoksa tahmine mi yoksa tamamen halüsinasyonlara mı dayandığını işaretleyebiliyordu. İlaç endüstrisi, yapay zekanın emin olduğu ilaç adaylarına odaklanarak paradan ve zamandan tasarruf etme potansiyelini fark etti.
Teknolojinin bir diğer avantajı da