Özet (TL;DR) @ 2018-03-13T16:55:00.000Z: Yapay zekanın halüsinasyon görmesi özellikle sürücüsüz otomobil gibi teknolojilerde büyük tehlike teşkil ediyor.


Bilim

16:55 13.03.2018(Guncellendi 16:59 13.03.2018) URL'yi kısaltın

Yapay zekanın halusinasyon gormesi ozellikle surucusuz otomobil gibi teknolojilerde buyuk tehlike teşkil ediyor.

Yaşamın her alanına girmeye başlayan yapay zeka teknolojisinde buyuk ve giderilmesi zor bir sorun ortaya çıktı. Bir grup araştırmacının imaj, ses ve metinlerde yaptığı oldukça kuçuk değişiklikler yapay zekanın aslında var olmayan şeyleri gormesine, algılamasına yol açtı.

The Wire'da yer alan habere gore yapay zekanın halusinasyon gorebildiğini ortaya çıkaran çalışma MIT oğrencisi Anish Athalye ve ABD'nin saygın universitelerinden biri olan Berkeley'den Nicholas Carlini ve David Wagner tarafından yapıldı. Proje, Google, Amazon gibi dev şirketlerin yanı sıra pek çok onemli kurum ve kuruluşun kullandıkları yapay zeka teknolojilerinin halusinasyon yoluyla kolayca sabote edilebileceklerini ortaya koydu.

KAYAK YAPAN İKİ KİŞİYİ KÖPEK OLARAK ALGILADI

(C) Fotoğraf:

Yapay zeka halusinasyon gorebiliyor

Proje kapsamında uzerinde çok ince bir oynama yapılan kayak yapan iki kişinin gorulduğu bu fotoğraf, insanlar tarafından kolaylıkla algılanabilirken Google'ın Cloud Vision servisi yuzde 91 oranında bir kesinlikle fotoğrafta bir kopek gorduğunu belirtti.

Çalışmada benzer turde değişiklikler 'Dur' işaretinin gorunmez hale gelmesine ya da seslerin soylenenlerden tamamen farklı algılanmasına yol açtı.

Yapay zekadaki bu zaafın ozellikle surucusuz otomobil gibi sistemlerde buyuk tehlike teşkil ettiği belirtiliyor. Kişilerin banka ya da kredi kartlarını kullandıkları sesli yanıt sistemleri de halusinasyon yoluyla sabotaja maruz kalabilir.