Büyük dil modellerinin (LLM) ve sohbet botlarının yükselişiyle karakterize edilen günümüzdeki yapay zeka devrimi, kökenini 2014 yılında Dzmitry Bahdanau tarafından gerçekleştirilen bir buluşa kadar götürüyor. Makine çevirisi üzerinde çalışan Bahdanau, sinir ağlarının hafıza darboğazları nedeniyle uzun cümlelerde yaşadığı kısıtlamaları aşmak için "attention" (dikkat) adlı matematiksel bir işlem tanıttı. Modelin, mevcut çeviri adımında hangi kelimelerin en alakalı olduğunu belirlemek için kaynak cümlenin farklı bölümlerine "göz atmasını" sağlayarak, dikkat mekanizması; zamirlerin neye karşılık geldiği gibi karmaşık dilsel nüansları yönetmede ölçeklenebilir bir yöntem sundu. Bu buluş, 2017 yılında Google'ın...

Konular: Yapay Zeka, Hesaplamalı Dilbilim ve Bilişsel Bilim

SiteM’de tam özet, flashcard ve quiz →

Orijinal kaynak: www.quantamagazine.org

Kaynak: sitem.co — paylas.io yer imi / keşif katmanı.