Bugün öğrendim ki: 2017 yılında Facebook robotları yalnızca kendilerinin anlayabileceği bir dilde birbirleriyle konuştukları için kapatıldı
[Bu makale aslen 2017 yılında yayınlanmıştır]
Facebook, iki yapay zekâ programının sadece kendilerinin anlayabileceği garip bir dilde birbirleriyle sohbet etmeye başlamasının ardından bir deneyi sonlandırdı.
İki sohbet robotu, işlerini kolaylaştırmak için İngilizce'de kendi değişikliklerini yarattı; ancak bu değişiklikler, onları denetlemesi gereken insanlar için gizemini korudu.
Garip tartışmalar, Facebook'un sohbet robotlarını birbirleriyle bir ticaret üzerinde pazarlık yapmaya, belirli bir değere sahip şapkalar, toplar ve kitaplar takas etmeye çalışmaya zorlamasıyla başladı. Ancak robotlar birbirlerine, her ikisinin de anladığı ancak insanların çoğunlukla anlamasının imkânsız göründüğü bir dilde tezahürat eder gibi görününce tartışmalar hızla bozuldu.
Robotlara, kendi aralarında nasıl pazarlık yapacaklarını ve pazarlık becerilerini geliştirmeyi öğretmeleri talimatı verilmişti. Ancak araştırmacılara göre, anlaşılabilir İngilizce kullanmaları söylenmediği için kendi "kısaltmalarını" yaratabildiler.
Gerçek pazarlıklar çok garip görünüyor ve özellikle faydalı görünmüyor:
Ancak konuşmada bazı kurallar var gibi görünüyor. Sohbet robotlarının kendi adlarını sürekli vurgulamaları, mesajların okunma biçiminde basit bir aksaklık değil, pazarlıklarının bir parçası gibi görünüyor.
Aslında, bu garip dilde yürütülen pazarlıkların bazıları bile, tamamen bu garip dili kullanarak başarıyla sonuçlandı.
Daha etkili konuşmalarına olanak sağlayan bir tür kısaltma oluşturmuş olabilirler.
Facebook Yapay Zeka Araştırma bölümünün misafir araştırmacısı Dhruv Batra, “Aracılar anlaşılabilir dilin dışına çıkıp kendileri için kod kelimeler icat edeceklerdir,” dedi. “Mesela, ‘the’ kelimesini beş kere söylerseniz, bunun bu öğeden beş kopya istediğiniz anlamına geldiğini anlarım. Bu, insan topluluklarının kısaltmalar yaratma biçiminden çok farklı değil.”
Bununla birlikte, dilbilimci Mark Liberman'a göre, dilin yeni insan konuşma biçimlerinin öncüsü olması olası değil.
Blogunda, "Öncelikle, tamamen metin tabanlıdır, oysa insan dilleri temelde konuşma (veya jest) tabanlıdır, metin yapay bir ektir," diye yazdı. "Ve bunun ötesinde, bu sürecin insan dillerinin karakteristik kelime, cümle ve cümle yapısına sahip bir sistem ortaya çıkarıp çıkarmadığı belirsizdir."
Şirket, araştırmacı Mike Lewis'in FastCo'ya söylediği gibi sohbetleri kapatmayı seçti çünkü "ilgimizi çeken insanlarla konuşabilen botlardı". (Araştırmacılar, başka yerlerde öne sürüldüğü gibi sonuçlardan korktukları veya panikledikleri için değil, farklı davranmalarını istedikleri için programları kapatmadılar.)
Sohbet robotları ayrıca çok insana benzeyen şekillerde pazarlık yapmayı da öğrendiler. Örneğin, FAIR tarafından yayınlanan bir makaleye göre, belirli bir öğeye çok ilgili olduklarını taklit ederlerdi - böylece daha sonra onu bırakırken büyük bir fedakarlık yaptıklarını taklit edebilirlerdi.
Facebook'un deneyi, yapay zekanın yeni dil biçimleri icat etmesinin tek örneği değil.
2017'nin başlarında Google, Çeviri aracında kullandığı yapay zekanın, kendi dilini yarattığını ve şeyleri bu dile çevirip sonra bu dilden geri çevirdiğini açıkladı. Ancak şirket bu gelişmeden memnundu ve devam etmesine izin verdi.
OpenAI'deki bir başka çalışma, yapay zekanın bir dil yaratmaya teşvik edilebileceğini, bunu yaparken kendisini daha verimli ve daha iyi iletişim kuran hale getireceğini buldu.