OpenAI tarafından üretilen DALL-E2, Ocak 2022’de piyasaya sürülen kendi kendine öğrenen bir metinden imgeye oluşturucu.
Ana fonksiyonu, kullanıcılar tarafından sağlanan metin istemlerini kullanmak ve sözcükleri altyazılarla eşleştirmek için bir fotoğraf oluşturmak.
TRT Haber’de yer alan bilgilere nazaran yazılım web tabanlı çalışıyor. Size bıraktığı tek şey, başınızda tasarladığınız sahneyi sözlere dökmeniz. Gerisini yapay zeka hallediyor.
Ancak, Bilgisayar Bilimleri doktora öğrencisi Giannis Daras’a nazaran, DALL-E2’nin yetenekleri bununla hudutlu kalmadı.
Yalnızca istendiğinde anlamsız sözcükleri döndürebildiği için metin üretme yeteneği oluşturdu.
Ancak araştırmacılar, programın anlaşılmaz görünen kelamlarında çok daha fazlasının olabileceğini fark etti.
KELİME DAĞARCIĞI GELİŞTİRDİ
Daras , “Bu üretilen metin çıktısının rastgele olmadığını, daha çok modelin dahili olarak geliştirdiği görünen kapalı bir söz dağarcığını ortaya çıkardığını keşfettik” dedi.
Daras, DALL-E2 algoritmasına “sebzelerle ilgili konuşan çiftçiler”i görsel olarak yaratması komutunu veriyor. DALL-E2 bu komut karşısında yarattığı metinde “vicootes” diye bilinmeyen bir söz kullanıyor.
Sonra Daras, bu kere algoritmaya “vicootes”i görsel olarak yaratma komutu verince DALL-E2 zerzevat görselleri göstermeye başlıyor.
Daha da ilginci çiftçi görsellerinin kodunda “poploe vesrreaitars” diye mana tabir etmeyen diğer bir söz daha bulunuyor. Bunu algoritmaya girdiğinde ise karşısına kuş görselleri geliyor. Daras’a nazaran “poploe vesrraeaitars” DALL-E2’nin kendi yarattığı lisanda kuşlara verdiği isim.
Daras, DALL-E2’nin kendi lisanını yaratmasının ortaya çıkaracağı güvenlik problemlerine vurgu yapıyor. Ayrıyeten bunun pek çok farklı formda yorumlanabileceğini söylüyor.
Daras’ın bu tezleri şimdilik kanıtlanmamış durumda.
Daras ve bir meslektaşı tarafından hazırlanan makalenin başka meslektaşlarına sunulup onlar tarafından da incelenmesi ve onaylanması gerekiyor.