Yazının Orjinali: ‘Godfather of AI’ Geoffrey Hinton quits Google and warns over dangers of misinformation
Yapay zekanın öncüsü Hinton, sohbet robotlarının tehlikelerinin “oldukça korkutucu” olduğunu söylüyor ve “kötü aktörler” tarafından sömürülebilecekleri konusunda uyarıyor.
Sık sık yapay zekanın babası olarak anılan Geoffrey Hinton; yanlış bilgi akışı, yapay zekanın iş piyasasını alt üst etme olasılığı ve gerçek bir dijital zekanın yaratılmasının ortaya çıkardığı “varoluşsal risk” konusundaki endişeleri gerekçe göstererek yakın zaman önce Google’dan ayrıldı.
2012’de Toronto Üniversitesi’ndeki iki öğrencisiyle bir sinir ağı kuran Doktor Geoffrey Hinton, ilk olarak New York Times tarafından bildirildiği üzere Google’dan ayrıldı.
Son pişmanlık!
75 yaşındaki Hinton, AI’nın (Artifical Intelligence) tehlikeleri hakkında özgürce konuşmadığını ve bu alana yaptığı katkılardan kısmen pişmanlık duyduğunu söyledi.
Hinton, şirketin yapay zeka teknolojisinin geliştirilmesine yardımcı olması için on yıl önce Google tarafından işe alındı ve öncülük ettiği yaklaşım, ChatGPT gibi mevcut sistemlerin yolunu açtı.
New York Times’a yaptığı açıklamada Hinton, geçen yıla kadar Google’ın teknolojinin “uygun bir temsilcisi” olduğuna inandığını, ancak Microsoft’un Bing arama motoruna bir sohbet robotu eklemeye başlamasıyla bu durumun değiştiğini ve şirketin işe ilişkin risk konusunda endişelenmeye başladığını söyledi.
BBC’ye verdiği demeçte, AI sohbet robotlarının bazı tehlikelerinin “oldukça korkutucu” olduğunu söyleyerek, insanlardan daha zeki olabilecekleri ve “kötü aktörler” tarafından sömürülebilecekleri konusunda uyardı:
“Otomatik olarak çok sayıda metin üretebilir, böylece çok sayıda çok etkili istenmeyen e-posta robotu elde edebilirsiniz. Otoriter liderlerin seçmenlerini manipüle etmesine bile olanak sağlayabilir ve bunun gibi bir sürü tehlike.”
“Varoluşsal risk söz konusu”
Ayrıca Hilton, “bu şeyler bizden daha zeki hale geldiğinde ne olacağına dair varoluşsal risk” konusunda da endişe duyduğunu sözlerine ekledi.
Hinton; “Geliştirmekte olduğumuz zeka türünün sahip olduğumuz zekadan çok farklı olduğu sonucuna vardım” dedi.
“Yani sanki 10.000 kişi varmış gibi ve bir kişi bir şey öğrendiğinde herkes otomatik olarak öğrenebilir. Ve bu sohbet robotları, herhangi bir kişiden çok daha fazlasını bu şekilde bilebilir.”
Hinton ayrıca yapay zekanın eninde sonunda avukat yardımcıları, kişisel asistanlar ve diğer “zor işler” gibi işlerin ve gelecekte potansiyel olarak daha fazlasının yerini alacağından endişe duyduğunu açıkladı.
Elon Musk da “korkuyor”
Yapay zeka araştırmalarının üst kademelerinde, teknolojinin insanlığa ciddi zararlar verebileceğinden korkan yalnız Hinton değil. Geçen ay Elon Musk, Google’ın kurucu ortağı Larry Page ile arasının, Page’in “yapay zeka güvenliğini yeterince ciddiye almaması” nedeniyle bozulduğunu söyledi. Musk, Fox News’e dijital süper zekanın temelde bir dijital tanrı olduğunu hatırlatarak Page’in bu dijital tanrıyı mümkün olan en kısa sürede gerçekleştirmek istediğine dikkat çekti.
Quebec Yapay Zeka Enstitüsü Mila’nın CEO’su Valérie Pisano, yapay zeka sistemlerinde güvenliğe yönelik abartılı yaklaşımın başka hiçbir alanda tolere edilmeyeceğini kaydetti:
“Teknoloji ortaya kondu ve sistem insanoğluyla etkileşime girerken, yapay zeka geliştiricileri ne olacağını görmek için bekliyor ve buna göre ayarlamalar yapıyor. Kolektif olarak başka hiçbir endüstriyel alanda bu tür bir zihniyeti asla kabul etmeyiz. Teknoloji ve sosyal medya hakkında şöyle bir anlayış var: ‘Evet, elbette, sonra çözeceğiz.’ Bu anlayış oldukça tehlikeli.”
Hinton’un kısa vadedeki endişesi çoktan gerçek oldu. İnsanlar artık yapay zeka tarafından üretilen fotoğraflar, videolar ve internete akan metinlerle neyin doğru olduğunu ayırt edemeyecekler.
Yeni Güney Galler Üniversitesi Yapay Zeka Enstitüsü Başkanı ve bilim insanı Toby Walsh, insanların şu anda gördükleri herhangi bir çevrimiçi medyayı sorgulamaları gerektiğini söyledi.
“Gördüğünüz herhangi bir dijital veri söz konusu olduğunda – ses veya video – birisinin onu taklit ettiği fikrini aklınıza getirmelisiniz.”
Midjourney gibi görüntü oluşturucularda yapılan son güncellemeler, insanların artık ‘gerçekçi fotoğraf’ veya görüntüler üretebileceği anlamına geliyor.
Buna iyi bir örnek olarak Papa Françis’in Balenciaga kirpi mantolu görüntüsü Mart ayında viral olmuştu.
Çeviri: Şehade İbrahim
Yorum ekle