AI Sahte Haberleri Algılayabilir mi?

İçerik

• Bir hırsızı yakalamak. . .
• Hata Yok, Stres Yok - Hayatınızı Yok Etmeden Hayat Değiştiren Yazılım Yaratma Adım Adım Kılavuzunuz
• Formanın Durdurulması

Kaynak: Mast3r / Dreamstime.com

Paket servisi:

Araştırmacılar sahte haberlerle mücadele etmek için AI'ya yöneliyorlar. Fakat bu gerçekten yardımcı olabilir mi, yoksa işleri daha da kötüleştirir mi?

Sahte haberler, genel olarak halk söylemimiz üzerindeki genel aşındırıcı etkisinden bahsetmek yerine, gelecek cumhurbaşkanlığı seçimleri tarafında büyük bir diken olması bekleniyor. Günümüzün bağlı toplumunda, kurgudan gerçeği ayırt etmek gittikçe zorlaşmakta ve bu nedenle bazı araştırmacılar bu sorunu çözmek için yapay zekanın gücüne odaklanmaya başlamaktadır.

Elbette umut, makinelerin ya da daha doğru bir şekilde algoritmaların, yalanları tespit eden insanlardan daha iyi olacağıdır. Ancak bu gerçekçi bir beklenti mi yoksa görünüşte anlaşılmaz bir problemde teknolojiyi fırlatmanın başka bir örneği mi?

Bir hırsızı yakalamak. . .

Veri bilim adamlarının AI’nın bu alandaki zekasını keskinleştirmeyi planladığı yollardan biri, sahte haberler üretmelerine izin vermektir. Washington Üniversitesi'ndeki Allen AI Enstitüsü, çok çeşitli konularda yanlış hikayeler oluşturmak için tasarlanan doğal bir dil işleme motoru olan Grover'ı geliştirdi ve halka açıkladı. Bu ilk bakışta üretken görünebilir gibi görünse de, aslında bir makinenin diğerinin çıkışını analiz ettiği oldukça yaygın bir AI eğitim taktiği. Bu şekilde, analitik taraf gerçek sahte haberlere dayanmaktan çok daha hızlı bir şekilde hızlandırılabilir. Enstitü, Grover'in zaten% 92'lik bir doğruluk derecesiyle faaliyet gösterebileceğini iddia ediyor, ancak akıllı bir insanın hala sahte bir hikaye gizleyebileceği anlamına gelen yalnızca AI tarafından oluşturulan içerikle insan tarafından oluşturulan içerik arasında ayrım yapma konusunda ustaca davrandığını belirtmek önemlidir. Geçti. (Daha fazla bilgi edinmek için Sahte Haberlerle Mücadele Etrafındaki Teknolojileri inceleyin.)

Tabii ki doğru ellerde Grover, sahte haberlerin nasıl yaratıldığına ve nasıl yayıldığına dair anlayışımızı hızla ilerletebilir ve bu teorik olarak onu gerçek dünyada engellemek için kullanılabilir. Ancak Futurism.com’un son zamanlarda belirttiği gibi, bir test çalışması için sistemi almış bazı uzmanlar, inandırıcı yalanlar yaratmanın ne kadar etkili olduğu ve hatta Wall Street Journal ve New York gibi meşru haber çıkışlarının yazı stillerini taklit ettiği konusunda endişe duyuyor. Zamanlar.

Ancak, yalan söylemek doğası gereği sezgisel ve duygu odaklı bir hareket olduğundan, hala soğuk, sert mantık tarafından yönlendirilen en zeki makinelerin bile yalan söylemek için gereken sıradan anlayış seviyesine ulaşması mümkün mü? Unbabel’den Maria Almeida geçtiğimiz günlerde bazı yinelemelerin bu konuda oldukça iyi olmasına rağmen, hiçbir algoritmanın tam bir insan anlayışı elde etmeyi ümit edemediğini belirtti. Bu, AI'nın gerçek kontrolü ve karşılaştırmalı analizde çarpıcı iyileştirmeler yapabileceği anlamına gelir, ancak son çağrı en iyi eğitimli uzmanlara bırakılmıştır.

Bununla birlikte, ironik olarak, bu yetenek, sosyal medyada tur atmaya başlayan derin sahte videoların tespitinde en faydalı olacaktır. AI, görsel verileri ayrı ayrı piksellere kadar analiz edebilen AI ile, değiştirilmiş görüntüleri bulmakta değiştirilmiş kelimelerden ve kavramlardan çok daha usta olacaktır.

Yine de, Forbes’in Charles Towers-Clark’ı savunuyor, sahte haberlerle ilgili temel sorun, birkaç insanın yarattığı değil, birçok insanın bundan etkilendiğidir. İnsanlar inanmak istediklerine inanma eğilimindedir, gerçeklerin inanmalarına neden olan şey değil. Bu nedenle, gelişmiş bir AI motoru, inançlarının yanlış olduğunu beyan etse bile, insanlar makineden şüphe duymaya daha uygun olacaklardır.

“Sahte haberlerin yayılması ile mücadele etmek için makine öğrenmesini uygulamak hayranlık uyandırıcı” diyor ve “büyük medya haber bültenlerinin güvenilirliği sorgulandığı için bu sorunu çözme ihtiyacı var. Ancak, sosyal medya tarafından birleştirilen yanlış bilginin yayılmasıyla, sahte haber kaynaklarını tespit edip açığa vurarak insan içgüdüsünün üstümüze ne geldiğine inanması önlenebilir mi? ”

Hata Yok, Stres Yok - Hayatınızı Yok Etmeden Hayat Değiştiren Yazılım Yaratma Adım Adım Kılavuzunuz

Hiç kimse yazılım kalitesiyle ilgilenmediğinde programlama becerilerinizi geliştiremezsiniz.

Öyleyse asıl zorluk, sahte haberleri tanımlamak ve küçümsemek değil, bunun neden sosyal medyada gerçek haberlerden çok daha hızlı yayılmaya meyilli olduğunu anlamaktır. Bu, kısmen, gerçeğin karşılaştırmalı tediumuna karşı heyecan verici ve sakat olma eğiliminde olan sahte haberin doğasından kaynaklanmaktadır. Sonunda, teknolojinin esas olarak teknik olmayan bir sorunun ne olduğunu düzeltmesini beklemek gerçekçi midir? (AI'nin medyayı nasıl değiştirdiği hakkında daha fazla bilgi için bkz. Yayınlama ve Medyada 5 AI İlerlemesi.)

Formanın Durdurulması

ZDNet’in Robin Harris’i, AI’yı sahte haberlerin teknik yönüne odaklamanın önemli olmasının nedeni budur. Ve aslında, çoğu araştırmacı, doğal ve yapay yayılım modellerini sosyal ağlar arasında ayırt etmek gibi şeyleri açıklamak için AI eğitimi almaktadır. Dönüşüm ağacı oranları, retweet zamanlaması ve genel yanıt verileri gibi temel metrikler, kaynağı dijital alt katman katmanları altında gizlenmiş olsa bile dezenformasyon kampanyalarını tanımlamak ve etkisiz hale getirmek için kullanılabilir. Aynı zamanda, AI, izlenebilir, doğrulanabilir bilgi kanallarını sürdürmek için blockchain gibi diğer teknolojileri yönetmek için kullanılabilir.

Gerçek şu ki, sahte haber yeni bir fenomen değildir. 20'nin başındaki hackraking gazeteciliğinden^inci yüzyılın başlarında, ilk uygarlıkların propagandasına, halkı göz kamaştırmak, hem oturan hükümetler hem de devrimciler için zamanın onuruna dayalı bir gelenektir. Günümüzdeki fark, dijital teknolojinin bu yeteneği, neredeyse herkesin yalan söyleyebileceği ve birkaç saat içinde dünyaya yayıldığını izleyebileceği noktaya demokratikleştirdi.

AI gibi teknolojiler kesinlikle bu karışıklığa biraz açıklık getirmeye yardımcı olabilir, ancak yalnızca insanlar gerçeği tam olarak anlayabilir ve değerlendirebilir.