İçerik
Sunan: AltaML
S:
Neden bazı şirketler modern AI sistemlerine “insan geri bildirimi kontrolleri” eklemeyi düşünüyor?
A:
En gelişmiş AI teknolojisi ile çalışan bazı şirketler, bu sistemler için insan kontrolleri oluşturmak için çalışmakta, makine öğrenmesi ve derin öğrenme araçlarına doğrudan insan gözetimi sağlamaktadır. Bu şirketler de küçük oyuncular değil - Google’ın DeepMind ve Elon Musk’un OpenAI’sı yapay zeka alanındaki ilerlemeler hakkında bilgi sahibi olan iki büyük şirket örneği. Bunu akılda tutarak, sonuçlar farklıdır - örneğin, DeepMind, OpenAI'nin çok daha iyi olmasına rağmen, kamuya anahtar veri sağlama konusundaki algılanmasındaki isteksizlik konusundaki tartışmalara konu olmuştur. açık Yapay zekayı kontrol etme çalışmaları hakkında.
Bu konuda Bill Gates gibi dikkat çeken isimler bile, Gates, insan kontrolünün ötesine geçebilecek yapay bir süper istihbaratın ortaya çıkmasından endişe duyan birçok kişiden biri olduğunu söylüyor. Musk, aynı zamanda, “haydut AI” olasılığı hakkında bazı endişe verici bir dil ortaya koydu.
Muhtemelen bu, şirketlerin AI kontrollerine insan kontrolleri uygulamak için çalışmasının en acil nedenidir - bazı teknolojik tekilliklerin, insanların artık kontrol edemediği süper güçlü bir canlılık teknolojisine yol açacağı fikri. İnsan emellerinin başlangıcından bu yana, elimizdeki güçleri kontrol edebildiğimizden emin olmak için araçlar koyduk - dizginleri ve kayışları olan atlar, yalıtılmış kablolardaki elektrik veya diğer herhangi bir kontrol mekanizmasının olup olmadığı kontrol doğuştan gelen bir insan işlevidir ve bu yüzden yapay zeka gerçek işlevselliğe yaklaştığı için, dünyadaki tüm mantığı, insanlar bu gücü kontrol altında tutmak için kendi doğrudan kontrollerini uygularlar.
Ancak, süper zeki robotlardan korkma, şirketlerin makine kontrolüne ve yapay zeka projelerine insan kontrollerini uygulamalarının tek nedeni değildir. Bir başka önemli sebep de makine yanlılığı - yapay zeka sistemlerinin genellikle söz konusu verileri nasıl değerlendirdikleri konusunda sınırlı olduğu ve bu nedenle sistemdeki doğal önyargıları arttırdıkları fikri. Makine öğrenmesiyle uğraşan çoğu profesyonel, insan kullanıcı gruplarını aynı şekilde tedavi edemeyen BT sistemleri hakkında korku hikayeleri anlatabilir - cinsiyet mi yoksa etnik eşitsizlik mi olduğu veya sistemin diğer insan toplumlarının nüanslarını gerçekten anlayamadığı ve insanlarla nasıl etkileşim kurduğumuzu.
Bir anlamda, insan kontrollerini sistemlere koyabiliriz çünkü çok güçlü olmalarından korkuyoruz - veya dönüşümlü olarak, çünkü yeterince güçlü olmadıklarından korkuyoruz. İnsan kontrolleri daha fazla hassasiyet sağlamak için makine öğrenmesi veri setlerini hedeflemeye yardımcı olur. Bilgisayarın basitçe kendi başına öğrenemediği fikirlerini pekiştirmeye yardımcı oluyorlar, çünkü model yeterince gelişmiş değil, çünkü AI yeterince yeterince ilerlememiştir, veya bazı şeyler sadece insanın biliş ilinde yatmaktadır. Yapay zeka bazı şeyler için harikadır - örneğin, ödül ve puan tabanlı bir sistem yapay zekanın son derece karmaşık masa oyunu “Go” da bir insan oyuncuyu yenmesine izin vermiştir - fakat diğer şeyler için, bu teşvik tabanlı sistem tamamen yetersiz.
Özetle, insan kullanıcılarını yapay zeka projelerinin çalışmalarına doğrudan dahil etmeleri için çok sayıda zorlayıcı neden vardır. En iyi yapay zeka teknolojileri bile kendi başına çok fazla düşünebilir - ama duygu ve sosyal kareler gibi şeyleri işleyebilen gerçek bir biyolojik insan beyni olmadan, büyük resmi insanca göremezler.
Yetenekli bir makine öğrenim şirketi Bu dengeyi, iş ve konu uzmanlarının bir karışımıyla ve makine öğrenen geliştiricilerin büyük işletme sorunlarını çözme becerileriyle birleştirmesine yardımcı olabilir.
