İçerik
- Makine tarafından ateş
- Otomasyon ve İş Kesilmesi
- Hata Yok, Stres Yok - Hayatınızı Yok Etmeden Hayat Değiştiren Yazılım Yaratma Adım Adım Kılavuzunuz
- Tüketici Elektroniğinden Uygulamalar
- Yeniden Kontrolü
- Nasıl Çalışabilir?
Kaynak: Artinspiring / Dreamstime.com
Paket servisi:
Otomasyonun kendisiyle değil, insanlıkla çalışabilmesi için, bir sistem hatasını durdurmak veya düzeltmek için yetkilendirilmiş güvencelere ve bilgili insanlara ihtiyacımız var.
“Hata yapmak insandır; Bir şeyi gerçekten kirletmek için bir bilgisayar gerekir. ”William E. Vaughan, bu gözlemi 1969'da tekrar yaptı.
Otomasyon yeni değil, dijital ve fiziksel sistemlerin entegrasyonu sayesinde daha da yaygınlaşıyor. Otomasyonun ölçeği, büyük verimliliktir. Ancak, bir set ve unut sistemi üzerine güvenmenin dezavantajı, birinin uygun şekilde ayarlayamamasıdır.
Müdahalesiz ve makineyi durdurmanın bir yolu olmayan basit bir şekilde takip eden bir sistemle, yıkıcı etkilere sahip olabilirsiniz. Buna göre, teknoloji, hayatı kolaylaştıracak olanın gerçekten kontrolden çıktığı durumlarda “Sihirbazın Çırağı” nda gösterilen durum tipini yaratabilir.
Makine tarafından ateş
Müdahalesiz otomasyon ABD'de bir teknoloji çalışanının geçen yıl sebepsiz olarak işsiz kalmasına neden olan şeydi. Ibrahim Diallo, güvenlik kartlarının işte çalışmadığını fark etti ve işsiz olduğunu söyledi. “The Machine Fired Me”, etkinlikteki uzun blog yazılarına verdiği unvan.
Nihayetinde, Diallo’nun sonlandırılmasının nedeni, kimin ortadan kaldırılması gerektiğine karar veren bir tür algoritma değerlendirmesi değildi. Sorun sistemde değildi, ama insan hatasından biriydi. Bu durumda, bir insanın Diallo’nun sözleşme yenileme bilgisini girmedeki başarısızlığına verilen otomatik cevap buydu.
Makine, belirli bir şey için kovulması gerektiğine karar vermedi. Sadece, artık kullanılmadığı zaman ortaya çıkan biri için programlanan adımları uyguladı. Yorumlarda açıkladığı gibi, bu gerçekten AI değil, “otomatik komut dosyası” dır. (AI'nın işletmelerde nasıl yardım edebileceğini (incitmek yerine) öğrenmek için İşletmelerde AI'nın Ne Yapabileceğini inceleyin.)
Otomasyon ve İş Kesilmesi
Bu tür bir etki, otomatik bir gelecekte tahmin edebileceğimiz harika faydaları tanımlarken insanların tam olarak düşündükleri değildir. Otomasyonla işler üstlenildikçe işlerdeki kayma için genel iyimser görünüm, işler yeniden tanımlanacak - otomatik sistemler tarafından sonlandırılmayacak. Ancak gerçek şu ki, bazı işler ortadan kalkacak ve onları elinde tutan insanlar, büyük ölçüde otomasyonlu bir sektördeki yeni kariyerlere kesintisiz bir geçiş yapamazlar.
İş kesintisi, Elon Musk'un AI'nın yükselişi için öngördüğü en küçük risklerden biridir, ancak işler üzerindeki etkisi hakkındaki vizyonu Fitzgerald’dan çok daha karamsardır. Musk’a göre, AI’nın sıkı bir düzenlemeye ihtiyacı var çünkü “insan uygarlığı için temel ve varoluşsal bir risk” teşkil ediyor.
Hata Yok, Stres Yok - Hayatınızı Yok Etmeden Hayat Değiştiren Yazılım Yaratma Adım Adım Kılavuzunuz
Hiç kimse yazılım kalitesini önemsemediğinde programlama becerilerinizi geliştiremezsiniz.
Tüketici Elektroniğinden Uygulamalar
Musk'un kendi teknoloji kimlik bilgilerine rağmen, MIT'nin Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı'nın kurucu direktörü olarak görev yapan ve hem iRobot hem de Rethink Robotics'in kurucusu olan Rodney Brooks gibi bazı uzmanlar, Musk'un AI'nın tehdidi ve robotik tehdidinde yanlış olduğunu söylüyor aslında çalışır.
TechCrunch ile yapılan röportajda Brooks, teknolojiyi tam olarak neyin ayarlanması gerektiğini tanımlayabileceğimiz noktaya kadar olgunlaştırmadan düzenlemeler yapmanın aptalca olduğunu belirtti. Musk'a meydan okudu: “Söylesene, hangi davranışını değiştirmek istiyorsun Elon?”
Brooks, robotların iş yerinden edilmeye yol açacağını kabul etti. Ancak, sektördeki paradigmayı tüketici elektroniğinin izini sürmek için kaydırmanın mümkün olduğunu da düşünüyor.
TechCrunch röportajına koyma şekli şuydu: “Ekipman üretme konusunda korkunç kullanıcı arayüzlerine sahip olma geleneğine sahibiz ve zor ve ders almak zorundasınız, tüketici elektroniğinde ise kullandığımız makineleri insanlara öğretti onları nasıl kullanacağınızı. ”
“İnsanlara nasıl kullanacaklarını öğretmelerini sağlamak için“ endüstriyel ekipman ve diğer tür ekipmanlarla olan ilişkimizi değiştirme hedefi ”dedi.
Yeniden Kontrolü
Brooks'un önerdiği şey, bizi kontrolden çıkmış gibi görünen otomatik süreci başlatan insan hatası sorununa bir çözüm yönünde gösterebilir. Mickey’in “Sihirbazın Çırağı” ndaki yanlış yapısına geri dönebilmek için, sorunun tümü sistemi harekete geçiren ancak yönünü durdurmak ya da değiştirmek için onunla iletişim kurmanın gerçek bir yoluna sahip olmayan kişiden kaynaklanıyor.
Fakat eğer arayüz geleneksel endüstriyel modellerden ziyade tüketici elektroniği çizgileri boyunca yapılırsa, kelimenin tam anlamıyla kontrolü insan ellerine geri getirebilirdi. Gerçekten etkili olması için, arayüzün sadece erişilebilir olması değil, aynı zamanda insanların neler olduğu, aldığı güncellemeler ve ne gibi işlemler yaptığı hakkında bilgi sağlaması için döngüde kalması için de tasarlanması gerekiyor.
Nasıl Çalışabilir?
Diallo’nun kazara sonlandırılması durumunda, bu, otomatik sistemin onu sistemden uzak tutmakla kalmayacağı ve sonra da görevine sonlandırıldığı için bir görevlendireceği anlamına gelecektir. Öncelikle, sözleşmenin yenilenmesinin öngörülen tarihe girmediği anlaşılacaktır. Fesih faaliyetlerine başlamadan önce, yemlik ve işe alım uzmanına yenileme eksikliği ve herhangi bir işlem yapılmazsa gün içinde takip edilecek sonuçlar hakkındaki güncellemeyi sunacaktır.
Bu tür bir uyarı, insanların otomasyonun devam etmesine izin verilmesi veya sorunun asıl nedeni olan insan hatasını düzeltmek için müdahale etme konusunda bilinçli kararlar vermelerini sağlayacaktır. Ancak insanların kendi görevlerini yapmaları, alarma cevap vermeleri ve uygun önlemleri almaları gerekir. Başka bir deyişle, Brooks'un davranışla ilgili olarak ortaya attığı soruya cevap, insanlar için geçerlidir; otomasyon karşısında daha az pasif olmaları gerekir. (İnsanların ve makinelerin nasıl işbirliği içinde çalışabileceği hakkında daha fazla bilgi için, bkz. İnsan Öğesini Kanalize Etme: Politika, Prosedür ve Süreç.)
Diallo'nun blogunun yorum bölümünde yazdığı gibi, bunun yaptığı noktaya gelmesinin nedeni insanların makineye karşı çıkmayı reddetmeleriydi:
Gözden kaçan bir başka şey, herkesin onu tetikleyen bir insan hatası olduğunu ve tamamen bir hata olduğunu bilmelerine rağmen, s'yi takip etmeyi seçtikleridir. Hastaneye “sigara içilmesine izin ver” işareti koymak gibi bir şey ve insanlar sağduyu kullanmak yerine işarete saygı duyuyorlar.
Buna göre, otomasyonun insanlığa karşı ve insanlığa karşı çalışabilmesi için benimsememiz gereken politikalar iki yönlüdür: Makine tarafında, erişilebilir ve bilgilendirici arayüzlere ihtiyacımız var ve insan tarafında da insanlara ihtiyacımız var. bir şeyin doğru olmadığını ve onu düzeltmek için adım atacağını belirtir.