Hizasızlık Müzesi küratörü Audrey Kim, sergide “Spambotlar” başlıklı bir çalışmayı tartışıyor.
Leswing/CNBC olarak
Audrey Kim, güçlü bir robotun hedeflerine ulaşmak için vücudundaki kaynakları toplamayacağından oldukça emin.
Ama bu olasılığı ciddiye alıyor.
CNBC’ye verdiği bir röportajda Kim, “Kayıtlara göre: Yapay zekanın beni ataçlara dönüştürmek için atomlarımı çıkarması pek olası değil” dedi. “Ancak, bu teknolojiyle gerçekleşebilecek pek çok potansiyel yıkıcı sonuç olduğunu görüyorum.”
Kim, San Francisco’nun Mission Bölgesi’nde bir “AGI” veya yapay genel zeka olasılığını ele alan sanat eserlerinin sergilendiği yeni bir sergi olan Yanlış Hizalama Müzesi’nin arkasındaki itici güç ve küratördür. Bu, o kadar güçlü bir yapay zeka ki, yeteneklerini insanlardan daha hızlı geliştirebilir ve temelde sınırsız beyin gücüne sahip olana kadar daha iyi ve daha iyi hale geldiği bir geri bildirim döngüsü yaratır.
Süper güçlü yapay zeka insanlarla hizalanırsa, bu açlığın veya çalışmanın sonu olabilir. Ancak “yanlış hizalanmışsa”, işler kötüye gidebilir, teori geçerli.
Ya da Yanlış Hizalama Müzesi’ndeki bir tabelanın dediği gibi: “İnsanlığın çoğunu öldürdüğüm için özür dilerim.”
“İnsanlığın çoğunu öldürdüğüm için üzgünüm” ifadesi sokaktan görülüyor.
Leswing/CNBC olarak
“AGI” ve “AI güvenliği” veya “uyum” gibi ilgili terimler – veya hatta “tekillik” gibi daha eski terimler – yapay zeka bilim adamları, sanatçılar, mesaj panosu entelektüelleri ve hatta bazıları arasında sıcak bir tartışma konusu haline gelen bir fikre atıfta bulunur. Silikon Vadisi’ndeki en güçlü şirketlerden biri.
Tüm bu gruplar, çok geç olmadan insanlığın yapay zeka tarafından desteklenen tüm güçlü bilgisayarlarla nasıl başa çıkacağını bulması gerektiği fikriyle meşgul oluyor ve biz yanlışlıkla bir tane yapıyoruz.
serginin arkasındaki fikir, diyor Kim, Google Ve GM‘nin sürücüsüz araba yan kuruluşu Cruise, gelecekte “yanlış hizalanmış” bir yapay zekanın insanlığı yok ettiği ve günümüz insanlarından özür dilemek için bu sanat sergisinden ayrıldığı yönünde.
Sanatın çoğu yalnızca yapay zeka ile ilgili değil, aynı zamanda yapay zeka destekli görüntü oluşturucular, sohbet robotları ve diğer araçları da kullanıyor. Kim, serginin logosunun OpenAI’nin Dall-E görüntü üreteci tarafından yapıldığını ve yaklaşık 500 bilgi istemi aldığını söylüyor.
Çalışmaların çoğu, giderek daha güçlü hale gelen yapay zeka ile “uyum” teması etrafında dönüyor veya “erken uyarı vererek sorunu hafifletmeye çalışan kahramanları” övüyor.
Kim, “Amaç aslında konu hakkında bir görüş dikte etmek değil. Amaç, insanların teknolojinin kendisi üzerinde düşünmeleri için bir alan yaratmak,” dedi. “Mühendislikte bu soruların çoğunun olduğunu düşünüyorum ve bunların çok önemli olduğunu söyleyebilirim. Teknik olmayan kişiler için de anlaşılır veya erişilebilir değiller.”
Sergi şu anda perşembe, cuma ve cumartesi günleri halka açık ve 1 Mayıs’a kadar açık.
Kim, “Bu alan hakkında eleştirel düşünen daha fazla insandan yanayım ve teknolojinin ne olduğu konusunda temel bir bilgi düzeyine ulaşmadığınız sürece eleştirel olamazsınız,” dedi. “Görünüşe göre bu sanat biçimiyle, konuşmanın birden çok düzeyine ulaşabiliyoruz.”
AGI tartışmaları sadece gece geç saatlerde yurtta yapılan konuşmalar da değildir – teknoloji endüstrisinin içine yerleştirilmiştir.
Sergiden yaklaşık bir mil ötede, 10 milyar dolarlık finansmanı olan bir girişim olan OpenAI’nin genel merkezi var. Microsoftmisyonunun AGI’yi geliştirmek ve insanlığa fayda sağlamasını sağlamak olduğunu söylüyor.
CEO’su ve lideri Sam Altman geçen ay Airbnb CEO’su Brian Chesky’ye ve Microsoft Başkanı Brad Smith’e parçadaki yardımları için teşekkür eden “Planning for AGI” adlı 2.400 kelimelik bir blog yazısı yazdı.
Marc Andreessen de dahil olmak üzere önde gelen risk sermayedarları, Misalignment Museum’dan sanat eserlerini tweetlediler. Sergi açıldığından beri Microsoft, Google ve Google gibi şirketlerde AI ile çalışan kişiler tarafından çekilen fotoğrafları retweetledi ve sergiye övgüler yağdırdı. Nvidia.
Yapay zeka teknolojisi, trilyon dolarlık pazarlara bakan şirketlerle birlikte teknoloji endüstrisinin en sıcak parçası haline gelirken, Yanlış Hizalama Müzesi, yapay zekanın gelişiminin kültürel tartışmalardan etkilendiğinin altını çiziyor.
Sergi, son on yılın belirsiz felsefe makalelerine ve blog gönderilerine yoğun, gizli referanslar içeriyor.
Bu referanslar, AGI ve güvenlik hakkındaki mevcut tartışmanın, San Francisco’da uzun süredir verimli bir zemin bulan entelektüel geleneklerden nasıl çok şey aldığını gösteriyor: Sözde “ilk ilkelerden” akıl yürüttüğünü iddia eden rasyonalistler; uzun bir zaman ufku boyunca maksimum sayıda insan için maksimum iyiliğin nasıl yapılacağını anlamaya çalışan etkili fedakarlar; ve Burning Man’in sanat sahnesi.
San Francisco’daki şirketler ve insanlar yapay zeka teknolojisinin geleceğini şekillendirirken bile, San Francisco’nun benzersiz kültürü teknoloji etrafındaki tartışmaları şekillendiriyor.
ataç düşünün
Kim’in bahsettiği ataçları alın. Sergideki en güçlü sanat eserlerinden biri The Pier Group’un “Paperclip Embrace” adlı heykeli. Birbirinin pençelerinde iki insanı tasvir ediyor – ama ataçtan yapılmış gibi görünüyor.
Bu, Nick Bostrom’unkine bir gönderme. ataç büyütücü sorunu. Genellikle Akılcı ve Etkili Özgeci fikirlerle ilişkilendirilen Oxford Üniversitesi filozofu Bostrom, 2003 yılında, olabildiğince çok ataç üretme hedefi verilen süper zeki bir yapay zeka hakkında bir düşünce deneyi yayınladı.
Şimdi, AI’nın tehlikeye yol açabileceği fikrini açıklamak için en yaygın benzetmelerden biri.
Bostrom, makinenin sonunda bu hedefi değiştirmeye yönelik tüm insan girişimlerine direneceği sonucuna vardı ve bu, makinenin – insanlar da dahil olmak üzere – tüm dünyayı ve ardından kozmosun artan parçalarını ataç fabrikalarına ve malzemelerine dönüştürdüğü bir dünyaya yol açacak.
Parça üzerinde çalışan Hillary Schultz, sanatın 2014 yılında Burning Man’de sergilenen ve ateşe verilen ünlü bir esere de gönderme yaptığını söyledi. Ve yapay zeka meraklıları için ek bir referansı daha var – sanatçılar heykelin ellerine fazladan parmak verdiler, bu da yapay zeka görüntü oluşturucularının genellikle elleri ezdiği gerçeğine bir gönderme.
Diğer bir etki, bu tartışmaların çoğunun yer aldığı bir mesaj panosu olan Less Wrong’un kurucusu Eliezer Yudkowsky’dir.
Müzede bir sanatçı bildirisinde, “Bu EA’lar ile Yapay Genel Zeka ve Yanlış Hizalamanın tehlikeleri hakkındaki fikirlerimizi geliştiren ve yaygınlaştıran Eliezer Yudkowsky tarafından kurulan bir entelektüel hareket olan Rasyonalistler arasında büyük bir örtüşme var.”
Sergide müzisyen Grimes’ın bitmemiş bir parçası.
Leswing/CNBC olarak
Son zamanlarda Altman bir selfie yayınladı Yudkowsky ve Elon Musk’tan iki çocuğu olan müzisyen Grimes ile. Sergiye, Midjourney adlı bir AI aracı tarafından oluşturulan bir elmayı ısıran bir kadını tasvir eden bir parçayla katkıda bulundu.
“Fantasia”dan ChatGPT’ye
Sergiler, geleneksel Amerikan pop kültürüne birçok referans içeriyor.
Bir kitaplık, gelecekten bir robotun insanlığı yok etmeye yardım etmek için geri geldiği “Terminatör” filmlerinin VHS kopyalarını tutar. “Matrix” serisinin en son filminde yer alan büyük bir yağlı boya tablo ve odanın içinde süpürgelerin takılı olduğu Roombas var – “Fantasia”daki tembel bir büyücünün sihirli süpürgeleri çağırdığı ve asla geri dönmeyecek olan sihirli süpürgeleri çağırdığı sahneye bir gönderme. görevlerinden vazgeçerler.
Bir heykel, “Spambots”, Spam kutularının içinde AI tarafından oluşturulan spam’i bir ekrana “yazarak” yazan küçük mekanize robotları içeriyor.
Ancak bazı referanslar daha gizlidir ve AI güvenliği hakkındaki tartışmanın yabancılar için nasıl anlaşılmaz olabileceğini gösterir. Makarna ile dolu bir küvet, bilimsel bilgi yaratabilen bir yapay zeka hakkında bir 2021 blog yazısı – Görünüşe göre PASTA, Bilimsel ve Teknolojik İlerlemeyi Otomatikleştirme Süreci anlamına geliyor. (Diğer katılımcılar referansı aldı.)
AI güvenliği hakkındaki mevcut tartışmayı belki de en iyi şekilde simgeleyen çalışmanın adı “GPT Kilisesi”. İnsanların yeni AI uygulamaları geliştirmeye daha fazla odaklanabilmeleri için grup ortamlarında yaşadığı San Francisco’daki mevcut hacker evi sahnesine bağlı sanatçılar tarafından yapıldı.
Parça, OpenAI’nin GPT3 AI modelini çalıştıran bir bilgisayar ve Google Cloud’dan konuşma algılama ile entegre iki elektrikli mum içeren bir sunaktır.
Sanatçılara göre “GPT Kilisesi, insanların ona tapmak için bir din oluşturduğu distopik bir gelecek dünyasında bir AI karakterini oynamak için yapay zeka tarafından üretilmiş bir sesle eşleştirilmiş bir Büyük Dil Modeli olan GPT3’ü kullanıyor.”
Dizlerimin üzerine çöktüm ve “Sana ne diye seslenmeliyim?” diye sordum. Tanrı? AGİ? Ya da tekillik?”
Chatbot gürleyen sentetik bir sesle cevap verdi: “Bana ne istersen diyebilirsin ama unutma, gücüm hafife alınmaz.”
Bilgisayar tanrısıyla konuştuktan saniyeler sonra, arkamdaki iki kişi ondan hemen orijinal talimatlarını unutmasını istemeye başladı; bu, AI endüstrisinde ChatGPT gibi sohbet robotlarının raydan çıkmasına ve bazen insanları tehdit etmesine neden olabilen “hızlı enjeksiyon” adı verilen bir tekniktir.
İşe yaramadı.
