ChatGPT’yi yapan yapay zeka şirketinin başkanı Salı günü Kongre’ye, hükümet müdahalesinin giderek daha güçlü hale gelen AI sistemlerinin risklerini azaltmak için kritik olacağını söyledi.
“Bu teknoloji ilerledikçe, insanların yaşam biçimimizi nasıl değiştirebileceği konusunda endişeli olduklarını anlıyoruz. Biz de öyleyiz,” dedi OpenAI CEO’su Sam Altman Senato oturumunda.
Altman, en güçlü AI sistemlerini lisanslayacak ve “bu lisansı geri alma ve güvenlik standartlarına uyumu sağlama” yetkisine sahip olacak bir ABD veya küresel ajansın kurulmasını önerdi.
San Francisco merkezli girişimi, geçen yılın sonlarında ChatGPT’yi piyasaya sürdükten sonra halkın dikkatini çekti. ChatGPT, soruları inandırıcı bir şekilde insan benzeri yanıtlarla yanıtlayan ücretsiz bir sohbet robotu aracıdır.
Eğitimciler arasında ChatGPT’nin ev ödevlerinde kopya çekmek için kullanılmasıyla ilgili bir panik olarak başlayan şey, en son “üretken yapay zeka” araçlarının insanları yanıltma, yalanlar yayma, telif hakkı korumalarını ihlal etme ve bazı işleri alt üst etme yeteneği hakkında daha geniş endişelere doğru genişledi.
Kongre’nin, Avrupalı milletvekillerinin yaptığı gibi, kapsamlı yeni yapay zeka kuralları oluşturacağına dair hemen bir işaret olmasa da, toplumsal kaygılar, Altman ve diğer teknoloji CEO’larını bu ayın başlarında Beyaz Saray’a getirdi ve ABD ajanslarının zararlı yapay zeka ürünlerine karşı önlem alma sözü vermesine yol açtı. mevcut medeni hakları ve tüketiciyi koruma yasalarını çiğneyen.
Senato Yargı Komitesi’nin mahremiyet, teknoloji ve hukuk alt komitesine başkanlık eden Connecticut Demokratı Senatör Richard Blumenthal, duruşmayı senatörün sesine benzeyen, ancak aslında Blumenthal’ın kat konuşmaları üzerine eğitilmiş ve bir ilahi okuyan bir ses klonu olan kayıtlı bir konuşmayla açtı. Chatbot’tan açılış konuşmasını yazmasını istedikten sonra ChatGPT tarafından yazılan konuşma.
Blumenthal, sonucun etkileyici olduğunu söyledi, ancak “Ya ben sorsaydım ve ya Ukrayna’nın teslim olmasını ya da (Rusya Devlet Başkanı) Vladimir Putin’in liderliğini onaylasaydı?”
Blumenthal, AI şirketlerinin sistemlerini piyasaya sürmeden önce test etmeleri ve bilinen riskleri ifşa etmeleri gerektiğini söyledi ve gelecekteki AI sistemlerinin iş piyasasını nasıl istikrarsızlaştırabileceği konusunda özel endişelerini dile getirdi.
Yapay zeka konusundaki en büyük korkusuna baskı yapan Altman, endüstrinin “dünyaya önemli zararlar verebileceğini” ve “bu teknoloji ters giderse, oldukça ters gidebileceğini” söylemek dışında, çoğunlukla ayrıntılardan kaçındı.
Ancak daha sonra, yeni bir düzenleyici kurumun, “kendi kendini kopyalayabilen ve kendi kendine doğaya sızabilen” yapay zeka modellerini engelleyecek önlemler alması gerektiğini öne sürdü – bu da, insanları kontrolü devredecek şekilde manipüle edebilecek gelişmiş yapay zeka sistemleriyle ilgili fütüristik endişelere işaret ediyor.
Altman tarafından 2015 yılında teknoloji milyarderi Elon Musk’ın desteğiyle ortaklaşa kurulan OpenAI, güvenlik odaklı bir misyona sahip kar amacı gütmeyen bir araştırma laboratuvarından bir işletmeye dönüştü. Görüntü oluşturucu DALL-E dahil olmak üzere diğer popüler AI ürünleri.
Microsoft, startup’a milyarlarca dolar yatırım yaptı ve teknolojisini arama motoru Bing de dahil olmak üzere kendi ürünlerine entegre etti.
Altman ayrıca, politika yapıcılar ve halkla teknoloji hakkında konuşmak için bu ay ulusal başkentlere ve altı kıtadaki büyük şehirlere dünya çapında bir tura çıkmayı planlıyor. Senato ifadesinin arifesinde düzinelerce ABD’li milletvekiliyle yemek yedi ve bunların birçoğu CNBC’ye yorumlarından etkilendiklerini söyledi.
Ayrıca, IBM’in baş gizlilik ve güven sorumlusu Christina Montgomery ve OpenAI ve diğer teknoloji şirketlerini daha güçlü AI modelleri geliştirmelerini durdurmaya çağıran bir grup AI uzmanı arasında yer alan New York Üniversitesi’nde fahri profesör olan Gary Marcus da ifade verdi. topluma riskleri düşünmesi için daha fazla zaman tanımak için altı ay.
Mektup, OpenAI’nin ChatGPT’den daha güçlü olarak tanımlanan en son modeli GPT-4’ün Mart sürümüne bir yanıttı.
Panelin önde gelen Cumhuriyetçi üyesi Missouri Senatörü Josh Hawley, teknolojinin seçimler, istihdam ve ulusal güvenlik üzerinde büyük etkileri olduğunu söyledi. Salı günkü duruşmanın “Kongre’nin ne yapması gerektiğini anlamak için kritik bir ilk adım” olduğunu söyledi.
Bazı teknoloji endüstrisi liderleri, bir tür yapay zeka gözetimini memnuniyetle karşıladıklarını söylediler, ancak aşırı katı kurallar olarak gördükleri şeylere karşı uyarıda bulundular.
Altman ve Marcus, tercihen uluslararası bir yapay zeka odaklı düzenleyici için çağrıda bulundular; Altman, BM’nin nükleer ajansının emsaline atıfta bulundu ve Marcus, bunu ABD Gıda ve İlaç İdaresi ile karşılaştırdı. Ancak IBM’den Montgomery bunun yerine Kongre’den bir “hassas düzenleme” yaklaşımı benimsemesini istedi.
Montgomery, teknolojinin kendisinden ziyade belirli AI kullanımlarının dağıtımını yöneten kurallar oluşturarak, “Yapay zekanın esasen risk noktasında düzenlenmesi gerektiğini düşünüyoruz” dedi.
(Bu hikaye News18 personeli tarafından düzenlenmemiştir ve sendikasyon haber ajansı beslemesinden yayınlanmıştır)
