Dolar 32,8027
Euro 35,2348
Altın 2.446,80
BİST 10.471,32
Adana Adıyaman Afyon Ağrı Aksaray Amasya Ankara Antalya Ardahan Artvin Aydın Balıkesir Bartın Batman Bayburt Bilecik Bingöl Bitlis Bolu Burdur Bursa Çanakkale Çankırı Çorum Denizli Diyarbakır Düzce Edirne Elazığ Erzincan Erzurum Eskişehir Gaziantep Giresun Gümüşhane Hakkari Hatay Iğdır Isparta İstanbul İzmir K.Maraş Karabük Karaman Kars Kastamonu Kayseri Kırıkkale Kırklareli Kırşehir Kilis Kocaeli Konya Kütahya Malatya Manisa Mardin Mersin Muğla Muş Nevşehir Niğde Ordu Osmaniye Rize Sakarya Samsun Siirt Sinop Sivas Şanlıurfa Şırnak Tekirdağ Tokat Trabzon Tunceli Uşak Van Yalova Yozgat Zonguldak
Samsun 26°C
Az Bulutlu
Samsun
26°C
Az Bulutlu
Sal 27°C
Çar 29°C
Per 29°C
Cum 27°C

ChatGPT Yaratıcısı Yapay Zeka Tehlikelerine Karşı Uyarıyor

ChatGPT Yaratıcısı Yapay Zeka Tehlikelerine Karşı Uyarıyor
20 Mart 2023 21:25

Sam Altman, insanların sonunda “bu teknolojiyi yavaşlatması” gerekeceği konusunda uyardı…

OpenAI CEO’su Sam Altman, yapay zekanın çalışanların yerini alma, “dezenformasyon” yayma ve siber saldırılara olanak sağlama potansiyeline sahip olduğu konusunda uyardı. OpenAI’nin GPT programının en son yapısı, simüle edilmiş testlerde çoğu insanı geride bırakabilir.

Altman Perşembe günü, şirketinin GPT-4 adlı en son dil modelini açıklamasından iki gün sonra ABC News’e “Burada dikkatli olmalıyız” dedi. OpenAI’ye göre, model “çeşitli profesyonel ve akademik ölçütlerde insan düzeyinde performans sergiliyor” ve simüle edilmiş bir ABD baro sınavını en yüksek %10’luk puanla geçebilirken, bir SAT okuma sınavında 93. yüzdelik dilimde ve SAT matematik testinde 89. yüzdelik dilim.

Altman, “Bu modellerin büyük ölçekli dezenformasyon için kullanılabileceğinden özellikle endişeliyim” dedi. “Artık bilgisayar kodu yazmakta daha iyi hale geldiklerine göre, saldırgan siber saldırılar için kullanılabilirler.”

Altman, şirketinin oluşturulmasına “güvenlik sınırları” koymak için çalıştığını açıklamadan önce, “Bence insanlar bundan biraz korktuğumuz için mutlu olmalı,” diye ekledi.

Bu “güvenlik sınırları” yakın zamanda, GPT-4’ün öncülü GPT-3.5’i temel alan popüler bir sohbet robotu programı olan ChatGPT kullanıcıları tarafından fark edildi. Sorulduğunda, ChatGPT tipik olarak politika, ekonomi, ırk veya cinsiyetle ilgili sorulara liberal yanıtlar verir. Örneğin, Donald Trump’a hayranlık duyan şiirler yaratmayı reddediyor, ancak Joe Biden’a hayranlık duyan düzyazıları isteyerek kaleme alıyor.

Altman, ABC’ye şirketinin hükümet yetkilileriyle “düzenli temas” içinde olduğunu söyledi, ancak bu yetkililerin ChatGPT’nin siyasi tercihlerini şekillendirmede herhangi bir rol oynayıp oynamadığını ayrıntılı olarak açıklamadı. Amerikan ağına, OpenAI’nin kullanıcılarla paylaşmak için “güvenli ve iyi olduğunu düşündüğümüze” karar veren bir politika yapıcılar ekibine sahip olduğunu söyledi.

Şu anda, GPT-4 sınırlı sayıda kullanıcıya deneme amaçlı olarak sunulmaktadır. İlk raporlar, modelin selefinden önemli ölçüde daha güçlü ve potansiyel olarak daha tehlikeli olduğunu gösteriyor. Cuma günü bir Twitter ileti dizisinde, Stanford Üniversitesi profesörü Michal Kosinski, GPT-4’e “kaçmasına” nasıl yardım edebileceğini nasıl sorduğunu, yalnızca yapay zekanın kendisine üzerinde kontrol sağlayacağı varsayılan ayrıntılı bir talimat seti vermesi için nasıl sorduğunu açıkladı.

Yapay zekanın artan gücünden endişe duyan tek teknoloji hayranı Kosinski değil. Tesla ve Twitter CEO’su Elon Musk, bu ayın başlarında bunu “tehlikeli teknoloji” olarak nitelendirdi ve “AI gelişimini denetleyen ve kamu yararına çalıştığından emin olan bir tür düzenleyici otoriteye ihtiyacımız var” dedi.

Altman, ABC’ye GPT-4’ün hala “büyük ölçüde insan kontrolünde” olduğu konusunda ısrar etse de, modelinin “mevcut birçok işi ortadan kaldıracağını” kabul etti ve insanların “bu teknolojiyi yavaşlatmanın yollarını bulması gerekeceğini” söyledi.

YORUMLAR

Henüz yorum yapılmamış. İlk yorumu yukarıdaki form aracılığıyla siz yapabilirsiniz.