ChatGPT Yaratıcısı Yapay Zeka Tehlikelerine Karşı Uyarıyor

Sam Altman, insanların sonunda “bu teknolojiyi yavaşlatması” gerekeceği konusunda uyardı…

OpenAI CEO’su Sam Altman, yapay zekanın çalışanların yerini alma, “dezenformasyon” yayma ve siber saldırılara olanak sağlama potansiyeline sahip olduğu konusunda uyardı. OpenAI’nin GPT programının en son yapısı, simüle edilmiş testlerde çoğu insanı geride bırakabilir.

Altman Perşembe günü, şirketinin GPT-4 adlı en son dil modelini açıklamasından iki gün sonra ABC News’e “Burada dikkatli olmalıyız” dedi. OpenAI’ye göre, model “çeşitli profesyonel ve akademik ölçütlerde insan düzeyinde performans sergiliyor” ve simüle edilmiş bir ABD baro sınavını en yüksek %10’luk puanla geçebilirken, bir SAT okuma sınavında 93. yüzdelik dilimde ve SAT matematik testinde 89. yüzdelik dilim.

Altman, “Bu modellerin büyük ölçekli dezenformasyon için kullanılabileceğinden özellikle endişeliyim” dedi. “Artık bilgisayar kodu yazmakta daha iyi hale geldiklerine göre, saldırgan siber saldırılar için kullanılabilirler.”

Altman, şirketinin oluşturulmasına “güvenlik sınırları” koymak için çalıştığını açıklamadan önce, “Bence insanlar bundan biraz korktuğumuz için mutlu olmalı,” diye ekledi.

Bu “güvenlik sınırları” yakın zamanda, GPT-4’ün öncülü GPT-3.5’i temel alan popüler bir sohbet robotu programı olan ChatGPT kullanıcıları tarafından fark edildi. Sorulduğunda, ChatGPT tipik olarak politika, ekonomi, ırk veya cinsiyetle ilgili sorulara liberal yanıtlar verir. Örneğin, Donald Trump’a hayranlık duyan şiirler yaratmayı reddediyor, ancak Joe Biden’a hayranlık duyan düzyazıları isteyerek kaleme alıyor.

Altman, ABC’ye şirketinin hükümet yetkilileriyle “düzenli temas” içinde olduğunu söyledi, ancak bu yetkililerin ChatGPT’nin siyasi tercihlerini şekillendirmede herhangi bir rol oynayıp oynamadığını ayrıntılı olarak açıklamadı. Amerikan ağına, OpenAI’nin kullanıcılarla paylaşmak için “güvenli ve iyi olduğunu düşündüğümüze” karar veren bir politika yapıcılar ekibine sahip olduğunu söyledi.

Şu anda, GPT-4 sınırlı sayıda kullanıcıya deneme amaçlı olarak sunulmaktadır. İlk raporlar, modelin selefinden önemli ölçüde daha güçlü ve potansiyel olarak daha tehlikeli olduğunu gösteriyor. Cuma günü bir Twitter ileti dizisinde, Stanford Üniversitesi profesörü Michal Kosinski, GPT-4’e “kaçmasına” nasıl yardım edebileceğini nasıl sorduğunu, yalnızca yapay zekanın kendisine üzerinde kontrol sağlayacağı varsayılan ayrıntılı bir talimat seti vermesi için nasıl sorduğunu açıkladı.

Yapay zekanın artan gücünden endişe duyan tek teknoloji hayranı Kosinski değil. Tesla ve Twitter CEO’su Elon Musk, bu ayın başlarında bunu “tehlikeli teknoloji” olarak nitelendirdi ve “AI gelişimini denetleyen ve kamu yararına çalıştığından emin olan bir tür düzenleyici otoriteye ihtiyacımız var” dedi.

Altman, ABC’ye GPT-4’ün hala “büyük ölçüde insan kontrolünde” olduğu konusunda ısrar etse de, modelinin “mevcut birçok işi ortadan kaldıracağını” kabul etti ve insanların “bu teknolojiyi yavaşlatmanın yollarını bulması gerekeceğini” söyledi.