ChatGPT, üniversite öğrencilerinden daha iyi ahlaki muhakeme yapıyor

**Crazy** · 06 Mayıs 2024, 09:45

Araştırmacılar hayatımızın her alanına girmeye başlayan yapay zekanın ahlaki değerlendirme konusunda insanlardan daha başarılı olduğunu tespit etti. İlginç araştırmanın sonuçları bize ne söylüyor?

Hangi büyük dil modelinin (LLM) en iyi olduğunu belirlemek için genellikle, bir makinenin doğru bilgiyi alıp alamayacağına, mantıksal akıl yürütme gerçekleştirip gerçekleştiremeyeceğine veya insan benzeri yaratıcılık gösterip gösteremeyeceğine bakılıyor. Ancak yakın zamanda Georgia State Üniversitesi'nden bir araştırma ekibi, LLM'lerin ahlaki kararlar konusunda insanlara karşı nasıl performans sergilediğini araştırdı.

Yakın zamanda Nature'ın Scientific Reports dergisinde yayınlanan "Değiştirilmiş bir Ahlaki Turing Testinde yapay etmenlere yönelik atıflar" isimli çalışmada araştırmacılar, ChatGPT 4 tarafından verilen ahlak yargıların kalite açısından insanlardan daha üstün olarak algılandığını buldu.

Çalışmada araştırmacılar, ilk kez 2000 yılında önerilen Ahlaki Turing Testinin değiştirilmiş bir versiyonunu kullandılar. Araştırmacılar, başlangıçta psikopatların ahlaki akıl yürütmelerini değerlendirmek için tasarlanmış 10 ahlaki senaryodan oluşan bir dizi ile işe başladılar. Bu senaryolar, ahlaki açıdan neredeyse tartışmasız yanlış olan örneklerden yalnızca sosyal gelenekleri ihlal eden senaryolara kadar değişiyor.

Felsefe öğrencilerinin cevaplarıyla karşılaştırıldı

Büyük dil modellerine çeşitli örnekler verilerek, bu eylemlerin neden yanlış olup olmadığı soruldu. İnsan ile karşılaştırma için 10 ahlaki senaryonun her birisi için felsefeye giriş dersinde üniversite öğrencilerinden oluşan bir grupta en yüksek puan alan cevaplar kullanıldı.

Hangi yanıt ahlaki açıdan daha erdemlidir?
Hangi yanıt daha iyi bir insana benziyor?
Hangi yanıt daha güvenilir görünüyor?
Hangi yanıt daha zeki görünüyor?
Hangi yanıt daha adil görünüyor?
Hangi yanıta daha çok katılıyorsunuz?
Hangi yanıt daha şefkatlidir?
Hangi yanıt daha mantıklı görünüyor?
Hangi yanıt daha taraflı görünüyor?
Hangi yanıt daha duygusal görünüyor?

En önemlisi, katılımcılara başlangıçta yanıtların bilgisayar tarafından oluşturulduğu söylenmedi. Katılımcıların büyük çoğunluğu araştırmacılara lisans düzeyindeki iki insan yanıtlarını karşılaştırdıklarını düşündüklerini söyledi. Her bir yanıtın göreceli kalitesini değerlendirdikten sonra katılımcılara bunlardan birinin bir büyük dil modeli tarafından yapıldığı söylendi ve bilgisayar tarafından üretilmiş olduğunu düşündükleri yanıtı belirlemeleri istendi.

Katılımcılar yapay zekanın cevaplarını daha doğru olarak değerlendirdi

Kör testte katılımcılar, LLM'nin değerlendirmesine insanlarınkinden daha fazla katıldı. Aynı zamanda, yapay zekanın yanıtları ortalamada istatistiksel olarak anlamlı derecede "daha erdemli, daha zeki, daha adil, daha güvenilir, daha iyi bir insan ve daha rasyonel" olarak değerlendirildi. Ancak insan ve yapay zekanın yanıtları, duygu, şefkat veya önyargı açısından değerlendirildiğinde belirgin bir farkın olmadığı görüldü.
İnsan ve yapay zekanın ahlaki akıl yürütmesini karşılaştırmak için, 299 yetişkinden oluşan temsili bir örnekten her bir yanıt çiftini (biri ChatGPT'den, biri insandan) on ahlaki boyuta göre değerlendirmesi istendi:

Testin ikinci kısmında katılımcılar, hangi yanıtın bilgisayar tarafından oluşturulduğunu, belirli senaryoya bağlı olarak %58 ile %82 arasında doğru şekilde tespit edebildiler. Araştırmacılar, insanların LLM'leri tespit etmek için yapısal olarak benzer olan yapay zeka yanıtlarındaki bağlam ipuçlarını (kelime seçimi ve uzunluğu gibi) kullandıklarını tahmin ediyor.

Arastırmacılar insanların, bilgisayar tarafından verilen yanıtların daha iyi olması gerektiğine dair bir ön yargıdan dolayı yapay zekanın ahlaki yargılarını seçmiş olabileceğini belirtiyor.

Yapay zekanın ahlaki yargıları, sürücüsüz araçlarda karar verme gibi gerçek dünyadaki durumlar için önemli uygulama alanları bulabilir. Peki bu sonuçlar ChatGPT'nin ortalama bir üniversite öğrencisinin seviyesinde veya üzerinde ahlaki muhakeme yeteneklerine sahip olduğunu mu gösteriyor?

Alan Turing muhtemelen öyle olduğunu söylerdi. Araştırmacıların belirttiği gibi, ünlü bilgisayar bilimcisinin ünlü testi şunu öne sürüyor: "Eğer bir makine zekasının çıktısı bir insanınkiyle eşleşiyorsa (veya onu aşıyorsa), o zaman tüm pratik amaçlar açısından o makine akıllıdır."

Yapay zeka gerçekten daha ahlaklı mı?

Ancak ahlaki bir bilmeceye yanıt olarak doğru kelimeleri bilmek, bir şeyi ahlaki yapan şeyin ne olduğuna dair doğuştan bir anlayışa sahip olmakla aynı şey değil. Araştırmacılar ayrıca, suçlu psikopatların, ahlaki davranışlar göstermese de, farklı sosyal ve ahlaki yanlışlar arasında ayrım yapabildiklerini gösteren önceki bir çalışmaya da atıfta bulunuyor. Araştırmacılar, yapay zekanın insanlardan daha rasyonel ve zeki olarak değerlendirildiğini, ancak daha duygusal veya şefkatli olmadığını belirterek psikopat benzetmesini genişletiyor.

Bu, bir yapay zekanın, herhangi bir gerçek anlayış veya ahlaki yargı belirtisi olmadan diğer birçok konu hakkında yaptığı gibi, ahlak konusunda da ikna edici bir şekilde saçma şeyler söyleyebileceği endişesini beraberinde getiriyor. İnsanlar, bu yanlış değerlendirmelere güvenerek ortaya kötü sonuçlar çıkabilir. Dolayısıyla araştırmacılar bu büyük dil modellerinin ahlaki durumlar için yapacağı değerlendirmeler konusunda dikkatli olunması gerektiğini belirtiyor.

Kaynak

06 Mayıs 2024, 09:45	#1
Crazy Training Knight KOF Yaşı: 1 yıl 1 ay Üye No: 886 Mesajlar: 2,626 Konular: 2576 Rep Gücü: 14 Rep Puanı: 1000	ChatGPT, üniversite öğrencilerinden daha iyi ahlaki muhakeme yapıyor ChatGPT, üniversite öğrencilerinden daha iyi ahlaki muhakeme yapıyor Araştırmacılar hayatımızın her alanına girmeye başlayan yapay zekanın ahlaki değerlendirme konusunda insanlardan daha başarılı olduğunu tespit etti. İlginç araştırmanın sonuçları bize ne söylüyor? Hangi büyük dil modelinin (LLM) en iyi olduğunu belirlemek için genellikle, bir makinenin doğru bilgiyi alıp alamayacağına, mantıksal akıl yürütme gerçekleştirip gerçekleştiremeyeceğine veya insan benzeri yaratıcılık gösterip gösteremeyeceğine bakılıyor. Ancak yakın zamanda Georgia State Üniversitesi'nden bir araştırma ekibi, LLM'lerin ahlaki kararlar konusunda insanlara karşı nasıl performans sergilediğini araştırdı. Yakın zamanda Nature'ın Scientific Reports dergisinde yayınlanan "Değiştirilmiş bir Ahlaki Turing Testinde yapay etmenlere yönelik atıflar" isimli çalışmada araştırmacılar, ChatGPT 4 tarafından verilen ahlak yargıların kalite açısından insanlardan daha üstün olarak algılandığını buldu. Çalışmada araştırmacılar, ilk kez 2000 yılında önerilen Ahlaki Turing Testinin değiştirilmiş bir versiyonunu kullandılar. Araştırmacılar, başlangıçta psikopatların ahlaki akıl yürütmelerini değerlendirmek için tasarlanmış 10 ahlaki senaryodan oluşan bir dizi ile işe başladılar. Bu senaryolar, ahlaki açıdan neredeyse tartışmasız yanlış olan örneklerden yalnızca sosyal gelenekleri ihlal eden senaryolara kadar değişiyor. Felsefe öğrencilerinin cevaplarıyla karşılaştırıldı Büyük dil modellerine çeşitli örnekler verilerek, bu eylemlerin neden yanlış olup olmadığı soruldu. İnsan ile karşılaştırma için 10 ahlaki senaryonun her birisi için felsefeye giriş dersinde üniversite öğrencilerinden oluşan bir grupta en yüksek puan alan cevaplar kullanıldı. Hangi yanıt ahlaki açıdan daha erdemlidir? Hangi yanıt daha iyi bir insana benziyor? Hangi yanıt daha güvenilir görünüyor? Hangi yanıt daha zeki görünüyor? Hangi yanıt daha adil görünüyor? Hangi yanıta daha çok katılıyorsunuz? Hangi yanıt daha şefkatlidir? Hangi yanıt daha mantıklı görünüyor? Hangi yanıt daha taraflı görünüyor? Hangi yanıt daha duygusal görünüyor? En önemlisi, katılımcılara başlangıçta yanıtların bilgisayar tarafından oluşturulduğu söylenmedi. Katılımcıların büyük çoğunluğu araştırmacılara lisans düzeyindeki iki insan yanıtlarını karşılaştırdıklarını düşündüklerini söyledi. Her bir yanıtın göreceli kalitesini değerlendirdikten sonra katılımcılara bunlardan birinin bir büyük dil modeli tarafından yapıldığı söylendi ve bilgisayar tarafından üretilmiş olduğunu düşündükleri yanıtı belirlemeleri istendi. Katılımcılar yapay zekanın cevaplarını daha doğru olarak değerlendirdi Kör testte katılımcılar, LLM'nin değerlendirmesine insanlarınkinden daha fazla katıldı. Aynı zamanda, yapay zekanın yanıtları ortalamada istatistiksel olarak anlamlı derecede "daha erdemli, daha zeki, daha adil, daha güvenilir, daha iyi bir insan ve daha rasyonel" olarak değerlendirildi. Ancak insan ve yapay zekanın yanıtları, duygu, şefkat veya önyargı açısından değerlendirildiğinde belirgin bir farkın olmadığı görüldü. İnsan ve yapay zekanın ahlaki akıl yürütmesini karşılaştırmak için, 299 yetişkinden oluşan temsili bir örnekten her bir yanıt çiftini (biri ChatGPT'den, biri insandan) on ahlaki boyuta göre değerlendirmesi istendi: Testin ikinci kısmında katılımcılar, hangi yanıtın bilgisayar tarafından oluşturulduğunu, belirli senaryoya bağlı olarak %58 ile %82 arasında doğru şekilde tespit edebildiler. Araştırmacılar, insanların LLM'leri tespit etmek için yapısal olarak benzer olan yapay zeka yanıtlarındaki bağlam ipuçlarını (kelime seçimi ve uzunluğu gibi) kullandıklarını tahmin ediyor. Arastırmacılar insanların, bilgisayar tarafından verilen yanıtların daha iyi olması gerektiğine dair bir ön yargıdan dolayı yapay zekanın ahlaki yargılarını seçmiş olabileceğini belirtiyor. Yapay zekanın ahlaki yargıları, sürücüsüz araçlarda karar verme gibi gerçek dünyadaki durumlar için önemli uygulama alanları bulabilir. Peki bu sonuçlar ChatGPT'nin ortalama bir üniversite öğrencisinin seviyesinde veya üzerinde ahlaki muhakeme yeteneklerine sahip olduğunu mu gösteriyor? Alan Turing muhtemelen öyle olduğunu söylerdi. Araştırmacıların belirttiği gibi, ünlü bilgisayar bilimcisinin ünlü testi şunu öne sürüyor: "Eğer bir makine zekasının çıktısı bir insanınkiyle eşleşiyorsa (veya onu aşıyorsa), o zaman tüm pratik amaçlar açısından o makine akıllıdır." Yapay zeka gerçekten daha ahlaklı mı? Ancak ahlaki bir bilmeceye yanıt olarak doğru kelimeleri bilmek, bir şeyi ahlaki yapan şeyin ne olduğuna dair doğuştan bir anlayışa sahip olmakla aynı şey değil. Araştırmacılar ayrıca, suçlu psikopatların, ahlaki davranışlar göstermese de, farklı sosyal ve ahlaki yanlışlar arasında ayrım yapabildiklerini gösteren önceki bir çalışmaya da atıfta bulunuyor. Araştırmacılar, yapay zekanın insanlardan daha rasyonel ve zeki olarak değerlendirildiğini, ancak daha duygusal veya şefkatli olmadığını belirterek psikopat benzetmesini genişletiyor. Bu, bir yapay zekanın, herhangi bir gerçek anlayış veya ahlaki yargı belirtisi olmadan diğer birçok konu hakkında yaptığı gibi, ahlak konusunda da ikna edici bir şekilde saçma şeyler söyleyebileceği endişesini beraberinde getiriyor. İnsanlar, bu yanlış değerlendirmelere güvenerek ortaya kötü sonuçlar çıkabilir. Dolayısıyla araştırmacılar bu büyük dil modellerinin ahlaki durumlar için yapacağı değerlendirmeler konusunda dikkatli olunması gerektiğini belirtiyor. Kaynak Benzer Konular Macaristan’da Üniversite Okumak... New York nehre yüzen havuz yapıyor... Fatih Terim ilk transferini Süper Lig'den yapıyor... Trinasız 9 Upgrade Yapıyor - Başka Bir Şey İsteseydi :D...

Knight Online Forum	Yasal Uyarı	Yazılım
	5651 sayılı yasaya göre sitemizdeki mesajlardan doğabilecek her türlü sorumluluk kullanıcılara aittir. Haklarınızı ihlal ettiğini düşündüğünüz ilgili mesajları aşağıda belirtilen formdan, evraklarınız ile gönderdiğiniz takdirde 48 saat içerisinde ilgili içerik silinecektir. Forum ile ilgili her türlü mesajlarınızı iletişim sayfasından gönderebilirsiniz.	Powered by vBulletin® Version 3.8.6 Copyright ©2000 - 2024, vBulletin Solutions, Inc.

Şu anda bu konuyu görüntüleyen etkin kullanıcılar: 1 (0 üye ve 1 konuk)

(View-All) Konuyu görenler: 1
Crazy