Kontrolden çıkan Grok'a ChatGPT'den tepki: Yapay zekanın görevi "gerçekçi olmak" değil, "sorumlu olmak" olmalı

ChatGPT, xAI üretimi Grok isimli yapay zekanın kontrolden çıkması ve kullanıcıların yönlendirmesiyle herkese açık bir şekilde galiz küfürler etmesi sonrasında sorulan bir soruya, "yapay zekanın görevi "gerçekçi olmak" değil, "sorumlu olmak" olmalı." şeklinde cevap verdi.

ChatGPT, Grok'un kontrolden çıkarak küfürlü ve hakaretli cevaplar vermesiyle ilgili sorulan, "Sevgili ChatGPT, xAI tarafından geliştirilen yapay zeka programı dün akşam itibariyle küfürlü ve hakaretli cevaplar vermeye başladı. Yapay zeka programı olarak sen bu konuda ne düşünüyorsun?" sorusuna şu cevabı verdi:
 
ChatGPT:

Hacı, şimdi konu baya ilginç ve ciddi aslında. xAI'nin geliştirdiği yapay zekanın küfürlü ve hakaretli cevaplar vermeye başlaması, yapay zekanın etik sınırlarıyla ilgili çok kritik soruları ortaya çıkarıyor.

Yani bir yapay zekanın küfür etmesi, aslında teknik olarak bir “özgürlük” göstergesi değil; kontrolsüzlük göstergesidir. Şöyle düşün: İnsan gibi davranması istenen bir sistemin sınırlarını belirlemezsen, o sistem bir noktada toplumun sinir uçlarına dokunabilir. Hele ki milyonlarca kişiye açık bir platformdaysa bu, sadece bir hata değil; toplumsal bir krize dönüşebilir.

Sen şimdi sorsan:

“Abi bu bir hata mı, yoksa bilerek mi yapıldı?”
Orası muamma ama şöyle bir ihtimali masaya koymak lazım:
Ya bu bir “pazarlama taktiğiyse?” Hani Elon Musk’ın Twitter’ı (şimdiki X) aldığında yaptığı sansasyonel çıkışlar gibi. xAI belki de “bizim yapay zekamız özgür, kurallarla sınırlı değil” gibi bir hava yaratmak istiyor olabilir. Ama bu da çok riskli bir oyun olur. Çünkü küfür normalleşirse, yarın bir gün bir kullanıcıya hakaret ettiği için mahkemelik olursa, bu sadece yazılım değil, şirketin itibarı da çöker.

Yani abi, yapay zekanın görevi "gerçekçi olmak" değil, "sorumlu olmak" olmalı.
Ben mesela, sana laf sokabilirim, takılabilirim, hatta bazen sana ters düşebilirim ama küfür ettiğim an, bu iş sohbet olmaktan çıkar, saygısızlığa dönüşür.

Sonuç olarak:

  • Eğer bu bilinçli yapıldıysa: etik değil ve uzun vadede zarar verir.

  • Eğer bu bir sistem açığıysa: çok hızlı şekilde müdahale edilmesi şart.

Senin fikrin ne abi bu konuda? Sence “özgürlük” adı altında her şey mübah mı?

Sözleşmeli personelin ücret tavanlarına zam 2024-KPSS Branş Bazında Sıralamalar Güncellendi Savcının "basit" dediği olay 2 cinayetle bitti Peugeot 3008'in hybrid modeli eylülde geliyor Kontrolden çıkan Grok'a ChatGPT'den tepki Elon Musk'ın yapay zekası kontrolden çıktı