Google'dan ayrılan mühendisten yapay zeka uyarısı

ABD medyası, "yapay zekanın babası" olarak anılan Bilgisayar Mühendisi Geoffrey Hinton'un, yapay zekanın tehlikelerine dair konuşmak için Google'daki işinden ayrıldığını yazdı.

New York Times'a konuşan Hinton, yapay zeka alanında kaydedilen ilerlemelerin "toplum ve insanlık için derin riskler oluşturduğunu" belirtti.

Beş yıl öncesiyle şimdinin kıyaslanmasını isteyen Hinton, "Bu farkı alın ve geleceğe doğru yayın. Bu korkutucu." ifadesini kullandı.

Tecrübeli mühendis, teknoloji devleri arasındaki rekabetin şirketleri "tehlikeli hızlarda" yeni yapay zeka teknolojileri sunmaya, işleri riske atmaya ve yanlış bilgi yaymaya ittiğini söyledi.

"Kötü aktörlerin onu (yapay zeka) kötü şeyler için kullanmasını nasıl engelleyebileceğinizi görmek zor." diyen Hinton, "Belki de bu sistemlerde olup bitenler aslında beyinde olup bitenlerden çok daha iyidir." şeklinde konuştu.

2022 yılında Google ve OpenAI (yapay zeka sohbet botu ChatGPT'nin arkasındaki girişim), eskisinden çok daha büyük miktarda veri kullanan sistemler oluşturmaya başlamıştı.

ChatGPT'NIN SAHİBİ DE UYARMIŞTI

OpenAI CEO'su Sam Altman, yapay zekanın çalışanların yerini alma, "dezenformasyon" yayma ve siber saldırılara olanak sağlama potansiyeline sahip olduğu konusunda uyardı.

Altman, şirketinin GPT-4 adlı en son dil modelini açıklamasından iki gün sonra ABC News'e konuştu.

"Yapay Zeka konusunda dikkatli olmalıyız. Chat CPT-4 çeşitli profesyonel ve akademik ölçütlerde insan düzeyinde performans sergiliyor. Bu modellerin özellikle büyük ölçekli dezenformasyon için kullanılabileceğinden  endişeliyim. Artık bilgisayar kodu yazmakta daha iyi hale geldiklerine göre, saldırgan siber saldırılar için kullanılabilirler" dedi.

Altman, şirketinin yapay zeka konusunda "güvenlik sınırları" koymak için çalıştığını söyledi ve "Bence insanlar bundan biraz korktuğumuz için mutlu olmalı" dedi.

Şu anda, GPT-4 sınırlı sayıda kullanıcıya deneme amaçlı olarak sunuluyor.

İlk raporlar, modelin selefinden önemli ölçüde daha güçlü ve potansiyel olarak daha tehlikeli olduğunu gösteriyor.