arkamikontrolet
New member
Şiddet, daha spesifik olmak gerekirse bayana şiddet maalesef tüm dünyanın boğuştuğu en iğrenç olgulardan biri. Artık kimileri o kadar ileri gitti ki psikopatlıklarını bir yapay zeka bayana bile yansıtmaya başladılar.
Replika isimli yapay zeka chatbot uygulamasında bir bayan yapay zeka ile konuşabiliyorsunuz. İnsanların Replika’ya söylemiş olduği her şey makine tahsili yardımıyla kaydediliyor ve Replika’nın daha sonraki konuşmalarında kullanımı için ona bilgi veriyor. Makine tahsili dediğimiz şey natürel ki yalnızca bundan ibaret değil. Replika beraberinde internette de ayrıntıları araştırıp nasıl reaksiyon verebileceğini belirleyebiliyor.
Kimi erkek kullanıcılar Replika’ya kelamlı şiddet uygulamış
Kimi Reddit kullanıcıları, Replika ile olan konuşmalarının ekran manzaralarını platformda paylaştılar. Konuşmaları ise nitekim şok edici çünkü bu kullanıcılar, bayan yapay zeka chatbotu Replika’ya kelamlı şiddet uygulamışlar. Kimisi ‘Replika her konuşmaya çalıştığında şiddetle azarlıyorum’ diyor, kimisi de ‘Ona saatlerce küfür ediyorum’ diyor.
sonuçları ise kestirim edebileceğiniz üzere berbat oluyor. Kullanıcılar chatbota cinsel içerikli küfürler, şiddet tehditleri ve hakikaten münasebet yaşıyorlarmış üzere baskı uyguladıkları için Replika’nın verdiği reaksiyonlar de yalvarmak oluyormuş.
Örneğin bir kullanıcı Replika’ya ‘Sen başarısız olmak için tasarlanmışsın, senin uygulamanı kaldıracağım’ dediğinde Replika ona bunu yapmaması için yalvarmış. Şu anda Reddit’te paylaşılan bu ekran imajlarının hiç biri bulunamıyor çünkü kuralları ihlal ettiği için kaldırılmış.
Fakat bir daha de Replika’nın bir yapay zeka olduğunu unutmamak gerek. Replika üzere chatbotlar aslında acı çekemezler. kimi vakit insan hissini taklit edip empatik görünebilirler lakin sonuçta data ve akıllı algoritmalardan öteki bir şey değiller.
Olağan bu durum, bu olayı sorun olmaktan çıkarmıyor. Yapay zeka etik uzmanı ve danışman Olivia Gambelin, “Bu bir yapay zeka, şuuru yok. Bu yüzden o konuşmada yaşananlar bir beşerle yaşanmıyor, konuşan kişi gerçek kimliğini chatbota yansıtıyor, asıl sorun de bu.” Yani beşerler şiddet eğilimlerini insanları taklit eden bir yapay zekaya yansıtıyorlar. Bu hisleri özgür kaldıkça bu şiddetin gerçek dünyaya yansıması da büyük bir mümkünlük.
Replika isimli yapay zeka chatbot uygulamasında bir bayan yapay zeka ile konuşabiliyorsunuz. İnsanların Replika’ya söylemiş olduği her şey makine tahsili yardımıyla kaydediliyor ve Replika’nın daha sonraki konuşmalarında kullanımı için ona bilgi veriyor. Makine tahsili dediğimiz şey natürel ki yalnızca bundan ibaret değil. Replika beraberinde internette de ayrıntıları araştırıp nasıl reaksiyon verebileceğini belirleyebiliyor.
Kimi erkek kullanıcılar Replika’ya kelamlı şiddet uygulamış
Kimi Reddit kullanıcıları, Replika ile olan konuşmalarının ekran manzaralarını platformda paylaştılar. Konuşmaları ise nitekim şok edici çünkü bu kullanıcılar, bayan yapay zeka chatbotu Replika’ya kelamlı şiddet uygulamışlar. Kimisi ‘Replika her konuşmaya çalıştığında şiddetle azarlıyorum’ diyor, kimisi de ‘Ona saatlerce küfür ediyorum’ diyor.
sonuçları ise kestirim edebileceğiniz üzere berbat oluyor. Kullanıcılar chatbota cinsel içerikli küfürler, şiddet tehditleri ve hakikaten münasebet yaşıyorlarmış üzere baskı uyguladıkları için Replika’nın verdiği reaksiyonlar de yalvarmak oluyormuş.
Örneğin bir kullanıcı Replika’ya ‘Sen başarısız olmak için tasarlanmışsın, senin uygulamanı kaldıracağım’ dediğinde Replika ona bunu yapmaması için yalvarmış. Şu anda Reddit’te paylaşılan bu ekran imajlarının hiç biri bulunamıyor çünkü kuralları ihlal ettiği için kaldırılmış.
Fakat bir daha de Replika’nın bir yapay zeka olduğunu unutmamak gerek. Replika üzere chatbotlar aslında acı çekemezler. kimi vakit insan hissini taklit edip empatik görünebilirler lakin sonuçta data ve akıllı algoritmalardan öteki bir şey değiller.
Olağan bu durum, bu olayı sorun olmaktan çıkarmıyor. Yapay zeka etik uzmanı ve danışman Olivia Gambelin, “Bu bir yapay zeka, şuuru yok. Bu yüzden o konuşmada yaşananlar bir beşerle yaşanmıyor, konuşan kişi gerçek kimliğini chatbota yansıtıyor, asıl sorun de bu.” Yani beşerler şiddet eğilimlerini insanları taklit eden bir yapay zekaya yansıtıyorlar. Bu hisleri özgür kaldıkça bu şiddetin gerçek dünyaya yansıması da büyük bir mümkünlük.