Dahi kafalar
New member
San Francisco, ABD:
26 yaşındaki OpenAI araştırmacısı ve ihbarcı Suchir Balaji, geçen ay ABD'nin San Francisco kentinde bir apartman dairesinde ölü bulundu. 26 Kasım'daki ölümü, San Francisco adli tıp ofisi tarafından intihar olarak değerlendirildi çünkü polis herhangi bir suç olduğuna dair kanıt bulamadı.
Ağustos ayında OpenAI'den ayrılan Balaji, son aylarda yapay zeka şirketinin internetten taranan telif hakkıyla korunan materyaller konusunda chatbot'u eğitme uygulamasına karşı oldukça açık sözlü davrandı. Yapay zeka (AI) devi, veri toplama uygulamalarıyla ilgili birçok davayla karşı karşıya kaldı.
Suchir Balaji Hakkında
Hint asıllı Amerikalı Suchir Balaji, Cupertino, California'da büyüdü. Olağanüstü zeki bir çocuk olarak programlama yarışmalarında başarılı oldu, ACM ICPC 2018 Dünya Finallerinde 31. oldu ve 2017 Pasifik Kuzeybatı Bölge ve Berkeley Programlama Yarışmalarında birincilik kazandı.
Balaji ayrıca Kaggle'ın TSA sponsorluğundaki Yolcu Tarama Algoritması Yarışmasında 7. sırayı aldı ve 100.000 $ para ödülü aldı. LinkedIn profiline göre 2016 ABD Açık Ulusal Şampiyonu ve USACO finalistiydi.
Alanındaki çoğu kişi gibi Balaji de genç yaşlardan itibaren yapay zekanın geleceğine hayran kalmıştı. Ekim ayında The New York Times'a verdiği bir röportajda, yapay zekaya olan ilgisinin, gençliğinde teknolojiyle ilgili bir haberle karşılaşmasının ve sinir ağlarının insanlığın en büyük sorunlarını çözebileceğini hayal etmesinin ardından başladığını belirtmişti.
NYT'nin haberine göre “Yapay zekanın, hastalıkları tedavi etmek ve yaşlanmayı durdurmak gibi zorlu sorunları çözebilecek bir şey olduğunu düşündüm… Bu sorunları çözmeye yardımcı olabilecek bir tür bilim insanı icat edebileceğimizi düşündüm” dedi.
Mezun olmadan önce Scale AI, Helia'da çalıştı ve Quora'da yazılım mühendisi olarak çalıştı. Balaji, 2020'de OpenAI için çalışan bir dizi Berkeley mezununun arasına katıldı.
Suchir Balaji'nin OpenAI'deki zamanı
Dört yıl boyunca OpenAI'de çalıştı; bir buçuk yıl da şirketin çevrimiçi sohbet robotu ChatGPT'yi oluşturmak için kullandığı devasa miktardaki internet verilerinin toplanmasına ve düzenlenmesine yardımcı oldu.
Balaji, NYT'ye OpenAI'de ilk çalışmaya başladığında şirketin hem özel hem de açık İnternet verilerini kullanarak ürünlerini geliştirmeye yönelik yasal bir hakka sahip olup olmadığı konusunda dikkatli düşünmediğini söyledi. ChatGPT'nin 2022 sonlarında piyasaya sürülmesinden sonra sorun hakkında düşünmeye başladı ve ChatGPT gibi teknolojilerin telif hakkıyla korunan verileri kullanarak İnternet'e zarar verdiğini ve dolayısıyla yasayı ihlal ettiğini fark etti.
2024 yılına gelindiğinde Balaji, “topluma yarardan çok zarar vereceğine inandığı teknolojilere artık katkıda bulunmak istemediğini” fark etti. Aynı yılın Ağustos ayında yeni bir iş olmadan şirketten ayrıldı ve “kişisel projeler” üzerinde çalışmaya başladı. onun dediği gibi.
Mahkeme dosyasında, AI devine dava açanlar tarafından açılan bir davanın parçası olarak OpenAI'nin dosyalarını arayacak biri olarak adlandırılmasından bir gün sonra öldü.
Suchir Balaji'nin OpenAI'ye yönelik suçlaması
OpenAI'den ayrıldıktan sonra Suchir Balaji, yapay zeka şirketlerinin teknolojilerini geliştirmek için özel verileri kullanma şekline karşı kamuoyuna konuştu. Yapay zeka modellerinin, internetten izinsiz olarak taranan telif hakkıyla korunan materyaller üzerinde eğitildikleri için başkalarının çalışmalarına fazlasıyla bağımlı olduklarını iddia etti.
NYT'ye “Bu, bir bütün olarak internet ekosistemi için sürdürülebilir bir model değil” dedi.
Ayrıca kişisel web sitesinde endişelerini de detaylandırdı; üretken modeller nadiren eğitim verileriyle aynı sonuçları üretirken, telif hakkıyla korunan materyalin eğitim sırasında çoğaltılmasının, “Adil Kullanım” korunduğu takdirde yasaları ihlal edebileceğini belirtti.
“Adil kullanıma duruma göre karar verildiğinden, üretken yapay zekanın ne zaman adil kullanıma uygun olduğu konusunda genel bir açıklama yapılamaz” diye belirtti.
Balaji birçok durumda sohbet robotlarının öğrendikleri telif hakkıyla korunan eserlerle doğrudan rekabet ettiğini savundu. “Üretken modeller çevrimiçi verileri taklit edecek şekilde tasarlandı ve haberlerden çevrimiçi forumlara kadar İnternet'teki “temelde her şeyin” yerini almalarına olanak tanıyor” dedi.
Ona göre en büyük sorun, yavaş yavaş mevcut İnternet hizmetlerinin yerini alan yapay zeka teknolojilerinin bazen “yanlış ve bazen de tamamen uydurma bilgiler – araştırmacıların 'halüsinasyon' dediği şeyleri” üretmesidir.
İnternetin daha da kötüye doğru değiştiğini söyledi.
Yapay zeka şirketlerine yönelik suçlamalar
Balaji, AI şirketlerinin sohbet robotlarını eğitmek için telif hakkı sahiplerinin verilerini kötüye kullanması konusundaki endişelerinde yalnız değildi. The New York Times da dahil olmak üzere birçok ABD ve Kanadalı haber yayıncısı, OpenAI ve onun lider ortağı Microsoft'a karşı dava açtı ve onların milyonlarca makalesini, artık güvenilir bilgi kaynağı olarak haber kaynağıyla rekabet eden sohbet robotları geliştirmek için kullandıklarını iddia etti.
Aralarında John Grisham'ın da bulunduğu pek çok çok satan yazar da şirkete karşı dava açtı.
OpenAI iddiaları yalanladı
OpenAI, Balaji'nin iddialarına itiraz etti ve veri kullanımının adil kullanım ilkelerine ve yasal emsallere uygun olduğu konusunda ısrar etti.
“Yapay zeka modellerimizi kamuya açık verilere dayanarak, adil kullanım ve ilgili ilkelerle korunan ve uzun süredir devam eden ve geniş çapta kabul görmüş yasal emsallerle desteklenen bir şekilde oluşturuyoruz. OpenAI yaptığı açıklamada, bu prensibi yaratıcılar için adil, yenilikçiler için gerekli ve ABD'nin rekabet gücü açısından kritik olarak görüyoruz” dedi.
Şirket Kasım ayında BBC'ye yazılımının “adil kullanıma ve yaratıcılar için adil olan ve yeniliği destekleyen ilgili uluslararası telif hakkı ilkelerine dayandığını” söyledi.
BAlaji'nin ölümüne tepki gösteren bir OpenAI sözcüsü şunları söyledi: “Bugün bu inanılmaz derecede üzücü haberi öğrendiğimizde yıkıldık ve düşüncelerimiz bu zor zamanda Suchir'in sevdikleriyle birlikte.”
26 yaşındaki OpenAI araştırmacısı ve ihbarcı Suchir Balaji, geçen ay ABD'nin San Francisco kentinde bir apartman dairesinde ölü bulundu. 26 Kasım'daki ölümü, San Francisco adli tıp ofisi tarafından intihar olarak değerlendirildi çünkü polis herhangi bir suç olduğuna dair kanıt bulamadı.
Ağustos ayında OpenAI'den ayrılan Balaji, son aylarda yapay zeka şirketinin internetten taranan telif hakkıyla korunan materyaller konusunda chatbot'u eğitme uygulamasına karşı oldukça açık sözlü davrandı. Yapay zeka (AI) devi, veri toplama uygulamalarıyla ilgili birçok davayla karşı karşıya kaldı.
Suchir Balaji Hakkında
Hint asıllı Amerikalı Suchir Balaji, Cupertino, California'da büyüdü. Olağanüstü zeki bir çocuk olarak programlama yarışmalarında başarılı oldu, ACM ICPC 2018 Dünya Finallerinde 31. oldu ve 2017 Pasifik Kuzeybatı Bölge ve Berkeley Programlama Yarışmalarında birincilik kazandı.
Balaji ayrıca Kaggle'ın TSA sponsorluğundaki Yolcu Tarama Algoritması Yarışmasında 7. sırayı aldı ve 100.000 $ para ödülü aldı. LinkedIn profiline göre 2016 ABD Açık Ulusal Şampiyonu ve USACO finalistiydi.
Alanındaki çoğu kişi gibi Balaji de genç yaşlardan itibaren yapay zekanın geleceğine hayran kalmıştı. Ekim ayında The New York Times'a verdiği bir röportajda, yapay zekaya olan ilgisinin, gençliğinde teknolojiyle ilgili bir haberle karşılaşmasının ve sinir ağlarının insanlığın en büyük sorunlarını çözebileceğini hayal etmesinin ardından başladığını belirtmişti.
NYT'nin haberine göre “Yapay zekanın, hastalıkları tedavi etmek ve yaşlanmayı durdurmak gibi zorlu sorunları çözebilecek bir şey olduğunu düşündüm… Bu sorunları çözmeye yardımcı olabilecek bir tür bilim insanı icat edebileceğimizi düşündüm” dedi.
Mezun olmadan önce Scale AI, Helia'da çalıştı ve Quora'da yazılım mühendisi olarak çalıştı. Balaji, 2020'de OpenAI için çalışan bir dizi Berkeley mezununun arasına katıldı.
Suchir Balaji'nin OpenAI'deki zamanı
Dört yıl boyunca OpenAI'de çalıştı; bir buçuk yıl da şirketin çevrimiçi sohbet robotu ChatGPT'yi oluşturmak için kullandığı devasa miktardaki internet verilerinin toplanmasına ve düzenlenmesine yardımcı oldu.
Balaji, NYT'ye OpenAI'de ilk çalışmaya başladığında şirketin hem özel hem de açık İnternet verilerini kullanarak ürünlerini geliştirmeye yönelik yasal bir hakka sahip olup olmadığı konusunda dikkatli düşünmediğini söyledi. ChatGPT'nin 2022 sonlarında piyasaya sürülmesinden sonra sorun hakkında düşünmeye başladı ve ChatGPT gibi teknolojilerin telif hakkıyla korunan verileri kullanarak İnternet'e zarar verdiğini ve dolayısıyla yasayı ihlal ettiğini fark etti.
2024 yılına gelindiğinde Balaji, “topluma yarardan çok zarar vereceğine inandığı teknolojilere artık katkıda bulunmak istemediğini” fark etti. Aynı yılın Ağustos ayında yeni bir iş olmadan şirketten ayrıldı ve “kişisel projeler” üzerinde çalışmaya başladı. onun dediği gibi.
Mahkeme dosyasında, AI devine dava açanlar tarafından açılan bir davanın parçası olarak OpenAI'nin dosyalarını arayacak biri olarak adlandırılmasından bir gün sonra öldü.
Suchir Balaji'nin OpenAI'ye yönelik suçlaması
OpenAI'den ayrıldıktan sonra Suchir Balaji, yapay zeka şirketlerinin teknolojilerini geliştirmek için özel verileri kullanma şekline karşı kamuoyuna konuştu. Yapay zeka modellerinin, internetten izinsiz olarak taranan telif hakkıyla korunan materyaller üzerinde eğitildikleri için başkalarının çalışmalarına fazlasıyla bağımlı olduklarını iddia etti.
NYT'ye “Bu, bir bütün olarak internet ekosistemi için sürdürülebilir bir model değil” dedi.
Ayrıca kişisel web sitesinde endişelerini de detaylandırdı; üretken modeller nadiren eğitim verileriyle aynı sonuçları üretirken, telif hakkıyla korunan materyalin eğitim sırasında çoğaltılmasının, “Adil Kullanım” korunduğu takdirde yasaları ihlal edebileceğini belirtti.
“Adil kullanıma duruma göre karar verildiğinden, üretken yapay zekanın ne zaman adil kullanıma uygun olduğu konusunda genel bir açıklama yapılamaz” diye belirtti.
Balaji birçok durumda sohbet robotlarının öğrendikleri telif hakkıyla korunan eserlerle doğrudan rekabet ettiğini savundu. “Üretken modeller çevrimiçi verileri taklit edecek şekilde tasarlandı ve haberlerden çevrimiçi forumlara kadar İnternet'teki “temelde her şeyin” yerini almalarına olanak tanıyor” dedi.
Ona göre en büyük sorun, yavaş yavaş mevcut İnternet hizmetlerinin yerini alan yapay zeka teknolojilerinin bazen “yanlış ve bazen de tamamen uydurma bilgiler – araştırmacıların 'halüsinasyon' dediği şeyleri” üretmesidir.
İnternetin daha da kötüye doğru değiştiğini söyledi.
Yapay zeka şirketlerine yönelik suçlamalar
Balaji, AI şirketlerinin sohbet robotlarını eğitmek için telif hakkı sahiplerinin verilerini kötüye kullanması konusundaki endişelerinde yalnız değildi. The New York Times da dahil olmak üzere birçok ABD ve Kanadalı haber yayıncısı, OpenAI ve onun lider ortağı Microsoft'a karşı dava açtı ve onların milyonlarca makalesini, artık güvenilir bilgi kaynağı olarak haber kaynağıyla rekabet eden sohbet robotları geliştirmek için kullandıklarını iddia etti.
Aralarında John Grisham'ın da bulunduğu pek çok çok satan yazar da şirkete karşı dava açtı.
OpenAI iddiaları yalanladı
OpenAI, Balaji'nin iddialarına itiraz etti ve veri kullanımının adil kullanım ilkelerine ve yasal emsallere uygun olduğu konusunda ısrar etti.
“Yapay zeka modellerimizi kamuya açık verilere dayanarak, adil kullanım ve ilgili ilkelerle korunan ve uzun süredir devam eden ve geniş çapta kabul görmüş yasal emsallerle desteklenen bir şekilde oluşturuyoruz. OpenAI yaptığı açıklamada, bu prensibi yaratıcılar için adil, yenilikçiler için gerekli ve ABD'nin rekabet gücü açısından kritik olarak görüyoruz” dedi.
Şirket Kasım ayında BBC'ye yazılımının “adil kullanıma ve yaratıcılar için adil olan ve yeniliği destekleyen ilgili uluslararası telif hakkı ilkelerine dayandığını” söyledi.
BAlaji'nin ölümüne tepki gösteren bir OpenAI sözcüsü şunları söyledi: “Bugün bu inanılmaz derecede üzücü haberi öğrendiğimizde yıkıldık ve düşüncelerimiz bu zor zamanda Suchir'in sevdikleriyle birlikte.”