Dahi kafalar
New member
Otonom silahların sokaklarda dolaştığı, hayatınızla ilgili kararların toplumsal önyargıları sürdüren AI sistemleri tarafından verildiği ve bilgisayar korsanlarının yıkıcı siber saldırılar başlatmak için AI kullandığı bir dünya hayal edin. Bu distopik gelecek, kulağa bilim kurgu gibi gelebilir, ancak gerçek şu ki, Yapay Zekanın (AI) geliştirilmesi ve konuşlandırılması için uygun düzenlemeler olmadan gerçek olabilir. Yapay zeka teknolojisindeki hızlı gelişmeler, artık yapay zekanın güvenli, etik ve toplum için faydalı şekillerde kullanılmasını sağlamak için harekete geçme zamanının geldiğini açıkça ortaya koydu. Bunun yapılmaması, AI risklerinin faydalarından çok daha ağır bastığı bir geleceğe yol açabilir.
Yukarıdaki paragrafı ben yazmadım. İnternette bulunan ChatGPT adlı bir AI programı tarafından birkaç saniye içinde oluşturuldu. Programa giriş yaptım ve şu istemi girdim: “Yapay zekanın neden düzenlenmesi gerektiğine dair bir Op-Ed’in dikkat çekici ilk paragrafını yazın.”
ChatGPT’nin yapay zeka hakkındaki görüşlerimi yansıtan ikna edici bir argümanı bu kadar hızlı bir şekilde nasıl etkili bir şekilde hazırladığına şaşırdım. Kongre’nin bilgisayar bilimi derecesine sahip üç üyesinden biri olarak, yapay zekanın büyüsüne kapıldım ve toplumu ilerletmeye devam edeceği inanılmaz yollar konusunda heyecanlıyım. Ve bir Kongre üyesi olarak, yapay zekadan, özellikle de kontrolsüz ve düzenlenmemiş bırakılan yapay zekadan korkuyorum.
AI günlük hayatımızın bir parçasıdır. Anlık arama sonuçları veriyor, bilmediğimiz yollarda gezinmemize yardımcı oluyor, beğenebileceğimiz şarkılar öneriyor ve hayal edebileceğiniz hemen hemen her görevi iyileştirebiliyor. AI, kredi kartınızdaki dolandırıcılığı önlemeye, hava durumunu tahmin etmeye ve hastalıkların erken tespitine olanak sağlamaya yardımcı olan sistemlere yerleştirilmiştir. Yapay zeka insanlardan katlanarak daha hızlı düşünür, bizim yapabileceğimizden çok daha fazla veriyi analiz edebilir ve insan zihninin asla göremeyeceği kalıpları görür.
Aynı zamanda, AI zarara neden oldu. Zararın bir kısmı sadece yıkıcıdır. Öğretmenler (ve gazete editörleri), yazılı bir belgenin yapay zeka tarafından mı yoksa bir insan tarafından mı oluşturulduğunu belirlemeyi giderek daha zor bulabilir. Derin sahte teknoloji, gerçek gibi görünen videolar ve fotoğraflar oluşturabilir.
Ancak bazı zararlar ölümcül olabilir. Tesla’nın “tam sürücüsüz” AI özelliği, görünüşe göre geçen Şükran Günü’nde San Francisco’nun Yerba Buena Tüneli’ndeki bir arabada arızalandı ve arabanın aniden durmasına ve çok arabalı bir kazaya neden oldu. Kazanın kesin nedeni tam olarak belirlenemezken, kaza sonucu 9 kişi yaralandı.
Sosyal medyadaki AI algoritmaları, yabancı teröristlerin ve yerli beyaz üstünlükçülerin radikalleşmesine yardımcı oldu.
Zararın bir kısmı da yaygın ayrımcılığa neden olabilir. Kolluk kuvvetleri tarafından kullanılan yüz tanıma sistemleri, daha koyu tenli insanlar için daha az doğrudur ve bu da masum azınlıkların olası yanlış tanımlanmasına neden olur.
Los Angeles Futbol Kulübü ve Madison Square Garden Entertainment gibi özel kuruluşlar zaten AI yüz tanıma sistemlerini kullanıyor. Futbol (profesyonel futbol) kulübü, takımı ve personeli için kullanır. Son zamanlarda, Madison Square Garden, MSG’ye karşı açılan davada müvekkillerini temsil eden firmalarda çalışan avukatların mekana girmesini yasaklamak için yüz tanımayı kullandı. tam olarak neredesin ve ne yapıyorsun.
Geçen yıl, kolluk kuvvetleri tarafından yüz tanıma sistemlerinin kullanımını düzenleyen bir yasa çıkardım. Bunu yapmak için benim ve ekibimin gizlilik ve teknoloji uzmanlarıyla iki yıldan fazla çalışması gerekti ve bu tasarıyı geçirmek için gereken destek koalisyonunu oluşturmak daha fazla zaman alacak. Yine, faturam yapay zekanın yalnızca bir uygulaması içindir Kongrenin yapay zekanın her bir özel kullanımını düzenlemek için ayrı ayrı yasalar çıkarması neredeyse imkansız olacaktır.
İhtiyacımız olan şey, yapay zekayı düzenlemek için özel bir kurum. Bir kurum, yasama sürecinden daha çeviktir, kadrosunda uzmanlar vardır ve bir hata yaparsa kararlarını geri alabilir. Böyle bir ajans oluşturmak zor ve büyük bir girişim olacaktır çünkü yapay zeka karmaşıktır ve hala tam olarak anlaşılamamıştır.
Ancak insanları zarar görmekten korumak için gerekli bir kurumun kurulmasına ilişkin bir emsal var. Moleküllerin milyonlarca benzersiz insanla nasıl etkileşime girdiği karmaşık bir konudur ve iyi anlaşılmamıştır. Yine de farmasötik ilaçları düzenlemek için bir kurum – Gıda ve İlaç İdaresi – kurduk.
AI’nın neredeyse sıfır düzenlemesinden bütün bir federal kuruma geçmek Kongre’yi geçemez. Bu kritik ve gerekli çabanın adım adım ilerlemesi gerekiyor. Bu nedenle, yapay zekayı düzenlemek için bir federal kurumun nasıl yapılandırılacağına, hangi tür yapay zekanın düzenlenmesi gerektiğine ve hangi standartların uygulanması gerektiğine ilişkin tavsiyeler sağlamak üzere partizan olmayan bir yapay zeka komisyonu oluşturmak için bir yasa çıkaracağım.
Akıllı bir ekmek kızartma makinesinde yapay zekayı düzenlememiz gerekmeyebilir, ancak onu saatte 100 milin üzerine çıkabilen otonom bir arabada düzenlememiz gerekir. Ulusal Standartlar ve Teknoloji Enstitüsü, AI Risk Yönetimi Çerçevesinin ikinci bir taslağını yayınladı. İçinde NIST, kuruluşların, endüstrilerin ve toplumun algoritmik önyargıları ele almak ve paydaşlar için şeffaflığa öncelik vermek gibi yapay zeka risklerini yönetebileceği ve azaltabileceği yolları özetliyor. Ancak bunlar bağlayıcı olmayan önerilerdir ve uyumluluk mekanizmalarını içermez. Bu nedenle, NIST tarafından hâlihazırda yapılmakta olan büyük işi geliştirmeli ve yapay zeka için düzenleyici bir altyapı oluşturmalıyız.
Kongre, teknolojik meseleler söz konusu olduğunda tepki vermekte yavaş kaldı. Ama işler değişiyor. Artık teknolojiyle büyüdüğü için teknolojide akıcı olan daha fazla üyemiz var ve ayrıca makine öğreniminde yüksek lisans peşinde koşan Temsilci Don Beyer gibi üyelerimiz var. Bu teknolojinin vaatlerini ve potansiyel zararlarını tanıyan daha fazla üyeye sahip olmak, bu zorluğun üstesinden gelirken bize yardımcı olacaktır.
Dördüncü sanayi devrimi burada. Daha ütopik bir toplum yaratmak için yapay zekayı kullanabilir ve düzenleyebiliriz ya da kontrolsüz, düzenlenmemiş bir yapay zekanın bizi daha distopik bir geleceğe itmesi riskini alabiliriz. Ve evet, bu paragrafı ben yazdım.
Ted W. Lieu, ABD Temsilciler Meclisi’nde Kaliforniya’nın 36. Kongre Bölgesi’ni temsil ediyor.
The Times yayınlamaya kararlı çeşitli harfler editöre. Bu veya makalelerimizden herhangi biri hakkında ne düşündüğünüzü duymak isteriz. İşte bazıları ipuçları . Ve işte e-postamız: [email protected] .
The New York Times Görüş bölümünü takip edin Facebook , Twitter (@NYTopinion) ve instagram .
Yukarıdaki paragrafı ben yazmadım. İnternette bulunan ChatGPT adlı bir AI programı tarafından birkaç saniye içinde oluşturuldu. Programa giriş yaptım ve şu istemi girdim: “Yapay zekanın neden düzenlenmesi gerektiğine dair bir Op-Ed’in dikkat çekici ilk paragrafını yazın.”
ChatGPT’nin yapay zeka hakkındaki görüşlerimi yansıtan ikna edici bir argümanı bu kadar hızlı bir şekilde nasıl etkili bir şekilde hazırladığına şaşırdım. Kongre’nin bilgisayar bilimi derecesine sahip üç üyesinden biri olarak, yapay zekanın büyüsüne kapıldım ve toplumu ilerletmeye devam edeceği inanılmaz yollar konusunda heyecanlıyım. Ve bir Kongre üyesi olarak, yapay zekadan, özellikle de kontrolsüz ve düzenlenmemiş bırakılan yapay zekadan korkuyorum.
AI günlük hayatımızın bir parçasıdır. Anlık arama sonuçları veriyor, bilmediğimiz yollarda gezinmemize yardımcı oluyor, beğenebileceğimiz şarkılar öneriyor ve hayal edebileceğiniz hemen hemen her görevi iyileştirebiliyor. AI, kredi kartınızdaki dolandırıcılığı önlemeye, hava durumunu tahmin etmeye ve hastalıkların erken tespitine olanak sağlamaya yardımcı olan sistemlere yerleştirilmiştir. Yapay zeka insanlardan katlanarak daha hızlı düşünür, bizim yapabileceğimizden çok daha fazla veriyi analiz edebilir ve insan zihninin asla göremeyeceği kalıpları görür.
Aynı zamanda, AI zarara neden oldu. Zararın bir kısmı sadece yıkıcıdır. Öğretmenler (ve gazete editörleri), yazılı bir belgenin yapay zeka tarafından mı yoksa bir insan tarafından mı oluşturulduğunu belirlemeyi giderek daha zor bulabilir. Derin sahte teknoloji, gerçek gibi görünen videolar ve fotoğraflar oluşturabilir.
Ancak bazı zararlar ölümcül olabilir. Tesla’nın “tam sürücüsüz” AI özelliği, görünüşe göre geçen Şükran Günü’nde San Francisco’nun Yerba Buena Tüneli’ndeki bir arabada arızalandı ve arabanın aniden durmasına ve çok arabalı bir kazaya neden oldu. Kazanın kesin nedeni tam olarak belirlenemezken, kaza sonucu 9 kişi yaralandı.
Sosyal medyadaki AI algoritmaları, yabancı teröristlerin ve yerli beyaz üstünlükçülerin radikalleşmesine yardımcı oldu.
Zararın bir kısmı da yaygın ayrımcılığa neden olabilir. Kolluk kuvvetleri tarafından kullanılan yüz tanıma sistemleri, daha koyu tenli insanlar için daha az doğrudur ve bu da masum azınlıkların olası yanlış tanımlanmasına neden olur.
Los Angeles Futbol Kulübü ve Madison Square Garden Entertainment gibi özel kuruluşlar zaten AI yüz tanıma sistemlerini kullanıyor. Futbol (profesyonel futbol) kulübü, takımı ve personeli için kullanır. Son zamanlarda, Madison Square Garden, MSG’ye karşı açılan davada müvekkillerini temsil eden firmalarda çalışan avukatların mekana girmesini yasaklamak için yüz tanımayı kullandı. tam olarak neredesin ve ne yapıyorsun.
Geçen yıl, kolluk kuvvetleri tarafından yüz tanıma sistemlerinin kullanımını düzenleyen bir yasa çıkardım. Bunu yapmak için benim ve ekibimin gizlilik ve teknoloji uzmanlarıyla iki yıldan fazla çalışması gerekti ve bu tasarıyı geçirmek için gereken destek koalisyonunu oluşturmak daha fazla zaman alacak. Yine, faturam yapay zekanın yalnızca bir uygulaması içindir Kongrenin yapay zekanın her bir özel kullanımını düzenlemek için ayrı ayrı yasalar çıkarması neredeyse imkansız olacaktır.
İhtiyacımız olan şey, yapay zekayı düzenlemek için özel bir kurum. Bir kurum, yasama sürecinden daha çeviktir, kadrosunda uzmanlar vardır ve bir hata yaparsa kararlarını geri alabilir. Böyle bir ajans oluşturmak zor ve büyük bir girişim olacaktır çünkü yapay zeka karmaşıktır ve hala tam olarak anlaşılamamıştır.
Ancak insanları zarar görmekten korumak için gerekli bir kurumun kurulmasına ilişkin bir emsal var. Moleküllerin milyonlarca benzersiz insanla nasıl etkileşime girdiği karmaşık bir konudur ve iyi anlaşılmamıştır. Yine de farmasötik ilaçları düzenlemek için bir kurum – Gıda ve İlaç İdaresi – kurduk.
AI’nın neredeyse sıfır düzenlemesinden bütün bir federal kuruma geçmek Kongre’yi geçemez. Bu kritik ve gerekli çabanın adım adım ilerlemesi gerekiyor. Bu nedenle, yapay zekayı düzenlemek için bir federal kurumun nasıl yapılandırılacağına, hangi tür yapay zekanın düzenlenmesi gerektiğine ve hangi standartların uygulanması gerektiğine ilişkin tavsiyeler sağlamak üzere partizan olmayan bir yapay zeka komisyonu oluşturmak için bir yasa çıkaracağım.
Akıllı bir ekmek kızartma makinesinde yapay zekayı düzenlememiz gerekmeyebilir, ancak onu saatte 100 milin üzerine çıkabilen otonom bir arabada düzenlememiz gerekir. Ulusal Standartlar ve Teknoloji Enstitüsü, AI Risk Yönetimi Çerçevesinin ikinci bir taslağını yayınladı. İçinde NIST, kuruluşların, endüstrilerin ve toplumun algoritmik önyargıları ele almak ve paydaşlar için şeffaflığa öncelik vermek gibi yapay zeka risklerini yönetebileceği ve azaltabileceği yolları özetliyor. Ancak bunlar bağlayıcı olmayan önerilerdir ve uyumluluk mekanizmalarını içermez. Bu nedenle, NIST tarafından hâlihazırda yapılmakta olan büyük işi geliştirmeli ve yapay zeka için düzenleyici bir altyapı oluşturmalıyız.
Kongre, teknolojik meseleler söz konusu olduğunda tepki vermekte yavaş kaldı. Ama işler değişiyor. Artık teknolojiyle büyüdüğü için teknolojide akıcı olan daha fazla üyemiz var ve ayrıca makine öğreniminde yüksek lisans peşinde koşan Temsilci Don Beyer gibi üyelerimiz var. Bu teknolojinin vaatlerini ve potansiyel zararlarını tanıyan daha fazla üyeye sahip olmak, bu zorluğun üstesinden gelirken bize yardımcı olacaktır.
Dördüncü sanayi devrimi burada. Daha ütopik bir toplum yaratmak için yapay zekayı kullanabilir ve düzenleyebiliriz ya da kontrolsüz, düzenlenmemiş bir yapay zekanın bizi daha distopik bir geleceğe itmesi riskini alabiliriz. Ve evet, bu paragrafı ben yazdım.
Ted W. Lieu, ABD Temsilciler Meclisi’nde Kaliforniya’nın 36. Kongre Bölgesi’ni temsil ediyor.
The Times yayınlamaya kararlı çeşitli harfler editöre. Bu veya makalelerimizden herhangi biri hakkında ne düşündüğünüzü duymak isteriz. İşte bazıları ipuçları . Ve işte e-postamız: [email protected] .
The New York Times Görüş bölümünü takip edin Facebook , Twitter (@NYTopinion) ve instagram .