Dahi kafalar
New member
Sadece haftalar önce kullanıma sunulan ChatGPT, şimdiden e-postalar, üniversite makaleleri ve sayısız diğer yazı biçimleri gibi günlük iletişim taslaklarını alt üst etmekle tehdit ediyor.
OpenAI şirketi tarafından oluşturulan ChatGPT, yazılı istemlere bazen ürkütücü bir şekilde insana yakın bir şekilde otomatik olarak yanıt verebilen bir sohbet robotudur.
Ancak şiir ve durum komedisi senaryoları gibi formatlarda insanların makinelerle yer değiştirme potansiyeline dair tüm şaşkınlığa rağmen, çok daha büyük bir tehdit beliriyor: yapay zeka, demokratik süreçlerde insanların yerini alıyor – oylama yoluyla değil, lobicilik yoluyla.
ChatGPT, düzenleyici süreçlerde gönderilen yorumları otomatik olarak oluşturabilir. Yerel gazetelerde yayınlanması için editöre mektuplar yazabilir. Haber makalelerine, blog girişlerine ve sosyal medya gönderilerine her gün milyonlarca kez yorum yapabilir. Rus İnternet Araştırma Ajansı’nın 2016 seçimlerimizi etkileme girişiminde yaptığı işi taklit edebilir, ancak ajansın bildirilen multimilyon dolarlık bütçesi ve yüzlerce çalışanı olmadan.
Otomatik olarak oluşturulan yorumlar yeni bir sorun değil. Bir süredir otomatik olarak içerik gönderen makineler olan botlarla mücadele ediyoruz. Beş yıl önce, ağ tarafsızlığına ilişkin önerilen düzenlemelerle ilgili olarak Federal Ticaret Komisyonuna en az bir milyon otomatik olarak hazırlanmış yorumun sunulduğuna inanılıyordu. 2019’da bir Harvard lisans öğrencisi, bir test olarak, bir Medicaid sorunuyla ilgili olarak hükümetin kamuya açık girdi talebine yanıt olarak 1.001 yorum göndermek için bir metin oluşturma programı kullandı. O zamanlar, yorum göndermek sadece ezici sayıların olduğu bir oyundu.
Platformlar, “eşgüdümlü gerçek dışı davranışı” ortadan kaldırma konusunda daha iyi hale geldi. Örneğin Facebook yılda bir milyardan fazla sahte hesabı kaldırıyor. Ancak bu tür mesajlar sadece başlangıçtır. Yasa koyucuların gelen kutularını destekleyici e-postalarla doldurmak veya Capitol santralini sentetik sesli çağrılarla domine etmek yerine, ChatGPT’nin karmaşıklığına sahip ancak ilgili veriler üzerinde eğitilmiş bir yapay zeka sistemi, politika oluşturma sistemindeki en zayıf noktaları belirlemek için kilit yasa koyucuları ve etkileyicileri seçerek hedefleyebilir ve doğrudan iletişim, halkla ilişkiler kampanyaları, at ticareti veya diğer kaldıraç noktaları aracılığıyla onları acımasızca sömürmek.
Biz insanlar bunları yaptığımızda buna lobicilik diyoruz. Bu alandaki başarılı temsilciler, hassas mesaj yazmayı akıllı hedefleme stratejileriyle birleştirir. Şu anda, ChatGPT donanımlı bir lobicinin retorik bir drone savaşı kampanyasına benzeyen bir şey yürütmesini engelleyen tek şey, hassas hedefleme eksikliğidir. AI bunun için de teknikler sağlayabilir.
Siyasi ağları anlayabilen bir sistem, ChatGPT’nin metin oluşturma yetenekleriyle eşleştirilirse, belirli bir politika alanında (örneğin, kurumlar vergilendirmesi veya askeri harcamalar) üzerinde en fazla etkiye sahip olan Kongre üyesini belirleyebilir. İnsan lobicileri gibi, böyle bir sistem çıkar politikasını kontrol eden komitelerde oturan kararsız temsilcileri hedefleyebilir ve ardından bir yasa tasarısı genel oya doğru gittiğinde kaynakları çoğunluk partisinin üyelerine odaklayabilir.
Bireyler ve stratejiler belirlendikten sonra, ChatGPT gibi bir AI sohbet robotu, mektuplarda, yorumlarda ve metnin yararlı olduğu her yerde kullanılmak üzere yazılı mesajlar oluşturabilir. İnsan lobicileri de bu kişileri doğrudan hedef alabilir. Önemli olan kombinasyon: Yazı işleri ve sosyal medya yorumları sizi yalnızca bir yere kadar götürür ve hangi yasa koyucuların hedef alınacağını bilmek tek başına yeterli değildir.
Bir ağ içindeki aktörleri anlama ve hedefleme yeteneği, yapay zeka hackleme, sosyal, ekonomik ve politik sistemlerdeki güvenlik açıklarını inanılmaz hız ve kapsamla kullanma aracı yaratacaktır. Yasama sistemleri özel bir hedef olacaktır, çünkü politika oluşturma sistemlerine saldırmanın nedeni çok güçlü, çünkü bu tür sistemleri eğitmek için kullanılan veriler çok yaygın ve çünkü AI kullanımının tespit edilmesi çok zor olabilir – özellikle de stratejik olarak kullanılıyorsa insan aktörlere rehberlik etmek.
Bu tür stratejik hedefleme sistemlerini eğitmek için gereken veri ancak zamanla artacaktır. Açık toplumlar genellikle demokratik süreçlerini kamuya açık bir kayıt haline getirir ve çoğu yasa koyucu – en azından performans açısından – kendi seçmenlerinden geliyormuş gibi görünen mesajları kabul etmeye ve bunlara yanıt vermeye isteklidir.
Belki bir yapay zeka sistemi, hangi Kongre üyelerinin liderlik üzerinde önemli bir etkiye sahip olduğunu, ancak yine de dikkatlerini çekmek için yalnızca mütevazı bir rekabetin olduğu kadar yeterince düşük kamu profiline sahip olduğunu ortaya çıkarabilir. Daha sonra, yasa koyucunun kamusal pozisyonları üzerinde en büyük etkiye sahip olan SuperPAC’i veya kamu çıkarı grubunu belirleyebilir. Hatta belki de bu organizasyonu etkilemek için gereken bağış boyutunu ayarlayabilir veya üyelerine stratejik bir mesaj taşıyan hedefli çevrimiçi reklamları yönlendirebilir. Her politika sonu için doğru hedef kitle; ve her izleyici için doğru zamanda doğru mesaj.
Yapay zeka destekli lobicilerin tehdidini, K Street’teki yüksek fiyatlı lobicilik firmalarının oluşturduğu tehditten daha büyük yapan şey, hızlanma potansiyelleridir. İnsan lobicileri, bir politika sonucuna ulaşmak için stratejik çözümler bulmak için onlarca yıllık deneyime güvenirler. Bu uzmanlık sınırlıdır ve bu nedenle pahalıdır.
AI teorik olarak aynı şeyi çok daha hızlı ve ucuza yapabilir. Kaotik dünya olaylarına yanıt olarak hızla hareket edecek kadar çevik olmak gibi, kamuoyunun ve medya anlatılarının hızla yerleşik hale gelebildiği bir ekosistemde kapıdan çıkış hızı büyük bir avantajdır.
Ayrıca, yapay zekanın esnekliği, aynı anda birçok politika ve yetki alanında etki elde etmeye yardımcı olabilir. ABD Kongresi’nde ve hatta tüm eyalet yasama organlarında hareket eden her bir yasa tasarısına yasa koymaya çalışabilen yapay zeka destekli bir lobi şirketi hayal edin. Lobicilik firmaları yalnızca tek bir devlet içinde çalışma eğilimindedir, çünkü yasa, prosedür ve siyasi yapıda bu kadar karmaşık farklılıklar vardır. Bu varyasyonlarda gezinmede AI yardımı ile, siyasi sınırların ötesinde güç kullanmak daha kolay hale gelebilir.
Nasıl öğretmenlerin ChatGPT’nin ışığında öğrencilerine sınav ve deneme ödevi verme şeklini değiştirmesi gerekecekse, hükümetlerin de lobicilerle ilişkilerini değiştirmesi gerekecek.
Mühlet olmak için bu teknolojinin demokrasi alanında da faydaları olabilir; en büyüğü erişilebilirliktir. Herkesin deneyimli bir lobiciye gücü yetmez, ancak bir yapay zeka sistemine yazılım arayüzü herkesin kullanımına sunulabilir. Şanslıysak, belki bu tür bir strateji üreten yapay zeka, güçsüzlere bu tür bir lobicilik gücü vererek demokrasinin demokratikleşmesini canlandırabilir.
Bununla birlikte, en büyük ve en güçlü kurumlar, herhangi bir AI lobicilik tekniğini muhtemelen en başarılı şekilde kullanacaklardır. Ne de olsa, en iyi lobicilik stratejisini uygulamak için hala içeriden – yasama meclisinin koridorlarında yürüyebilen insanlar – ve para gerekiyor. Lobicilik sadece doğru mesajı doğru kişiye doğru zamanda vermekle ilgili değildir; aynı zamanda doğru zamanda doğru kişiye para vermekle ilgili. Ve bir AI sohbet robotu, bu kampanya katkılarını kimin alması gerektiğini belirleyebilse de, öngörülebilir bir gelecekte insanların nakit sağlaması gerekecek. Dolayısıyla, AI lobicileriyle dolu bir geleceğin nasıl olacağını tahmin etmek imkansız olsa da, muhtemelen zaten etkili ve güçlü olanı daha da etkili kılacaktır.
Nathan E. Sanders, Harvard Üniversitesi’ndeki Berkman Klein Merkezi’ne bağlı bir veri bilimcisidir.
Bruce Schneier, Harvard Kennedy Okulu’nda bir güvenlik teknolojisi uzmanı ve öğretim görevlisidir. Yeni kitabı “Bir Hacker’ın Zihni: Toplumun Kurallarını Nasıl Büküyor ve Nasıl Geri Eğiyor?”
The Times yayınlamaya kararlı çeşitli harfler editöre. Bu veya herhangi bir makalemiz hakkında ne düşündüğünüzü duymak isteriz. İşte bazıları ipuçları . Ve işte e-postamız: [email protected] .
The New York Times Görüş bölümünü takip edin Facebook , Twitter (@NYTopinion) ve instagram .
OpenAI şirketi tarafından oluşturulan ChatGPT, yazılı istemlere bazen ürkütücü bir şekilde insana yakın bir şekilde otomatik olarak yanıt verebilen bir sohbet robotudur.
Ancak şiir ve durum komedisi senaryoları gibi formatlarda insanların makinelerle yer değiştirme potansiyeline dair tüm şaşkınlığa rağmen, çok daha büyük bir tehdit beliriyor: yapay zeka, demokratik süreçlerde insanların yerini alıyor – oylama yoluyla değil, lobicilik yoluyla.
ChatGPT, düzenleyici süreçlerde gönderilen yorumları otomatik olarak oluşturabilir. Yerel gazetelerde yayınlanması için editöre mektuplar yazabilir. Haber makalelerine, blog girişlerine ve sosyal medya gönderilerine her gün milyonlarca kez yorum yapabilir. Rus İnternet Araştırma Ajansı’nın 2016 seçimlerimizi etkileme girişiminde yaptığı işi taklit edebilir, ancak ajansın bildirilen multimilyon dolarlık bütçesi ve yüzlerce çalışanı olmadan.
Otomatik olarak oluşturulan yorumlar yeni bir sorun değil. Bir süredir otomatik olarak içerik gönderen makineler olan botlarla mücadele ediyoruz. Beş yıl önce, ağ tarafsızlığına ilişkin önerilen düzenlemelerle ilgili olarak Federal Ticaret Komisyonuna en az bir milyon otomatik olarak hazırlanmış yorumun sunulduğuna inanılıyordu. 2019’da bir Harvard lisans öğrencisi, bir test olarak, bir Medicaid sorunuyla ilgili olarak hükümetin kamuya açık girdi talebine yanıt olarak 1.001 yorum göndermek için bir metin oluşturma programı kullandı. O zamanlar, yorum göndermek sadece ezici sayıların olduğu bir oyundu.
Platformlar, “eşgüdümlü gerçek dışı davranışı” ortadan kaldırma konusunda daha iyi hale geldi. Örneğin Facebook yılda bir milyardan fazla sahte hesabı kaldırıyor. Ancak bu tür mesajlar sadece başlangıçtır. Yasa koyucuların gelen kutularını destekleyici e-postalarla doldurmak veya Capitol santralini sentetik sesli çağrılarla domine etmek yerine, ChatGPT’nin karmaşıklığına sahip ancak ilgili veriler üzerinde eğitilmiş bir yapay zeka sistemi, politika oluşturma sistemindeki en zayıf noktaları belirlemek için kilit yasa koyucuları ve etkileyicileri seçerek hedefleyebilir ve doğrudan iletişim, halkla ilişkiler kampanyaları, at ticareti veya diğer kaldıraç noktaları aracılığıyla onları acımasızca sömürmek.
Biz insanlar bunları yaptığımızda buna lobicilik diyoruz. Bu alandaki başarılı temsilciler, hassas mesaj yazmayı akıllı hedefleme stratejileriyle birleştirir. Şu anda, ChatGPT donanımlı bir lobicinin retorik bir drone savaşı kampanyasına benzeyen bir şey yürütmesini engelleyen tek şey, hassas hedefleme eksikliğidir. AI bunun için de teknikler sağlayabilir.
Siyasi ağları anlayabilen bir sistem, ChatGPT’nin metin oluşturma yetenekleriyle eşleştirilirse, belirli bir politika alanında (örneğin, kurumlar vergilendirmesi veya askeri harcamalar) üzerinde en fazla etkiye sahip olan Kongre üyesini belirleyebilir. İnsan lobicileri gibi, böyle bir sistem çıkar politikasını kontrol eden komitelerde oturan kararsız temsilcileri hedefleyebilir ve ardından bir yasa tasarısı genel oya doğru gittiğinde kaynakları çoğunluk partisinin üyelerine odaklayabilir.
Bireyler ve stratejiler belirlendikten sonra, ChatGPT gibi bir AI sohbet robotu, mektuplarda, yorumlarda ve metnin yararlı olduğu her yerde kullanılmak üzere yazılı mesajlar oluşturabilir. İnsan lobicileri de bu kişileri doğrudan hedef alabilir. Önemli olan kombinasyon: Yazı işleri ve sosyal medya yorumları sizi yalnızca bir yere kadar götürür ve hangi yasa koyucuların hedef alınacağını bilmek tek başına yeterli değildir.
Bir ağ içindeki aktörleri anlama ve hedefleme yeteneği, yapay zeka hackleme, sosyal, ekonomik ve politik sistemlerdeki güvenlik açıklarını inanılmaz hız ve kapsamla kullanma aracı yaratacaktır. Yasama sistemleri özel bir hedef olacaktır, çünkü politika oluşturma sistemlerine saldırmanın nedeni çok güçlü, çünkü bu tür sistemleri eğitmek için kullanılan veriler çok yaygın ve çünkü AI kullanımının tespit edilmesi çok zor olabilir – özellikle de stratejik olarak kullanılıyorsa insan aktörlere rehberlik etmek.
Bu tür stratejik hedefleme sistemlerini eğitmek için gereken veri ancak zamanla artacaktır. Açık toplumlar genellikle demokratik süreçlerini kamuya açık bir kayıt haline getirir ve çoğu yasa koyucu – en azından performans açısından – kendi seçmenlerinden geliyormuş gibi görünen mesajları kabul etmeye ve bunlara yanıt vermeye isteklidir.
Belki bir yapay zeka sistemi, hangi Kongre üyelerinin liderlik üzerinde önemli bir etkiye sahip olduğunu, ancak yine de dikkatlerini çekmek için yalnızca mütevazı bir rekabetin olduğu kadar yeterince düşük kamu profiline sahip olduğunu ortaya çıkarabilir. Daha sonra, yasa koyucunun kamusal pozisyonları üzerinde en büyük etkiye sahip olan SuperPAC’i veya kamu çıkarı grubunu belirleyebilir. Hatta belki de bu organizasyonu etkilemek için gereken bağış boyutunu ayarlayabilir veya üyelerine stratejik bir mesaj taşıyan hedefli çevrimiçi reklamları yönlendirebilir. Her politika sonu için doğru hedef kitle; ve her izleyici için doğru zamanda doğru mesaj.
Yapay zeka destekli lobicilerin tehdidini, K Street’teki yüksek fiyatlı lobicilik firmalarının oluşturduğu tehditten daha büyük yapan şey, hızlanma potansiyelleridir. İnsan lobicileri, bir politika sonucuna ulaşmak için stratejik çözümler bulmak için onlarca yıllık deneyime güvenirler. Bu uzmanlık sınırlıdır ve bu nedenle pahalıdır.
AI teorik olarak aynı şeyi çok daha hızlı ve ucuza yapabilir. Kaotik dünya olaylarına yanıt olarak hızla hareket edecek kadar çevik olmak gibi, kamuoyunun ve medya anlatılarının hızla yerleşik hale gelebildiği bir ekosistemde kapıdan çıkış hızı büyük bir avantajdır.
Ayrıca, yapay zekanın esnekliği, aynı anda birçok politika ve yetki alanında etki elde etmeye yardımcı olabilir. ABD Kongresi’nde ve hatta tüm eyalet yasama organlarında hareket eden her bir yasa tasarısına yasa koymaya çalışabilen yapay zeka destekli bir lobi şirketi hayal edin. Lobicilik firmaları yalnızca tek bir devlet içinde çalışma eğilimindedir, çünkü yasa, prosedür ve siyasi yapıda bu kadar karmaşık farklılıklar vardır. Bu varyasyonlarda gezinmede AI yardımı ile, siyasi sınırların ötesinde güç kullanmak daha kolay hale gelebilir.
Nasıl öğretmenlerin ChatGPT’nin ışığında öğrencilerine sınav ve deneme ödevi verme şeklini değiştirmesi gerekecekse, hükümetlerin de lobicilerle ilişkilerini değiştirmesi gerekecek.
Mühlet olmak için bu teknolojinin demokrasi alanında da faydaları olabilir; en büyüğü erişilebilirliktir. Herkesin deneyimli bir lobiciye gücü yetmez, ancak bir yapay zeka sistemine yazılım arayüzü herkesin kullanımına sunulabilir. Şanslıysak, belki bu tür bir strateji üreten yapay zeka, güçsüzlere bu tür bir lobicilik gücü vererek demokrasinin demokratikleşmesini canlandırabilir.
Bununla birlikte, en büyük ve en güçlü kurumlar, herhangi bir AI lobicilik tekniğini muhtemelen en başarılı şekilde kullanacaklardır. Ne de olsa, en iyi lobicilik stratejisini uygulamak için hala içeriden – yasama meclisinin koridorlarında yürüyebilen insanlar – ve para gerekiyor. Lobicilik sadece doğru mesajı doğru kişiye doğru zamanda vermekle ilgili değildir; aynı zamanda doğru zamanda doğru kişiye para vermekle ilgili. Ve bir AI sohbet robotu, bu kampanya katkılarını kimin alması gerektiğini belirleyebilse de, öngörülebilir bir gelecekte insanların nakit sağlaması gerekecek. Dolayısıyla, AI lobicileriyle dolu bir geleceğin nasıl olacağını tahmin etmek imkansız olsa da, muhtemelen zaten etkili ve güçlü olanı daha da etkili kılacaktır.
Nathan E. Sanders, Harvard Üniversitesi’ndeki Berkman Klein Merkezi’ne bağlı bir veri bilimcisidir.
Bruce Schneier, Harvard Kennedy Okulu’nda bir güvenlik teknolojisi uzmanı ve öğretim görevlisidir. Yeni kitabı “Bir Hacker’ın Zihni: Toplumun Kurallarını Nasıl Büküyor ve Nasıl Geri Eğiyor?”
The Times yayınlamaya kararlı çeşitli harfler editöre. Bu veya herhangi bir makalemiz hakkında ne düşündüğünüzü duymak isteriz. İşte bazıları ipuçları . Ve işte e-postamız: [email protected] .
The New York Times Görüş bölümünü takip edin Facebook , Twitter (@NYTopinion) ve instagram .