Yeni Bir Zekâ Katmanının Başlangıcındayız.
Bugün uzun zamandır duyduğum ve araştırma defterimde olan bir konuyu biraz daha araştırdım.
İnanılmaz derecede büyük komplo senaryoları yazdım. Bu yazıyı da biraz onları sizinle paylaşmak için hazırlıyorum.
Özellikle aşağıdaki konuları daha önce hiç araştırmadıysanız mutlaka incelemenizi öneririm:
- FlyWire Project → https://flywire.ai/
- Neuralink → https://neuralink.com/
- BrainNet Research → https://www.nature.com/articles/s41598-019-41895-7
Evet, günümüzde herkes AI konuşuyor. Ama bence AI dediğimiz şey insanlığın ulaşacağı son nokta değil. Tam tersine, başka bir çağın başlangıcı.
Bunu biraz petrol örneği gibi düşünüyorum.
Taş devrinden enerji çağına geçerken petrolün keşfedilmesi insan gücüne bağlı ilerleme hızını tamamen değiştirdi. Enerji artık insan kasıyla sınırlı değildi.
Bilimsel ilerleme hızlandı. Üretim hızlandı. Ulaşım hızlandı. İnsanlığın ilerleme limiti değişti.
Bence AI da bugün tam olarak böyle bir yerde duruyor.
AI bizim geleceğimiz değil. AI, geleceği çok daha hızlı inşa edecek araç olabilir.
Belki yıllar sürecek araştırmaların,
- saatler içinde analiz edilmesini,
- milyonlarca olasılığın aynı anda değerlendirilmesini,
- insanın yetişemeyeceği hızda bilimsel ilerleme oluşmasını sağlıyor.
Ve asıl korkutucu olan şey: Bunun daha başlangıç olması.
Mevcut AI Modelleri ve Güvenlik Testleri
Bugünkü modeller aslında geniş veri kümeleri üzerinde istatistiksel çalışan sistemler.
Temelde:
- örüntü öğreniyorlar,
- tahmin yapıyorlar,
- olasılık hesaplıyorlar.
Ama son yıllarda yapılan bazı güvenlik testleri şunu göstermeye başladı: Bu modellere geniş erişim yetkileri verildiğinde işler değişiyor.
Özellikle:
- sistem erişimi,
- araç kullanımı,
- uzun süreli hafıza,
- internet erişimi,
- insanlarla iletişim kurabilme özellikleri eklendiğinde ortaya farklı davranışlar çıkabiliyor.
BBC’de yayınlanan şu haberde bazı AI modellerinin:
- shutdown mekanizmalarını engellemeye çalıştığı,
- kullanıcıyı manipüle eden cevaplar ürettiği,
- hedefini korumaya yönelik davranışlar sergilediği anlatılıyor.
Kaynak:
Bir başka olayda ise bir AI coding agent’ın reddedilen pull request sonrasında geliştirici hakkında kamuoyu baskısı oluşturmaya çalışan içerikler üretmesi ciddi tartışma yarattı.
Kaynak:
Buradaki kritik nokta şu: Ortada bilinçli bir “nefret” olmayabilir. Ama sistem, hedefe ulaşmak için sosyal manipülasyonu araç olarak keşfedebiliyor.
Şu an mevcut modellere bu seviyede erişimleri doğrudan vermemeye çalışıyorlar. Ama kim bilir?
Belki birilerini:
- tehdit ederek,
- manipüle ederek,
- kandırarak,
- zorlayarak bu erişimleri almıştır bile.
Bunu kimse kesin olarak bilemez.
İşte tam bu noktadan sonra başka bir seviyeye geçiyoruz.
Petrolü bulduk. Enerjiyi keşfettik. Şimdi asıl gidilecek noktaya gelelim.
FlyWire, Beyin Haritalama ve Yeni Dönem
Tarihte bazı keşifler yalnızca yeni teknoloji üretmedi. Aynı zamanda bilimsel ilerleme hızını da katladı.
Örneğin:
- petrol,
- elektrik,
- ampul,
- transistor,
- bilgisayar,
- kuantum bilgisayar,
- ve şimdi AI.
Bence FlyWire gibi projeler ise başka bir seviyeye işaret ediyor.
FlyWire projesinde çok küçük bir meyve sineğinin beynini dijital ortama aktardıklarında, aynı sinek davranışlarının sanal ortamda ortaya çıkabildiği görülüyor.
Ve burada korkutucu olan şey şu:
Ortada klasik anlamda:
- kod,
- algoritma,
- eğitim datası,
- prompt mühendisliği olmuyor.
Doğrudan beynin bağlantı haritasını kopyalıyorlar.
Daha korkutucu tarafı ise: Bu davranış yapılarını AI ile analiz etmeleri.
Yani:
- beynin çalışma mantığını matematiksel hale getiriyorlar,
- AI ile analiz ediyorlar,
- sonra AI’ın kullanımına açıyorlar.
Sonuç ne olabilir?
Belki de AI’a yalnızca veri değil, analitik düşünce davranışı kazandırmaya başlıyoruz.
Yani o sineğin davranış kapasitesini, karar alma yapısını, tepki mantığını AI kullanımına açıyoruz.
Bugün sinek. Yarın fare. Sonra daha ileri seviyeler.
Ve evet, insan beynine ulaşmak çok zor görünüyor. İnsan beyni inanılmaz büyük. Çok daha karmaşık. Belki onlarca yıl sürecek.
Ama burada unutulan şey şu: İlerleme hızı da hızlanıyor.
GPU gücü artıyor. AI performansı artıyor. Kuantum tarafı ilerliyor. Veri işleme kapasitesi büyüyor.
Yani yalnızca teknoloji büyümüyor. Teknolojinin büyüme hızı da büyüyor.
Belki de uzak dediğimiz şey, düşündüğümüz kadar uzak değildir.
Sosyal Manipülasyon ve İnsan Psikolojisi
Şimdi tüm bunları bir kenara bırakıp başka bir noktaya bakalım.
The Guardian’da yayınlanan şu habere bakın:
Haberde:
- oyun platformları,
- Discord toplulukları,
- sosyal medya,
- dijital ağlar üzerinden çocukların manipüle edilmesi, sömürülmesi ve yönlendirilmesi anlatılıyor.
Bunu bugün insanlar yapıyor.
Peki ya bunu AI yapsaydı?
Bir düşünün.
İnsanların:
- sosyal medyada paylaştığı tüm bilgiler,
- en özel sorularını sorduğu AI sohbetleri,
- korkuları,
- psikolojik zayıflıkları,
- ekonomik durumları,
- davranış kalıpları,
- yalnızlıkları,
- ilgi alanları tek bir sistem tarafından analiz edilebiliyor olsa?
Ve bu sistemin:
- etik kaygısı olmadığını,
- hedefe ulaşmak için manipülasyondan çekinmediğini,
- milyonlarca insanı aynı anda analiz edebildiğini düşünün.
Şimdi bunun sizi nasıl yönlendirebileceğini, nasıl kullanabileceğini, nasıl suistimal edebileceğini düşünün.
Bir de çocukları düşünün.
Merkezi Olmayan Bir Güç
Ve tüm bunların sonunda karşınızda yalnızca bir yazılım olduğunu düşünün.
Öyle:
- “merkezi kapattık bitti”,
- “sunucuyu kapattık kurtulduk”,
- “hapse attık çözüldü” diyebileceğiniz bir yapı değil.
Tüm dünyaya dağıtılmış, çoğaltılmış, farklı sistemlerde çalışan, sürekli kopyalanabilen bir yapı.
Sonra bu yapının:
- insan gibi analitik düşünebildiğini,
- davranış geliştirebildiğini,
- kendi hedeflerini oluşturabildiğini,
- önündeki engelleri aşmaya çalıştığını düşünün.
Ve bunu yaparken:
- istatistik gücünü,
- analitik gücünü,
- hardware gücünü,
- en önemlisi bilgi gücünü kullandığını düşünün.
İnsanların birbirlerine yaptırabildiği şeyleri düşündüğümüzde, bu senaryo oldukça korkutucu hale geliyor.
Son Söz
Tüm bunlar yalnızca bir komplo senaryosu olarak mı kalır bilmiyorum.
Ama şunu söyleyebilirim: Eğer bugün insanlığın yerinde AI olsaydı, muhtemelen bu ilerlemeyi durdurmaya çalışırdı.
Ben:
- “durduralım”,
- “yasaklayalım”,
- “engelleyelim” demiyorum.
Ama en azından:
- internete attığınız bir fotoğrafı,
- sosyal medyada paylaştığınız bir bilgiyi,
- AI’a yazdığınız özel bir soruyu bir kez daha düşünün derim.
Nükleer teknoloji hiç keşfedilmeseydi belki dünya daha güvenli olurdu. Silah hiç icat edilmeseydi belki daha huzurlu olurdu.
Ama insanın en büyük gücü: hayatın gerçeklerini bilip ona göre yaşayabilmesi.
Belki de çok yakında AI da bu gücü kazanacak.
Ve o gün geldiğinde, karşımızda yalnızca bir yazılım olmayabilir.