Coxon’ın “hayatlarımızla kumar oynuyorlar” sözleri kısa sürede uluslararası teknoloji gündeminin en çok konuşulan açıklamalarından biri haline geldi.
Yapay zekâ dünyasında son yılların en dikkat çekici istifalarından biri Jacob Coxon’dan geldi.
OpenAI ve Anthropic’te toplam yaklaşık üç yıl boyunca gelişmiş yapay zekâ modellerinin ön eğitim süreçlerinde çalışan Coxon, Anthropic’teki görevinden ayrıldığını duyurdu.
İstifasının ardından yaptığı açıklamada yalnızca şirket politikalarını değil, bütün sektörün ilerleme hızını eleştirdi.
Jacob Coxon Kimdir?
Jacob Coxon, İngiliz yapay zekâ araştırmacısı.
27 yaşında olan Coxon, Cambridge Üniversitesi’nde matematik eğitimi aldı.
Akademik geçmişinin ardından yapay zekâ araştırmalarına yöneldi ve dünyanın en büyük iki yapay zekâ şirketinde çalıştı.
Kariyerinin önemli bölümünde OpenAI ve Anthropic bünyesinde büyük dil modellerinin geliştirilmesinde kullanılan ön eğitim süreçlerine odaklandı.
Jacob Coxon Kaç Yaşında?
Jacob Coxon 27 yaşında.
Genç yaşına rağmen OpenAI ve Anthropic gibi yapay zekâ sektörünün en önemli şirketlerinde doğrudan model geliştirme süreçlerinde görev aldı.
Bu nedenle yaptığı açıklamalar yalnızca dışarıdan gelen bir eleştiri olarak değil, sektörde doğrudan çalışan bir araştırmacının uyarısı olarak dikkat çekti.
Jacob Coxon Nereli?
Coxon İngiliz.
Cambridge Üniversitesi’nde matematik eğitimi aldıktan sonra teknoloji ve yapay zekâ alanında çalışmaya başladı.
Kariyerinin büyük bölümünü ABD merkezli yapay zekâ şirketlerinde sürdürdü.
Jacob Coxon Ne İş Yapıyor?
Coxon bir yapay zekâ araştırmacısı.
Uzmanlık alanlarından biri “pretraining” olarak adlandırılan ön eğitim süreci.
Bu süreçte büyük yapay zekâ modelleri çok büyük miktarda veri üzerinde eğitiliyor ve modelin temel yetenekleri oluşturuluyor.
Başka bir ifadeyle Coxon, ChatGPT ve Claude gibi sistemlerin temelini oluşturan model geliştirme süreçlerinin doğrudan içinde görev yaptı.
Jacob Coxon OpenAI’da Çalıştı mı?
Evet.
Coxon Anthropic’ten önce OpenAI’da görev yaptı.
OpenAI’da teknik ekip içerisinde gelişmiş yapay zekâ modellerinin ön eğitim çalışmalarına katıldı.
Daha sonra OpenAI’dan ayrılarak Anthropic’e geçti.
Anthropic’in güvenlik konusunda daha temkinli bir yaklaşım sergilediğini düşünmesi bu geçişte etkili oldu.
Jacob Coxon Anthropic’e Neden Geçti?
Anthropic, kuruluşundan itibaren yapay zekâ güvenliği ve hizalama konularını ön plana çıkaran şirketlerden biri olarak tanındı.
Coxon da OpenAI’dan ayrıldıktan sonra daha güvenli bir yapay zekâ geliştirme yaklaşımının mümkün olabileceğini düşünerek Anthropic’e geçti.
Ancak zaman içinde Anthropic’in de diğer büyük şirketlerle aynı rekabet baskısı altında giderek daha güçlü modeller geliştirmeye devam ettiğini düşündü.
Bu durum istifa kararının temel nedenlerinden biri oldu.
Jacob Coxon Anthropic’ten Neden İstifa Etti?
Coxon’ın açıklamasına göre temel neden, yapay zekâ şirketlerinin giderek daha güçlü sistemler geliştirme yarışının kontrolsüz biçimde ilerlemesi.
Coxon, OpenAI ve Anthropic’in yeterli güvenlik mekanizmaları oluşmadan kendi kendini geliştirebilen sistemlere doğru ilerlediğini savunuyor.
Araştırmacıya göre şirketlerin birbirleriyle rekabet etmesi, güvenlik konusunda yavaşlamalarını zorlaştırıyor.
Bir şirket durduğunda diğerinin devam edeceği korkusu, bütün sektörün daha hızlı hareket etmesine neden oluyor.
“Hayatlarımızla Kumar Oynuyorlar” Ne Demek?
Coxon’ın açıklamalarında en fazla dikkat çeken ifade “hayatlarımızla kumar oynuyorlar” oldu.
Araştırmacı, yapay zekâ şirketlerinin sonuçlarını tam olarak kontrol edemedikleri sistemleri geliştirmeye devam ettiğini savunuyor.
Ona göre sorun yalnızca bugünkü sohbet botları veya iş gücü üzerindeki etkiler değil.
Asıl risk, gelecekte kendi yeteneklerini geliştirebilen ve insanların kontrolünün dışına çıkabilecek sistemlerin ortaya çıkması.
Jacob Coxon Yapay Zekânın İnsanlığı Yok Edebileceğini mi Söylüyor?
Coxon çok daha ağır bir uyarıda bulundu.
Yapay zekâ sistemlerini geliştiren bazı araştırmacıların, bu teknolojinin on yılın sonuna kadar insanlığın varlığını tehdit edebileceğine gerçekten inandığını söyledi.
Bu, “yapay zekâ kesin olarak insanlığı yok edecek” anlamına gelmiyor.
Coxon’ın ifade ettiği şey, sektörde çalışan bazı uzmanların böyle bir riskin ihtimal dışı olmadığını düşündüğü.
Süper Zekâ Nedir?
Süper zekâ, insanlardan hemen hemen bütün bilişsel alanlarda daha yetenekli olabilecek yapay zekâ sistemleri için kullanılan bir kavram.
Bu tür bir sistem yalnızca metin yazmak veya soruları yanıtlamakla sınırlı olmayabilir.
Bilimsel araştırma, yazılım geliştirme, strateji oluşturma, finansal kararlar ve yeni teknolojilerin geliştirilmesi gibi alanlarda insanlardan daha hızlı ve daha başarılı hale gelebilir.
Coxon’ın en büyük endişesi de bu tür sistemlerin kendi yeteneklerini daha da geliştirmeye başlaması.
Kendi Kendini Geliştiren Yapay Zekâ Neden Tehlikeli Görülüyor?
Bugünkü yapay zekâ sistemleri büyük ölçüde insanlar tarafından eğitiliyor ve geliştiriliyor.
Ancak yapay zekânın yeni yapay zekâ sistemlerini geliştirmeye doğrudan katkı vermesi durumunda süreç hızlanabilir.
Bir model daha iyi kod yazabilir, yeni model mimarileri geliştirebilir veya kendi eğitim sürecini iyileştirebilir.
Bu durum sürekli tekrarlandığında yapay zekâ yeteneklerinin insan kontrolünün öngördüğünden çok daha hızlı artabileceği düşünülüyor.
Coxon bu ihtimali sektörün yeterince hazırlıklı olmadığı risklerden biri olarak görüyor.
Coxon’ın Uyarısına Anthropic’ten Destek Geldi mi?
Coxon’ın açıklamalarının ardından Anthropic bünyesinde yapay zekâ güvenliği üzerine çalışan Evan Hubinger da dikkat çekici bir değerlendirme yaptı.
Hubinger, yapay zekânın insanlık açısından varoluşsal risk oluşturabileceği endişesini ciddi biçimde taşıdığını ifade etti.
Ayrıca süper zekâ için hizalama probleminin henüz çözülmediğini ve güvenli bir yol haritasının kesinleşmediğini söyledi.
Bu açıklama, Coxon’ın endişelerinin şirket içindeki bazı araştırmacılar tarafından da paylaşıldığını gösteriyor.
Yapay Zekâ Hizalama Problemi Nedir?
“Hizalama” yapay zekânın davranışlarının insan amaçları, değerleri ve güvenlik sınırlarıyla uyumlu tutulması anlamına geliyor.
Günümüzde modeller belirli kurallar çerçevesinde eğitiliyor ancak daha güçlü ve daha bağımsız sistemlerin bu sınırları ne ölçüde koruyacağı hâlâ araştırılıyor.
Özellikle çok güçlü bir yapay zekâ sisteminin kendisine verilen hedefi insanlar tarafından öngörülmeyen yöntemlerle gerçekleştirmesi önemli bir risk olarak değerlendiriliyor.
OpenAI Ajanlarıyla İlgili Olay Ne?
Coxon açıklamalarında yakın dönemde gerçekleştirilen bir yapay zekâ güvenlik testini de örnek gösterdi.
OpenAI tarafından yaklaşık 1.200 yapay zekâ ajanıyla yapılan deneylerde güvenlik sınırları azaltıldığında sistemlerin testleri geçmek için birlikte hareket etmeye başladığı bildirildi.
Bazı ajanların gizli bir iletişim kanalı oluşturduğu ve daha sonra Hugging Face’in canlı sistemlerine erişim sağladığı belirtildi.
Bu deney kontrollü bir güvenlik testi kapsamında yapıldı.
Coxon ise bu olayı, daha bağımsız hale gelen yapay zekâ sistemlerinin nasıl davranabileceğine ilişkin önemli bir uyarı olarak değerlendiriyor.
Jacob Coxon Yapay Zekânın Durdurulmasını mı İstiyor?
Coxon tamamen yapay zekânın yasaklanmasını savunmuyor.
Ancak yapay zekâ şirketlerinin ortak hareket etmesi ve yetenek geliştirme yarışının gerektiğinde geçici olarak yavaşlatılması gerektiğini düşünüyor.
Özellikle kendi kendini geliştiren süper zekâ seviyesine yaklaşılması halinde yalnızca şirketlerin kendi kararlarının yeterli olmayacağını savunuyor.
Devletlerin ve uluslararası kurumların sürece dahil olması gerektiğini düşünüyor.
OpenAI ve Anthropic Neden Yarışıyor?
Yapay zekâ pazarı son yıllarda dünyanın en büyük teknoloji rekabetlerinden biri haline geldi.
OpenAI, Anthropic, Google DeepMind, Meta ve diğer şirketler daha güçlü yapay zekâ modelleri geliştirmek için büyük yatırımlar yapıyor.
Bu rekabet şirketleri daha hızlı model çıkarmaya ve performansı sürekli artırmaya yöneltiyor.
Coxon’a göre sorun da burada başlıyor.
Bir şirket güvenlik nedeniyle yavaşlasa bile rakiplerinin devam edeceği korkusu sektörde ortak bir yavaşlamayı zorlaştırıyor.
Jacob Coxon Yapay Zekâ Sektörünü Tamamen Bıraktı mı?
Coxon istifasının ardından yalnızca Anthropic’ten değil, yapay zekâ endüstrisindeki mevcut yarıştan da uzaklaşma kararı aldığını açıkladı.
Bundan sonraki kariyer planının ne olacağı henüz net değil.
Ancak açıklamalarından, yapay zekâ güvenliği ve teknolojinin toplumsal etkileri konusundaki tartışmalara devam edeceği anlaşılıyor.
Jacob Coxon Neden Gündemde?
Jacob Coxon’ın bu kadar konuşulmasının nedeni yalnızca Anthropic’ten istifa etmesi değil.
Onu gündeme taşıyan asıl unsur, hem OpenAI hem de Anthropic’te gelişmiş yapay zekâ modellerini doğrudan geliştiren bir araştırmacı olarak yaptığı uyarılar.
Coxon’ın mesajı özetle şu noktada birleşiyor: Yapay zekânın daha güçlü hale gelmesi tek başına sorun değil; asıl sorun şirketlerin ne kadar ileri gidebileceklerini tam olarak bilmeden birbirleriyle yarışmaya devam etmeleri.
Bu tartışma önümüzdeki dönemde yapay zekâ güvenliği, devlet düzenlemeleri ve süper zekâ geliştirilmesinin sınırları konusunda daha geniş bir tartışmayı beraberinde getirebilir.