OpenAI’nin kıdemli güvenlik araştırmacılarından Lilian Weng, geçtiğimiz günlerde yaptığı bir açıklama ile OpenAI’den ayrılacağını duyurdu. 2018 yılından beri OpenAI bünyesinde görev alan ve geçtiğimiz aylarda Araştırma ve Güvenlik Başkan Yardımcılığı pozisyonuna yükseltilen Weng, 15 Kasım’da görevine resmen veda edecek. Weng’in istifası, OpenAI içinde ve genel olarak yapay zeka alanında bir süredir devam eden güvenlik kaygılarını yeniden gün yüzüne çıkardı.
OpenAI’de yedi yılı aşkın süredir çalışan Weng, bu süre zarfında özellikle güvenlik sistemleri alanında önemli projelere imza attı. OpenAI’nin güvenlik sistemleri ekibini kurup, büyüterek günümüzde 80’i aşkın bilim insanı ve araştırmacıdan oluşan bir birim haline getirdi. Weng’in ayrılma kararı, OpenAI’nin yapay zeka güvenliği ile ilgili önceliklerinin ticari hedefler sebebiyle zayıfladığına dair eleştirileri beraberinde getirdi.
Weng’in Kariyer Yolculuğu ve OpenAI’deki Görevleri
Lilian Weng, OpenAI’ye 2018 yılında katıldı ve ilk olarak robotik projeler üzerinde çalıştı. OpenAI’nin Rubik küp çözebilen robot el projesinde önemli katkıları bulunan Weng, daha sonra yapay zeka alanındaki gelişmelere odaklanarak, GPT modelleri ile ilgili araştırmalara yöneldi. OpenAI, GPT-4 gibi güçlü modellerin geliştirilmesine ağırlık verdikçe Weng de yapay zeka güvenlik sistemleri geliştirme konusunda çalışmalarını yoğunlaştırdı.
2023 yılında, Weng’den OpenAI’nin güvenlik sistemlerini kurması ve bu alanda liderlik etmesi istendi. Böylece, güvenlik sistemleri birimi kuruldu ve ekip, giderek genişleyen yapısıyla yapay zeka sistemlerinin güvenilirliğini sağlama misyonunu üstlendi. Weng, bu süre zarfında sistemlerin güvenliği için yüksek standartlar belirledi ve bu alanda çalışan bilim insanlarını bir araya getirerek önemli bir ekip oluşturdu.
OpenAI İçinde Güvenlik Kaygıları ve Ayrılıklar
Weng’in istifası, şirket içinde son bir yılda meydana gelen birçok yüksek profilli ayrılığın bir devamı olarak görülüyor. OpenAI’nin eski güvenlik araştırmacılarından Ilya Sutskever ve Jan Leike, kısa süre önce şirketten ayrılarak güvenlik odaklı projelere yöneldi. Sutskever ve Leike’nin ardından araştırma ekibinden Miles Brundage ve CTO Mira Murati de istifa etmişti. Bu ayrılıklar, OpenAI’nin ticari odaklı politikalarının, güvenlik önceliklerinin önüne geçtiğine dair eleştirileri artırdı.
Bazı eski OpenAI çalışanları, şirketin ticari ürünler geliştirmeye yoğunlaştığını ve yapay zeka güvenliği konusunda yeterince dikkatli davranmadığını ifade etti. Örneğin, eski araştırmacılardan Suchir Balaji, OpenAI’den ayrılmasının temel sebebinin şirketin teknoloji geliştirme odağının toplum açısından zararlı olabileceğine dair endişeleri olduğunu dile getirdi. Brundage’ın ayrılığıyla birlikte şirketin AGI hazır olma ekibi de dağıtıldı.
Bu gelişmeler, OpenAI’nin giderek daha güçlü yapay zeka sistemleri üretirken güvenlik konusundaki önceliklerinin göz ardı edilip edilmediği sorularını gündeme taşıdı.
OpenAI’nin Geleceği ve Güvenlik Çalışmalarına Yönelik Beklentiler
Lilian Weng, OpenAI’den ayrılırken, görev yaptığı süre boyunca ekibinin güvenlik alanında önemli başarılara imza attığını belirtti ve ekibin gelecekte de aynı titizlikle çalışmalarını sürdüreceğine dair inancını dile getirdi. OpenAI ise, Weng’in katkılarının önemli olduğunu ve güvenlik sistemleri ekibinin şirket içinde güçlü bir şekilde varlığını sürdüreceğini vurguladı.
Ancak bu açıklamalar, şirketin güvenlik alanındaki duruşuna yönelik eleştirileri tam olarak dindirmedi. OpenAI gibi yüksek kapasiteli yapay zeka modelleri geliştiren şirketlerin, güvenlik önlemlerine daha fazla kaynak ayırması gerektiği birçok uzman tarafından dile getiriliyor.
Güvenlik alanındaki boşlukların ticari hedefler uğruna göz ardı edilmesi, toplum genelinde yapay zekaya duyulan güveni sarsabilir. Bu sebeple, OpenAI’nin güvenlik konusundaki gelecekteki adımları, hem endüstri uzmanları hem de kamuoyu tarafından yakından izlenecek.
Sonuç
Lilian Weng’in OpenAI’den ayrılması, yapay zeka güvenliği alanında önemli bir ayrılık olarak dikkat çekiyor. Weng’in istifası, OpenAI’nin güvenlik önceliklerinin ticari çıkarlar uğruna arka plana itildiği iddialarını yeniden gündeme getirdi. Şirket içindeki ayrılıklar devam ederken, OpenAI’nin güvenlik odaklı çalışmalarını nasıl şekillendireceği ve bu alandaki duruşunu nasıl koruyacağı büyük bir merak konusu.
