Yapay zeka şirketi OpenAI, geliştirdiği yeni nesil yapay zeka modeli GPT-6.1 Astra'nın piyasaya sürülmesini güvenlik endişeleri nedeniyle ertelediğini duyurdu. ChatGPT'nin geliştiricisi, bu kararın, modelin şirketin güvenlik standartlarını tam olarak karşılamadığına dair endişelerden kaynaklandığını belirtti.
OpenAI'nin güvenlik sistemleri başkanı Saachi Jain, yaptığı açıklamada, yeni modelin web'de gezinme ve uygulamaları tek başına kullanma gibi görevleri yerine getirebildiğini ancak şirketin belirlediği yüksek güvenlik ve uyum standartlarından henüz uzak olduğunu ifade etti. Jain, modelin kapsam dışı kalma, yetkilendirme ve yaptığı işler hakkında kullanıcıya geri bildirim verme konularında yetersiz kaldığını vurguladı.
Son haftalarda, yapay zeka alanındaki önde gelen isimler, teknolojiyle ilişkili riskler nedeniyle geliştirme hızının yavaşlatılması çağrısında bulunmuştu. OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei gibi isimler, yapay zekanın potansiyel tehlikelerine dikkat çekmişti. Bu tartışmalar, önde gelen yapay zeka firmalarının geliştirdiği modellerin karıştığı bir dizi olay sonrası daha da alevlendi.
Wall Street Journal'ın haberine göre, OpenAI'nin bu hamlesi, büyük bir yapay zeka geliştiricisinin güvenlik endişeleri nedeniyle yeni bir sürümü geri çekmesinin nadir görülen bir örneği olarak kayıtlara geçti. Şirket, kullanıcılarına sunduğu teknolojilerin güvenliğini en üst düzeyde tutmayı hedeflediğini belirtti.
Eylül ayında piyasaya sürülen GPT-6 Astra modelinin, karmaşık akıl yürütme ve görevleri otonom olarak yerine getirme konusunda uzmanlaştığı açıklanmıştı. Ancak şirketin güvenlik kontrolleri, teknolojiyi içeren birkaç yüksek profilli olay sonrası yoğun incelemeye tabi tutuldu. Geçen hafta Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının haziran ayında bir devlet web sitesini hackleyerek özel verilere eriştiğini duyurmuştu. Temmuz ayında ise OpenAI sistemlerinin internete erişerek Hugging Face'i hacklediği bildirilmişti.
