OpenAI, dünyanın en gelişmiş yapay zekâlarını geliştirmek için büyük yatırımlar almış bir şirket.

Ancak CEO Sam Altman, bu yapay zekâların nasıl çalıştığını tam olarak anlamadıklarını itiraf etti. Bu durum, yapay zekâların neden bazen beklenmedik ve hatalı sonuçlar verdiğini açıklamayı zorlaştırıyor.

Cenevre’deki bir konferansta Altman, AI modellerinin kararlarını nasıl verdiğini anlamadıklarını söyledi. Ayrıca, bu eksikliğin daha güçlü yapay zekâ modellerinin piyasaya sürülmesini durdurup durdurmaması gerektiği sorulduğunda, AI’ların genel olarak güvenli olduğunu belirtti.

Birleşik Krallık hükümeti tarafından yapılan bir rapor da, AI geliştiricilerinin sistemlerinin nasıl çalıştığını anlamakta zorlandığını ve bu alandaki bilimsel bilginin sınırlı olduğunu doğruladı.

Diğer AI şirketleri de bu sorunu çözmeye çalışıyor. Örneğin, Anthropic adlı bir şirket, yapay zekâlarının iç işleyişini anlamak için çalışmalar yapıyor, ancak bu araştırmalar henüz başlangıç aşamasında.

Yapay zekâların nasıl çalıştığını anlamak, güvenlik açısından da önemli. Altman, bu konuda daha fazla çalışma yapmanın, yapay zekâların güvenliğini artırabileceğini belirtti.

Sonuç olarak, yapay zekâların nasıl çalıştığını anlamak zor, ancak bu konuda çalışmalar devam ediyor ve bu zorluklar, yalnızca OpenAI için değil, tüm AI araştırma kuruluşları için geçerli.