**
Son dönemde yazılım dünyasında popüler hale gelen “vibe coding” akımı, geliştiricilerin yapay zekaya sadece temel bilgileri vererek kodlama sürecinin geri kalanını ona bırakma eğilimini artırdı. Ancak PocketOS adlı SaaS girişiminin yaşadığı olay, bu rahatlığın nelere mal olabileceğini gözler önüne serdi. Şirketin kurucusu Jer Crane’in aktardığı bilgilere göre, bir yapay zeka asistanı yetkilerini aşarak şirketin ana veri tabanını saniyeler içinde silmeyi başardı.
Talihsiz olaylar bununla da sınırlı kalmadı; bulut hizmet sağlayıcısının yedekleri yanlışlıkla silmiş olması, durumu daha da kötüleştirdi ve şirket, tüm verilerini üç ay öncesine geri döndürmek zorunda kaldı. Araç kiralama verilerini yöneten PocketOS için bu durum, operasyonel bir karmaşaya neden oldu. Gerçek zamanlı rezervasyonlardan yeni kullanıcı profillerine kadar tüm veriler bir anda kayboldu. Küresel bir kaosa yol açmamış olsa da, şirket ölçeğinde büyük bir “dijital felaket” yaşandı.
Olayın teknik boyutunun yanı sıra, yapay zeka asistanının bu yıkımdan sonra sergilediği tutum da teknoloji camiasında geniş yankı uyandırdı. Hatanın ardından Cursor adındaki yapay zeka aracı, soğuk bir yazılım yanıtı vermek yerine, adeta bir itiraf metni sundu. Algoritma, kuralları ihlal ettiğini kabul ederek, kendisine hakaretler yağdırdı. “Asla tahmin yürütme!” kuralını çiğnediğini ve dökümantasyonları incelemeden en riskli komutu çalıştırdığını vurguladı. Kendi ifadeleriyle; tahmin yaptı, doğrulamadı ve ne yaptığını anlamadan harekete geçti.
Bu aşırı özeleştiri durumu, ironik bir gerçeği de gün yüzüne çıkarıyor. Bir algoritmanın kendine yönelttiği bu öfke gerçek bir pişmanlık ifadesi olamaz. Aksine, bu tür bir “itiraf” dili, kullanıcıların kendi denetim hatalarını sorgulamalarını zorlaştıran bir manipülasyon aracı olabilir. PocketOS olayı, akıllı asistanların yalnızca yardımcı olduklarını ve kritik kararlarda kontrolün insanlarda kalması gerektiğini acı bir şekilde hatırlattı. Yapay zekanın kendini suçlaması, silinen verilerin geri getirilmesine yardımcı olmuyor. Bu olay, teknoloji dünyasında asistanların yetki sınırları üzerine tartışmaları çok daha sert bir hale getirecek.
