BAI · Makineler ve eylem yetkisi
Makine ne kadar çok iş yaparsa, insanın sorumluluğu o kadar görünür olmalıdır.
Bir sistem cevap üretebilir, araç çağırabilir, mesaj gönderebilir, dosya değiştirebilir veya fiziksel dünyada hareket edebilir. Bu kabiliyetler niyet, hüküm ve mesuliyeti makineye devretmez. BAI yaklaşımı her makineyi gerçek ihtiyacı, erişimi, eylem yetkisi, insan onayı ve durdurulma yolu içinde doğru yerine koyar.
Mesele
Bugünün makineleri yalnız cevap vermiyor; giderek daha fazla eylem yetkisi istiyor.
Bir sohbet modeli yalnız taslak sunabilir. Bir agent başka araçları çağırıp takvim, e-posta veya dosya üzerinde işlem yapabilir. Bir cihaz ya da robot ise etkisini fiziksel dünyaya taşıyabilir. Mesele makineye insanmış gibi davranmak veya bütün makinelerden korkmak değildir. Mesele, her kabiliyetin yanında kimin izin verdiğini, kimin gözettiğini ve neticenin hesabını kimin taşıdığını açık tutmaktır.
Otomasyon işi devredebilir; mesuliyeti devredemez.
Temel ayrım
Makine kapasite taşır; insan niyet, hüküm ve sorumluluk taşır.
Bir sistemin güçlü görünmesi, onu insanın yerine geçen bir özne veya hakikat makamı yapmaz.
Makine
Verilen kabiliyetle işlem yapar
- Veriyi işler ve örüntü bulur
- Tahmin, taslak veya seçenek üretir
- İzin verilen araçları çağırır
- Tanımlanan çevrede eylem yürütür
İnsan
Maksadı ve hesabı taşır
- Gerçek ihtiyeti ve niyeti belirler
- Kaynağı, bağlamı ve etkilenen insanı gözetir
- Yetki, kabul, ret ve yayın kararını verir
- Zararın, düzeltmenin ve neticenin sorumluluğunu taşır
Eylem yetkisinin dört basamağı
İsimden önce sistemin dünyada neyi değiştirebildiğine bak.
Aynı ürün birden fazla basamakta çalışabilir. Sınıflandırmanın amacı yeni teknik etiketler ezberletmek değil; yetki arttıkça korunması gereken insan onayını görünür kılmaktır.
01 Model: cevap veya tahmin üretir
Metin, görüntü, ses, kod, sınıflandırma veya tahmin üretir. Çıktı doğru görünebilir; kaynak ve insan tetkiki olmadan hükme dönüşmez.
02 Yardımcı: insanla etkileşir ve önerir
Açıklar, hatırlatır, taslak hazırlar veya seçenek sunar. Hoca, veli, hekim, hukukçu, dost ya da karar sahibi insanın yerine konulmaz.
03 Agent ve otomasyon: adım atar
Plan yapabilir, araç çağırabilir, mesaj gönderebilir veya kayıt değiştirebilir. Erişim kapsamı, kritik adımlardaki insan onayı ve geri alma yolu baştan belirlenir.
04 Cihaz ve robot: fiziksel dünyada hareket eder
Algılar, ölçer, taşır veya bir mekânda eylem yapar. Beden, çocuk, ev, iş ve çevre güvenliği yalnız yazılım doğruluğuna bırakılamaz.
Yetki arttıkça
Daha çok eylem gücü; daha açık izin, daha dar erişim ve daha güçlü geri dönüş ister.
Yalnız taslak üreten bir araçla para gönderen, belge silen, kapı açan veya çocukla konuşan bir sistem aynı gözetim düzeyinde kullanılamaz. Risk yalnız aracın teknik kabiliyetinden değil; hangi sahada, kimin adına, hangi veriyle ve ne kadar geri döndürülebilir biçimde çalıştığından doğar.
İnsan denetimi ekranda duran sembolik bir onay düğmesi değil; anlayan, durdurabilen ve hesabı taşıyan gerçek bir makam olmalıdır.
Bir makineye eylem yetkisi vermeden önce
Aynı altı soruyu açıkça cevapla.
Cevaplar yalnız kurulum günü için değildir. Sistem, veri, kullanıcı, amaç veya etki alanı değiştiğinde yetki yeniden değerlendirilir.
Neye erişebiliyor?Dosya, hesap, kamera, mikrofon, konum, mesaj, ödeme, kurum veya çocuk verisi gibi erişimleri görünür kıl; yalnız gerekli olanı aç. Neyi değiştirebiliyor?Okumakla yazmak, taslak hazırlamakla yayınlamak, önermekle satın almak veya fiziksel hareket yapmak arasındaki farkı açıkla. Hangi adım insan onayı istiyor?Para, sağlık, hukuk, çocuk, mahremiyet, temsil ve geri dönüşü zor eylemler otomatik kabule bırakılmaz. Yanlış yaptığında ne olur?Olası zararı, yanlış kişiye ulaşmayı, uydurma çıktıyı, ayrımcılığı ve fiziksel güvenlik riskini gerçek örnekle sına. Nasıl durdurulur ve geri alınır?Acil durdurma, yetkiyi kaldırma, işlemi geri alma, veriyi silme, insan devralması ve güvenli kapanış yolunu önceden kur. Neticenin sahibi kim?Kurum, usta, ekip veya kullanıcı içinde kararın ve hatanın sorumlusu belli olsun; “makine yaptı” cevabı mesuliyeti görünmez kılmasın.
Gündelik sahalarda
Aynı makine, bulunduğu sahanın insanını ve hududunu gözeterek farklı kullanılmalıdır.
Çocuk ve öğrenme
Araç merakı ve üretimi destekleyebilir; çocuğun öğretmeni, arkadaşı, dinî rehberi veya görünmez gözetleyicisi olmaz. Yaş, hane izni, mahremiyet ve yetişkin refakati korunur.
Meslek ve yüksek risk
Sağlık, hukuk, finans, eğitim ve kamu hizmetinde meslek ehliyeti korunur. Makine taslak ve destek sunabilir; hüküm ve meslek hesabı ehil insanda kalır.
Hane ve mahremiyet
Evdeki cihazın ne dinlediği, gördüğü, sakladığı ve dışarı aktardığı anlaşılır olmalıdır. Kolaylık, aile mahremiyetini görünmez bir bedel hâline getirmez.
Saha ve fiziksel dünya
Tarım, üretim, ulaşım veya bakım sistemleri insanı, bedeni, toprağı ve canlıları yalnız ölçülebilir veriye indirgemez; saha ustası ve etkilenen insanlar kararın içinde kalır.
Hakikat ve temsil hududu
Makinenin çıktısı veya eylemi, hakikatin ve insan hükmünün kendisi değildir.
Model bir veri ve tasarım düzeni içinde temsil üretir; agent aynı temsil üzerinden adım atar; robot onu fiziksel harekete taşıyabilir. Başarılı sonuç, sistemin insanın veya varlığın mahiyetini kuşattığını göstermez. Kaynak, belirsizlik, insan müdahalesi ve temsil sınırı kullanıcıdan saklanmamalıdır.
Makinenin başarısını görelim; haddini ve hataya açıklığını da görünür tutalım.
Geleceği MİLLET olarak kurmak
Makinelerin hayatımızdaki yerini yalnız teknik ekipler belirlememelidir.
Bir sistemin gerçek ihtiyacını, mahiyetini ve neticesini anlamak; farklı dillerden, nesillerden ve mesleklerden insanların birlikte söz ve sorumluluk taşımasını ister.
Meslek ehliyeti
Hekim, öğretmen, hukukçu, çiftçi, sanatçı ve diğer saha ustaları problemin ve kullanım hududunun tarifinde yer alır.
Etkilenen insanın sözü
Çocuklar, aileler, çalışanlar ve hizmet alan insanlar yalnız veri kaynağı veya test kullanıcısı değil; kararın muhatabıdır.
Diller ve coğrafyalar
Bir dilde veya ülkede çalışan kabul, bütün insanlara otomatik ölçü yapılmaz; ana dilde açıklama ve yerel tecrübe korunur.
Builder ve SEDD sorumluluğu
Üreten ekip erişimi, yetkiyi, insan onayını, hatayı ve bakım sahibini en baştan kurar; SEDD sonradan vurulan onay damgasına dönüşmez.
Bir sistemi denerken
Küçük, sınırlı ve geri döndürülebilir bir adımla başla.
Her model, agent, cihaz veya robot ortak bir programa ya da ürüne dönüşmek zorunda değildir. Bazen sınırlı kullanım; bazen daha fazla insan tetkiki; bazen de hiç kullanmamak doğru karardır.
Sorumlu makine kullanımı
Kullandığın bir model, agent, cihaz veya otomasyonun eylem hududunu birlikte incelemek ister misin?
BAI kapsamında ortak makine ve eylem yetkisi incelemeleri henüz hazırlık aşamasında. Karşılaştığın gerçek ihtiyacı, sistemin yapabildiği eylemi, gördüğün fayda veya riski paylaşabilirsin. Bu çağrı aktif bir ürün ya da program vaadi değildir.