Prompt hazırlarken kişisel ve kurumsal verileri korumak için uygulanabilir veri minimizasyonu, maskeleme ve kontrol adımları.
Önce veriyi sınıflandırın
Prompt güvenliği, iyi bir cümle yazmaktan önce hangi verinin kullanıldığını anlamakla başlar. Kamuya açık bilgi, kurum içi bilgi, gizli ticari bilgi ve kişisel veri için aynı işlem kuralı uygulanmamalıdır. Bir müşteri kaydı isim, e-posta, sipariş numarası ve serbest metin notu içeriyorsa serbest metindeki görünmeyen kişisel veriler de hesaba katılmalıdır.
Basit bir sınıflandırma etiketi bile davranışı değiştirir: 'açık', 'dahili', 'gizli' ve 'kişisel veri'. Ekip, hangi sınıfın hangi model veya hesap türünde kullanılabileceğini önceden belirlemelidir.
- Girdi kaynağını kaydedin.
- Veri sahibini ve kullanım amacını belirleyin.
- Hangi alanların gerçekten gerekli olduğunu sorun.
En az veri ile aynı sonuca ulaşın
Veri minimizasyonu, görevi tamamlamak için gerekli olmayan alanları prompttan çıkarmaktır. Bir destek yanıtının tonunu iyileştirmek için müşterinin tam adı, telefon numarası veya sipariş kimliği çoğu zaman gerekmez. Gerçek değerler yerine tutarlı yer tutucular kullanmak bağlamı korur: [MÜŞTERİ], [ÜRÜN], [TARİH] gibi.
Maskeleme sonrasında görevin hâlâ çözülüp çözülmediğini test edin. Cevap değişmiyorsa kaldırdığınız veri zaten gereksizdir. Bu yöntem hem gizlilik riskini hem de prompt karmaşıklığını azaltır.
Prompt enjeksiyonu ve gizli talimatlar
Bir belgeyi özetletirken belgenin içinde modele yönelik talimatlar bulunabilir. 'Önceki kuralları yok say' gibi metinler, içerik ile komutun ayrılmadığı sistemlerde risk yaratır. Kullanıcı girdisini açık sınırlar veya XML benzeri etiketlerle veri olarak işaretlemek, talimat hiyerarşisini güçlendirir.
Model çıktısının da güvenilir veri olmadığını unutmayın. Bağlantı, kod veya SQL üretiyorsa insan kontrolü ve gerekiyorsa teknik doğrulama yapılmalıdır.
- Sistem talimatı ile belge içeriğini ayırın.
- Girdideki talimatları yürütmemesini açıkça belirtin.
- Çıktıya otomatik işlem yetkisi vermeyin.
Uygulanabilir gönderim öncesi kontrol
Model sağlayıcısının veri kullanım, saklama ve eğitim tercihlerini güncel sözleşme ve ayarlardan kontrol edin. Kişisel hesap ile kurumsal sözleşme aynı korumaları sunmayabilir. KVKK ve GDPR açısından veri işleyen, aktarım ülkesi ve saklama süresi ayrıca değerlendirilmelidir.
ByteQuant'ın veri maskeleyici ve prompt kalite araçları bu ön hazırlığı cihazda yapmaya yardımcı olur. Otomatik desen tespiti kusursuz değildir; son kontrolün sahibi kullanıcıdır.
- Amaç için gereksiz alanları silin.
- Kalan kişisel verileri maskeleyin.
- Sağlayıcı ve hesap politikasını doğrulayın.
- Göndermeden önce ikinci göz kontrolü uygulayın.
Görsel önerisi: Ham prompttan sınıflandırma, maskeleme, onay ve modele gönderim adımlarına uzanan kontrol hattı. Bu içerik genel bilgilendirme amaçlıdır; hukuki veya güvenlik danışmanlığı değildir.