Prompt Engineering Riskleri ve Yönetişim Kuralları

Prompt engineering, bir AI modelinin yararlı bir çıktı üretmesi için talimatlar, bağlam ve örnekler yazma uygulamasıdır. Pazarlamada bu, konu satırları için tek satırlık bir talepten, dahili bir içerik aracını çalıştıran uzun bir sistem promptuna kadar her şeyi kapsar.

Kurallar önemlidir çünkü promptlar yayılır. Bir kişi tarafından yazılan zekice bir prompt, paylaşılan bir Dokümana, ardından bir Gem veya özel GPT’ye, ardından her gün çalışan bir otomasyona girer. O noktada kimse onun varsayımlarını, hangi verilere dokunduğunu veya çıktısını kimin kontrol ettiğini hatırlamaz. Yönetişim, bu şeylere önceden karar vermektir.

Veri ifşası

En yaygın olay bir hack değildir. Bir çalışanın müşteri listesini, sözleşmesini veya yayınlanmamış bir kampanyayı, şartları sağlayıcının girdileri eğitim veya inceleme için kullanmasına izin veren bir tüketici AI hesabına yapıştırmasıdır. Büyük sağlayıcıların iş planları genellikle daha güçlü veri şartları sunar, ancak yalnızca personel bunları kullanırsa.

Kendinden emin hatalar

Modeller doğru tınlayan metinler üretir. İyi yapılandırılmış bir prompt yine de uydurma bir istatistik, yanlış alıntılanmış bir düzenleme veya var olmayan bir ürün özelliği döndürebilir. Daha uzun, daha ayrıntılı promptlar bazen bunu daha da kötüleştirir, çünkü model gerçekler eksik olduğunda bile her talimatı yerine getirmeye çalışır.

Prompt injection

Bir model, bir web sayfası, bir tedarikçiden gelen PDF veya bir müşteri e-postası gibi dış içeriği okuduğunda, bu içerik gizli talimatlar içerebilir. Bir tarayıcı asistanına bir sayfa tarafından özetini görmezden gelmesi veya bir bağlantı eklemesi söylenebilir. Bu, kimsenin girdiyi okumadığı otomatik iş akışları için en önemlisidir.

Marka ve yasal kayma

Birçok çıktı boyunca ton düzleşir ve iddialar artar. ‘Azaltmaya yardımcı olur’ ifadesi ‘ortadan kaldırır’ olur. Rakipler hakkında karşılaştırmalı iddialar, sağlık iddiaları ve fiyat vaatleri, AB, Türkiye ve başka yerlerdeki reklam kuralları kapsamında yasal risk oluşturabilir.

Aşırı güven

Daha sessiz bir risk, beceri kaybıdır. Genç pazarlamacılar her özeti bir model aracılığıyla hazırladıklarında, bir argüman oluşturmayı veya bir müşteri görüşmesini okumayı öğrenmeyi bırakabilirler. Ekipler, konumlandırma ifadeleri ve araştırma sentezi gibi bazı işleri tamamen insan eliyle tutmalıdır, böylece muhakeme gelişmeye devam eder. Prompt, iyi bir cevabın neye benzediğini bilen kişi kadar iyidir.

Promptlar, modelin sahip olmadığı bilgileri ekleyemez ve her seferinde bir formatı garanti edemezler. ‘Rakiplerden asla bahsetme’ gibi talimatlar çoğu zaman işe yarar, her zaman değil. Garanti edilmesi gereken her şey için, prompt içindeki bir cümle yerine modelden sonra bir kontrol kullanın.

Promptlar ayrıca modeller değiştiğinde bozulur. Sağlayıcılar modelleri düzenli olarak günceller ve bir sürüm için ayarlanmış bir prompt, bir sonrakinde farklı davranabilir. Testleri olmayan bir prompt kütüphanesi, kimse fark etmeden bozulacaktır.

Küçük başlayın. Bir sayfaya yazılmış beş kural, tipik bir pazarlama departmanı için riskin çoğunu kapsar.

• Onaylı araçlar: personelin iş için kullanabileceği ve kullanamayacağı AI araçlarını ve hesap türlerini adlandırın.
• Veri sınıfları: promptlara nelerin girebileceğini (kamu içeriği, anonimleştirilmiş istatistikler) ve nelerin giremeyeceğini (kişisel veriler, sözleşmeler, şifreler, yayınlanmamış finansallar) listeleyin.
• İnsan incelemesi: her harici çıktı yayınlanmadan önce adlandırılmış bir kişi tarafından okunur; düzenlenen iddialar hukuk veya uyumluluk birimine gider.
• Sahiplik: her paylaşılan prompt veya otomasyonun onu güncelleyen ve çıktısından sorumlu olan bir sahibi vardır.
• Günlük kaydı: otomatik iş akışları girdilerin, çıktıların ve kullanılan model sürümünün bir kaydını tutar.

Promptlara bir tasarım sistemindeki şablonlar gibi davranın. Her giriş amacını, sahibini, son test tarihini, test edildiği modeli ve iyi bir çıktı örneğini taşımalıdır.

• Promptları paylaşılan bir Drive klasörü, Notion sayfası veya dahili araç gibi tek bir yerde saklayın.
• Sürümlendirin: bir prompt değiştiğinde, eskisini saklayın ve nedenini not edin.
• Her model güncellemesinden sonra üç ila beş standart girdi ile test edin.
• Üç aydır kimsenin kullanmadığı promptları emekli edin.
• Müşteri verilerine dokunan promptları işaretleyin, böylece daha sıkı bir inceleme alırlar.

Otomatik boru hatları için modelden sonra basit doğrulayıcılar ekleyin: uzunluğu, yasaklı kelimeleri, gerekli sorumluluk reddi beyanlarını ve bağlantıların kendi alan adınıza işaret ettiğini kontrol edin. Bu kontroller ucuzdur ve çoğu sürprizi yakalar. Ayrıca gözden geçirenlere bakmaları gereken daha kısa bir liste verir, bu da onayı hızlandırır.