OpenAI uyumluluğunu ilk olarak doğrula
Uç noktanın standart OpenAI SDK çağrılarına yanıt verdiğini onaylayarak başlayın. Bu, mevcut istemci kodunuzun büyük bir yeniden yapılandırma olmadan çalışmasını sağlar. Bağlantıyı kullanarak test edin /v1/models bağlantıyı doğrulamak için uç nokta.
- Yanıt yapısını kontrol etmek için basit bir istek gönderin.
- Model kimliğinin beklediği gibi döndüğünü doğrulayın.
- Başlıkların standart beklentilere uygun olduğunu doğrulayın.
Çoğu geliştirici uyumluluğu varsayar, ancak alan adlarındaki ince farklar ayrıştırıcıları bozabilir. Her zaman önce minimal bir yük ile test edin.
Bağlam penceresi limitlerini kontrol et
Model, hem istem hem de tamamlama için birlikte 100.000 token'lık bir bağlam penceresi destekler. Bu, geniş konuşma geçmişi veya büyük belge işleme imkanı sağlar. Ancak, maksimum çıktı isteği başına 16.000 token ile sınırlıdır.
- Pencereyi aşmamak için token kullanımını izleyin.
- Bağlam çok büyürse eski mesajları kısaltın.
- Açık belirle
max_tokensçıktı uzunluğunu kontrol etmek için.
Bu sınırların göz ardı edilmesi kesik yanıtlara veya hatalara neden olabilir. 100k token sınırında kalmak için giriş boyutunuzu dikkatlice planlayın.
Gecikme için akış yapılandırın
Algılanan gecikmeyi iyileştirmek için Sunucu Tarafından Gönderilen Olaylar (SSE) üzerinden akış. Bu, uygulamanızın belirteçleri oluşturulduklarında görüntülemesine olanak tanır. Pürüzsüz bir kullanıcı deneyimi sağlamak için kritiktir.
- Ayarla
stream: trueistemci gövnenizde. - Bekleme süresini azaltmak için parçalar geldiği gibi işleyin.
- Kısmi yanıtları zarifçe yönetin.
Akış olmadan kullanıcılar tüm yanıtın tamamlanmasını bekler. Akış, etkileşimli uygulamalar için kritik olan anında geri bildirim sağlar.
Araçlar için işlev çağrısını etkinleştir
Fonksiyon çağırma, modelin harici araçlar için yapılandırılmış veri döndürmesine olanak tanır. Bu, eylemleri tetiklemek veya belirli bilgileri çıkarmak için kullanışlıdır. Kullanın tools kullanılabilir işlevleri tanımlayan parametre.
- Net açıklamalara sahip fonksiyon şemaları tanımlayın.
- Araçları çalıştırmak için modelin çıktısını ayrıştırın.
- Modelin bir işlevi çağırmadığı durumları yönetin.
Doğru şema tanımı, modelin geçerli JSON döndürmesini sağlar. Araç seçimi doğruluğunu doğrulamak için çeşitli girdilerle test edin.
Token kullanımunu yakından izleyin
Maliyetleri etkili bir şekilde yönetmek için token tüketimini izleyin. API, token kullanımına göre ücretlendirme yapar; girdi tokenları 1M başına $0.15 ve çıktı tokenları 1M başına $0.50'dir. Peşin kredi kullanılır, bu nedenle bakiyenizi izleyin.
- Her istek için token sayılarını günlüğe kaydedin.
- Düşük kredi bakiyeleri için uyarılar kurun.
- Kullanım raporlarını düzenli olarak gözden geçirin.
Beklenmedik token kullanımı kredinizi hızla tüketebilir. Özellikle akış (streaming) işlemlerinde token sayısını doğru bir şekilde sayın, sürprizlerle karşılaşmamak için.
Reddettiği durumları doğru yönetin
Model sansürsüzdür ancak hala kesin sınırlara sahiptir. Örneğin, çocuklara yönelik cinsel içerik her zaman reddedilir. Uygulamanızın reddetme yanıtlarını zarif bir şekilde ele alması gerektiğinden emin olun.
- Reddler için yanıt durumunu kontrol edin.
- Kullanıcılara uygun mesajlar gösterin.
- Hata ayıklama için reddetme nedenlarını günlüğe kaydedin.
Incluso los modelos sin censura tienen límites. Comprender estos límites evita confusiones cuando se deniega una solicitud.
Kripto faturalandırma uyarıları kurun
Faturalandırma yalnızca kripto para birimi üzerinden yapıldığından, cüzdan bakiyeleriniz için bildirimler kurun. Yüklemeler USDT (TRC20) veya USDC (Base) üzerinden yapılır. Krediler peşin ödenir ve süresi dolmaz.
- Yükleme ihtiyaçları için kripto cüzdanınızı izleyin.
- Düşük bakiyeler için bildirimler kurun.
- Yüklemelerden gelen bonus kredileri takip edin.
Kripto ödemeler gizlilik ve hız sunar. Hizmet kesintilerini önlemek için faturalandırma işleminizi otomatize ettiğinizden emin olun.
Sınır durum istemleriyle test edin
Entegrasyonunuzu alışılmadık veya karmaşık istemlerle test edin. Bu, modelin belirsizlikleri veya çelişkili talimatları nasıl işlediğini belirlemenize yardımcı olur. Sınır durumlar, ayrıştırma veya mantık hatalarını ortaya çıkarabilir.
- Karışık dillerle istemleri kullanın.
- Uzun, detaylı talimatlarla test edin.
- Belirsiz sorgularla davranışı doğrulayın.
Gerçek dünya kullanımı genellikle karmaşık girdiler içerir. Kapsamlı testler, uygulamanızın bu senaryoları sağlam bir şekilde işlediğinden emin olur.
JSON modu çıktısını doğrula
JSON modu kullanılırken, çıktının şemayı kesinlikle takip ettiğinden emin olun. Kullanın response_format: {"type": "json_object"} bunu zorlamak için. JSON'u işlemeden önce doğrulayın.
- Yanıtı sözdizimi hataları için kontrol etmek için ayrıştırın.
- Beklenen şemanıza karşı doğrula.
- Geçersiz JSON'u zarifçe yönetin.
Geçersiz JSON uygulamanızı bozabilir. Yapılandırılmış yanıt biçimleri kullanırken her zaman çıktıyı doğrulayın.