Logaritim
Soru havuzu ve sınav hazırlama
Gemini, PDF’lerdeki soruları okuyup yapılandırıyor ve yeni soru üretiyor; her soru şemayla sınırlı çıkıyor, ardından kör çözücü ve hakem modelden geçiyor.
Ürünü inceleBu teknolojiyle geliştirdiklerimiz
Hepsi yayında; mağaza sayfalarına ve ayrıntılara Ürünler sayfasından ulaşabilirsiniz.
Rigel
Yapay zekâ video uygulaması
OpenAI, video istemini üretimden önce düzenliyor ya da güvenli biçimde yeniden yazıyor ve şablon metinlerini çeviriyor; çağrılar sunucuda.
Ürünü incele
LydiaVault
Yapay zekâ bütçe koçu
OpenAI ile çalışan bütçe sohbeti: kullanıcının sorusu, hesap ve işlem özetiyle birlikte sunucudan modele gidiyor.
Ürünü inceleEkibimizin deneyimi
Bunlar Pepechura’nın müşteri projeleri değil; ekibimiz bu şirketlerin kendi ekipleri içinde görev aldı.
İnşaat sektörüne yönelik SaaS platformu
Ekibimiz, Subtraid’in geliştirme ekibi içinde Playwright tabanlı, yapay zekâ destekli uçtan uca test otomasyonunda görev aldı.
Dil modeli bir ürüne ne zaman değer katar
Bir dil modeli dağınık metni okuyup düzenli veriye çevirmekte, kısa metin yazmakta ve bir metni başka bir biçime ya da dile dönüştürmekte iyidir. Kesin hesap yapmakta, bir kaydı birebir hatırlamakta ve her seferinde aynı cevabı vermekte ise zayıftır. Bu yüzden modeli ürünün tamamına değil, girdisi belli, çıktısı denetlenebilen ve yanıldığında geri dönüşü olan tek bir adıma yerleştiriyoruz.
Dil modelinin iyi oturduğu işler
- PDF, e-posta ya da form gibi dağınık metinden yapılandırılmış veri çıkarmanız gerekiyor
- Kullanıcının serbest yazdığı bir metni (bir istem, bir soru) işlenebilir hâle getirmek istiyorsunuz
- Aynı içeriği birden fazla dile çevirmeniz ya da aynı kalıpta çok sayıda içerik üretmeniz gerekiyor
- Modelin çıktısını bir insanın ya da otomatik bir kontrolün gözden geçireceği bir akış kurabiliyorsunuz
Dil modeli önermeyeceğimiz işler
- Sonucun her seferinde aynı ve kesin olması gerekiyor: fatura tutarı, vergi ya da stok hesabı gibi. Bunu sıradan kod daha doğru ve daha ucuz yapar
- Modelin hatası doğrudan müşteriye ya da paraya dokunacak ve araya bir kontrol koymak mümkün değil
- Gönderilecek veri, sözleşme ya da mevzuat gereği üçüncü taraf bir sağlayıcıya çıkamıyor
Ürünlerimizde dil modelleri ne yapıyor
| Ürün | Sağlayıcı | Modelin işi | Kontrol |
|---|---|---|---|
| Logaritim | Gemini (Vertex AI ya da Gemini API) | PDF’lerdeki soruları okuyup yapılandırmak, müfredat kazanımlarına göre yeni soru üretmek | Şemayla sınırlı çıktı; kör çözücü ve hakem; sınava yalnızca onaylı sorular giriyor |
| Rigel | OpenAI | Video istemini üretimden önce düzenlemek ve içerik kurallarına uygun hâle getirmek; şablon metinlerini çevirmek | Model yanıt vermezse kullanıcının özgün istemiyle devam ediliyor; çeviride istenen her dilin geldiği kontrol ediliyor |
| LydiaVault | OpenAI | Kullanıcının bütçesiyle ilgili sorularını yanıtlayan sohbet | Model yalnızca o kullanıcının hesap, hedef ve işlem özetini görüyor |
En kapsamlı örneğimiz Logaritim. Ders materyali PDF’leri sayfa sayfa okunuyor; metni doğrudan çıkarılabilen sayfaları okumak için modele gidilmiyor, yalnızca görüntü olarak okunması gereken sayfalar Gemini’ye gönderiliyor. Üretilen her soru, cevap anahtarını görmeyen bir çözücü modele veriliyor; hakem model iki cevabı karşılaştırıyor ve soru “onaylandı”, “reddedildi” ya da “düzeltilmeli” olarak işaretleniyor. Sınavlara yalnızca onaylı sorular giriyor ve yönetim panelinden bir soruyu elle reddetmek de mümkün.
Bir dil modelini ürüne bağlarken dikkat ettiklerimiz
Şemaya uyan çıktı
Logaritim’de beklenen yanıtın şeması (Pydantic) doğrudan Gemini’ye veriliyor; model başka bir alan adı uyduramıyor. Rigel’de çeviri yanıtı zod şemasıyla doğrulanıyor.
İzlenen maliyet
Logaritim’de her model çağrısı giriş, çıkış ve düşünme token’larıyla kaydediliyor ve iş başına maliyet hesaplanıyor. Modelin ne kadar “düşüneceği” de işe göre sınırlanıyor.
Son kararı model vermiyor
Logaritim’de kör çözücü ve hakem var. Kendi iç araçlarımızda da modelin yazdığı mesaj yalnızca bir taslak; gönderme kararı insanda.
Hangi veri gidiyor
LydiaVault’ta modele kullanıcının adı ya da e-postası gitmiyor, yalnızca soruyu yanıtlamak için gereken özet gidiyor. Rigel’de modele yalnızca istem metni gidiyor, fotoğraf gitmiyor.
Yedek yol
Rigel’de model yanıt vermezse akış durmuyor, özgün istemle devam ediyor. Logaritim’de bir model aşırı yüklendiğinde ya da kotası dolduğunda sıradaki modele geçiliyor.
Anahtar sunucuda
API anahtarları mobil uygulamanın içinde değil, sunucuda duruyor; Rigel’de anahtar AWS Secrets Manager’dan okunuyor.
Bir dil modeli entegrasyonu nasıl ilerliyor
- 01
Ücretsiz keşif görüşmesi
30 dkModelin hangi işi üstleneceğini, sağlayıcıya hangi verinin gideceğini ve hatanın nerede yakalanacağını konuşuyoruz.
- 02
Yazılı kapsam ve teklif
Girdi ve çıktı şemasını, sağlayıcıyı ve hesap türünü, kabul kriterlerini ve kullanım maliyetinin nasıl izleneceğini yazıya döküyoruz.
- 03
Haftalık sürümler
Her hafta kendi örnek verilerinizle çalışan bir sürüm görüyorsunuz; yanlış çıkan örnekler bir sonraki haftanın istem ve kontrol düzenlemelerini belirliyor.
- 04
Test ve yayın
Senior QA akışı yayından önce test ediyor; beklenen çıktıların yanında bozuk girdi, boş yanıt ve sağlayıcının yanıt vermediği durumlar da senaryolarda yer alıyor.
- 05
Yayından sonraki 30 gün
30 günBu sürede çıkan hataları ücretsiz düzeltiyoruz; sonrasında aylık bakımla devam edebilirsiniz.
Süre ve bütçe aralıkları yapay zekâ otomasyonu, yapay zekâ ajanı ve fiyatlar sayfalarımızda. Geliştirme ücretinin yanında işlem hacminize bağlı bir model kullanım maliyeti de oluşur; bunu teklif aşamasında birlikte tahmin ediyoruz.
OpenAI ve Gemini entegrasyonu hakkında sık sorulanlar
OpenAI mı, Gemini mi?
İkisini de kullanıyoruz: Logaritim’de Gemini, Rigel ve LydiaVault’ta OpenAI. Seçimi işin türüne, verinin nereye gidebileceğine ve kullanım maliyetine bakarak yapıyoruz. Model çağrılarını tek bir katmanda topluyoruz; sağlayıcı ya da model değiştiğinde değişiklik o katmanda kalıyor.
Verilerimiz modeli eğitmek için kullanılır mı?
OpenAI ve Google’ın API ile kurumsal kullanım koşulları, gönderilen verinin model eğitiminde kullanılmamasını öngörüyor; ücretsiz kullanım katmanlarında koşullar farklı olabiliyor. Hangi hesabın kullanılacağını ve modele hangi alanların gideceğini proje başında yazıya geçiriyoruz.
Model yanlış cevap verirse ne oluyor?
Bunu en baştan varsayıyoruz. Çıktıyı bir şemaya bağlıyoruz, şemaya uymayan yanıtı kabul etmiyoruz ve sonucu bir insana ya da ikinci bir kontrole gösteriyoruz. Logaritim’de çözücü model hiçbir şıkkın doğru olmadığını bildirebiliyor; bu, sorunun kendisinin bozuk olabileceğine dair bir işaret olarak kullanılıyor.
Kullanım maliyeti nasıl kontrol altında tutuluyor?
Modele yalnızca gereken veriyi gönderiyoruz: Logaritim’de metni okunabilen sayfalar okunmak için modele gönderilmiyor, LydiaVault’ta bütün geçmiş yerine belirli bir dönemin özeti gidiyor. Her çağrının token sayısını ve tahmini maliyetini kaydediyoruz; böylece maliyetin hangi işten geldiği görülebiliyor.
Proje bitince elimde ne kalır?
Yazılımı süresiz kullanma lisansı ve dokümantasyon. Kaynak kodun size devri ek ücretle mümkün ve teklifte ayrıca belirtiliyor.
İlgili hizmetler
İletişim
Dil modelinin ürününüzde nereye oturacağını konuşalım
30 dakikalık ücretsiz keşif görüşmesinde modelin üstleneceği işi, sağlayıcıya gidecek veriyi ve çıktının nasıl kontrol edileceğini birlikte netleştirelim.