Harran Üniversitesi AI Asistanı

Harran Üniversitesi'nin, kurumsal içeriği üçüncü taraf bir API'ye göndermeden Türkçe soruları yanıtlayabilen genel amaçlı bir asistana ihtiyacı vardı.

Yerel bir RAG hattı kurdum: asenkron crawler sayfaları ve ofis belgelerini topluyor, sayfa hash'leri yeni, değişmiş ve silinmiş içeriği tespit ediyor ve yalnızca değişen sayfalar yeniden gömülüyor. Metin 1.000 karakterlik parçalara, 50 karakterlik örtüşmeyle ayrılıyor; BAAI/bge-m3 ile gömülüyor ve ChromaDB'de saklanıyor.

Yanıtlar yerel bir Ollama modelinden akış halinde geliyor ve kaynak URL'si içeriyor. Getirilen bağlam yeterli değilse asistan uydurmak yerine bunu açıkça söylüyor. Ayrıca gecikme metrikleri ve Ollama modellerini VRAM, ilk token süresi ve saniyedeki token sayısı üzerinden karşılaştıran bir araç ekledim.