Çılgın AI Modeli Nedir?
Unhinged AI modeli, bağımsız bir API uç noktası olarak barındırılan büyük bir dil modelidir. İstekleri çeşitli özel sistemler aracılığıyla yönlendiren çok satıcı platformların aksine, bu hizmet, içerik reddini en aza indirmek için özel olarak ayarlanmış tek bir açık ağırlıklı model çalıştırır. Doğrudan model çıktılarına erişmek isteyen, yetişkin, tartışmalı veya niş konulara standart ticari API'lerin dayattığı güvenlik önlemlerini istemeyen geliştiriciler için tasarlanmıştır.
Model, GPT, Claude veya başka bir büyük satıcının ürünü olduğunu iddia etmez. Özel altyapıdan sunulan bağımsız bir açık ağırlıklı çözümdür. Temel değer önerisi, yasal kullanım durumları için güvenilirlik ve sansürsüzlüktür. Bir istem gönderdiğinizde ham bir yanıt alırsınız. Üretimin ardından gizli filtreler uygulanmaz veya programatik erişimi kesen giriş duvarları yoktur. Bu, birden fazla ayrı model mimarisine erişimden daha önemli olan öngörülebilir, filtrelenmemiş metin üretimi gereken uygulamalar için özellikle faydalıdır.
Neden Yerel Değil Barındırılan?
Bir sansürsüz yerel LLM çalıştırmak, yüksek uç belleğe (VRAM) sahip yüksek uç GPU'lar gibi önemli donanım yatırımları gerektirir. Yerel dağıtım veri gizliliği ve çıkarım için sıfır gecikme süresi sunsa da, devam eden bakım, enerji ve donanım yükseltmeleri gerektirir. Çoğu geliştirici için, temel amacın yalnızca metin çıktıları almak olduğu durumlarda GPU kümelerini yönetme yükü gereksizdir.
Bu tür barındırılan bir API, donanım yükünü ortadan kaldırır. Yerel çıkarımın kontrolünü kolaylık ve ölçeklenebilirlikle değiştirirsiniz. Barındırılan model her zaman mevcuttur, eşzamanlı istekleri işlemek için ölçeklendirilmiştir ve sağlayıcı tarafından güncellenir. Bu, prototipler, startup'lar veya değişken trafik yüklerine maruz kalan uygulamalar için idealdir. GPU erişilebilirliği veya sürücü güncellemeleri hakkında endişelenmenize gerek yoktur. Yapılan trade-off, sağlayıcının çalışma süresine ve fiyatlandırma yapısına bağlı olduğunuzdur; ancak çoğu kullanım durumu için operasyonel basitlik, yerel donanımın avantajlarından daha ağır basar.
Performans: 100k Bağlam Penceresi
Bu API'nin temel özelliklerinden biri 100.000 token'lık bağlam penceresidir. Bu, tek bir istekte büyük belgeler, kapsamlı kod tabanları veya uzun konuşma geçmişleri göndermenizi sağlar. Çoğu standart model bağlamı 8k veya 32k token ile sınırlar, bu da geliştiricilerin karmaşık parçalama stratejileri uygulamalarını zorlar. 100k token ile tüm kılavuzları veya uzun kod dosyalarını işleyebilir ve önceki bağlamı kaybetmeden tutarlı yanıtlar alabilirsiniz.
Her istekte maksimum çıktı uzunluğu 32.000 token ile sınırlıdır; bu, uzun denemeler, kod blokları veya detaylı açıklamalar oluşturmak için yeterlidir. max_tokens belirtmezseniz, varsayılan değer 2.048 token'dır. Çıktı uzunluğunu yöneten geliştiriciler için bu kritik bir detaydır; bu parametreyi ayarlamamak, uzun görevlerde yanıtın kesilmesine neden olabilir. Geniş bağlam penceresi, tam bağlamın doğruluk için hayati olduğu RAG (Getirme-Artırılmış Üretim) sistemleri için bu sansürsüz modelleri seçeneğini uygulanabilir kılar.
Maliyet Analizi: Tokenlar vs Hesaplama
Bu API için fiyatlandırma tamamen kullanım bazlıdır. Girdi token'ları milyon başına $0,25, çıktı token'ları ise milyon başına $1,00'dır. Bu, barındırılan LLM API'leri için standart bir oran yapısıdır ancak şeffaflık dikkat çekicidir. Aylık abonelikler, kademeli fiyatlandırma veya gizli ücretler yoktur. Hatalar ve reddetmeler (küçük içerik için katı sınır hariç) ücretsizdir, yani yalnızca geçerli tamamlamalar için ödeme yaparsınız.
Maliyetleri karşılaştırırken, yerel çıkarımın yüksek sabit bir maliyeti olduğunu göz önünde bulundurun. Tek bir GPU 10.000 $'dan fazla maliyetinde olabilir ve önemli miktarda güç tüketir. Düzensiz kullanımlarda, barındırılan bir API neredeyse her zaman daha ucuzdur. Yüksek hacimli kullanımlarda bile token başına maliyet öngörülebilir kalır. Ön ödemeli kredi satın alabilir, bu kredi hiç sona ermeyeceğinden gerçek tüketime göre bütçeleme yapabilirsiniz. Bu model, bulut bilişimde ayrılmış örnekleme fiyatlandırmasında yaygın olan boşta kapasiteye ödeme yapma riskini ortadan kaldırır.
API Uyumluluğu: OpenAI SDK
API, resmi OpenAI SDK'larıyla tamamen uyumludur. GPT-4 için kullanacağınız aynı kod yapısını, yalnızca temel URL'yi ve API anahtarını değiştirerek kullanabilirsiniz. Temel URL https://api.unhinged.top/v1 şeklindedir. Sohbet tamamlamaları için uç nokta POST /v1/chat/completions'dir ve model bilgileri GET /v1/models üzerinden erişilebilir. Bu, zaten OpenAI ekosistemine aşina olan geliştiriciler için öğrenme eğrisini önemli ölçüde azaltır.
from openai import OpenAI
client = OpenAI(base_url="https://api.unhinged.top/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Mevcut boru hatlarınıza minimum kod değişikliğiyle entegre edebilirsiniz. Kullanılacak model kimliği uncensored'dir. Bu uyumluluk, Node.js, Go ve Rust için kütüphaneler dahil olmak üzere OpenAI formatını destekleyen herhangi bir istemciye uzanır. Bu evrensellik, sizi özel bir istemciye hapsediğiniz anlamına gelmez. Uygulamanıza birkaç satır değişiklikle bu uç noktayı dahil edebilir ve sansürsüz çıktılar için test yaparken gerçek bir yerini alan (drop-in) değiştirici olarak kullanabilirsiniz.
Özellik Seti: Araçlar ve Akış
Tek modelli bir hizmet olmasına rağmen API modern LLM özelliklerini destekler. Akış, Sunucu Tarafı Olayları (SSE) aracılığıyla etkinleştirilir ve tokenları gerçek zamanlı almanızı sağlar. Bu, metin oluşturuldukça görüntüleyen kullanıcı arayüzleri için kritiktir. Bir akışın son parçası token kullanım istatistiklerini içerir, böylece uygulamanızda maliyetleri doğru bir şekilde takip edebilirsiniz.
Fonksiyon çağırma desteklenir; bu sayede model, araç kullanımı için yapılandırılmış JSON oluşturabilir. Güvenilir veri çıkarma için response_format: json_object kullanarak JSON modunu zorlayabilirsiniz. temperature, top_p, stop ve seed gibi parametreler, çıktı davranışını ince ayarlamak için mevcuttur. Bu özellikler API'yi yalnızca basit sohbet botları değil, ajansal iş akışları oluşturmak için de uygun kılar. Akış ve fonksiyon çağırma yeteneğinin aynı anda sağlanması, karmaşık uygulamalar için gereken esnekliği sunar.
Sınırlamalar: Tek Model Mimarisı
Temel sınırlama, yalnızca bir modele erişiminiz olmasıdır. Farklı mimariler arasında seçim yapamaz veya hız ile kalite arasında trade-off yapamazsınız. Bu belirli modelin performansı ihtiyaçlarınızı karşılamıyorsa, aynı API içinde başka bir varyanta geçemezsiniz. Bu, basitlik için bir trade-off'tur. Çok modellerli platformlar seçenek sunar ancak genellikle yönlendirme ve fiyatlandırmada karmaşıklık getirir.
Ayrıca API yalnızca metin içerir. Gömme (embedding), görüntü oluşturma, ses veya video yetenekleri yoktur. İnce ayar veya arama desteklemez. Uygulamanız çok modlu girdiler gerektiriyorsa, bu API'yi diğer hizmetlerle birleştirmeniz gerekecektir. Hizmet yalnızca geliştiriciler içindir; kullanıcı arayüzü sohbet arabirimi yoktur. Bu odaklanma, altyapının web UI performansından ziyade API istekleri için optimize edilmesini sağlar ve programatik kullanım için daha stabil bir uç nokta sonuçlanır.
Ödeme Mekanikleri: Yalnızca Kripto
Ödemeler yalnızca kripto para birimi ile kabul edilir. Hesabınızı USDT (TRC20) veya USDC (Base) kullanarak bakiye yükleyebilirsiniz. Minimum bakiye yükleme miktarı 10 $'dır ve işlem başına maksimum miktar 500 $'dır. Bir bonus sistemi vardır: 50 $ ve üzeri yüklemeler için %5 ekstra kredi, 100 $ ve üzeri yüklemeler için %10 ekstra kredi sağlanır. Bu bonus, ön ödemeli bakiyenize uygulanır.
curl https://api.unhinged.top/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
}'Kredi kartları, PayPal veya banka havalesi kabul edilmez. Bu, gizliliği tercih eden veya geleneksel banka ücretlerinden kaçınmak isteyen kullanıcıları çeker. Ön ödemeli kredi süresi dolmaz, bu yüzden bir kez yükleyip uzun bir süre boyunca kullanabilirsiniz. Yeni hesaplar 7 gün boyunca geçerli, kart gerektirmeyen $0.50 deneme kredisi alır. Bu düşük giriş bariyeri, geliştiricilerin daha büyük bir satın almaya geçmeden önce API'yi kapsamlı bir şekilde test etmesine olanak tanır. Kredi için iade yapılmaz, ancak çift ücretlendirme gibi hatalar destek aracılığıyla çözülür.
