Perplexity: Buluttan önce izin isteyen yerel bir bilgisayar yapay zekası.

Çoğu yapay zeka asistanı , sorularınızı, dosyalarınızı ve diğer verilerinizi üçüncü taraf sunuculara göndermenizi gerektirir. Ancak Perplexity'nin yeni Taşınabilir Bilgisayarı bu kavramı tamamen tersine çevirerek tüm yapay zeka sistemini kendi cihazlarınızda çalıştırıyor.

Taşınabilir Bilgisayar Salı günü duyuruldu ve Perplexity'nin akıllı Bilgisayar platformunu Nvidia DGX Spark ve uyumlu Nvidia grafik kartlarına sahip diğer Linux cihazlarına getirdi.

Şirket, her görevin cihazınızda başladığını belirtiyor. Yerel model daha gelişmiş bir mantık gerektiren bir adıma ulaştığında, Taşınabilir Bilgisayar, bu adımı buluttaki gelişmiş bir modele göndermeden önce izin istiyor. Yanıt daha sonra yerel iş akışına geri gönderilirken, dosyalar ve diğer hassas bilgiler cihazda kalabiliyor.

Bu durum, tüm işlemlerini otomatik olarak bir bulut hizmet sağlayıcısına devretmeden, kullanımı kolay bir yapay zeka ajanı isteyen herkes için cazip hale getirebilir.

Ancak bunun oldukça pahalı bir dezavantajı da var.

Yerel olarak yüklenmiş bir sohbet robotundan çok daha fazlası

Bilgisayarınıza açık kaynaklı şablonlar indirip çalıştırabilirsiniz zaten. Ancak işin zor kısmı, bu şablonlardan birini dosyalarla çalışabilen, araçlar kullanabilen ve çok adımlı bir görevi tamamlayabilen bir yapay zeka ajanına dönüştürmektir.

Bu genellikle bir çıkarım motoru bulmayı ve yapılandırmayı, ayrıca ajan altyapısını, bir sanal ortamı ve harici uygulamalara erişmek için gerekli tüm bağlantıları kurmayı içerir. Ayrıca tüm bu bileşenlerin birlikte çalışmasını sağlamaktan da sorumlusunuz.

Taşınabilir Bilgisayar, bu bileşenleri tek bir sistemde birleştirir. Yerel modeli, çıkarım motorunu, proxy araçlarını, uygulama bağlantılarını ve kod çalıştırabileceği ve araçları kullanabileceği izole bir ortamı (kum havuzu) içerir.

Yapay zeka, bilgisayarınızda depolanan dosyalarla çalışabilir, PDF'leri okuyabilir, kabuk komutlarını çalıştırabilir, dikte alabilir ve web'de arama yapabilir. Kullanıcılar ayrıca Google Drive, Gmail, Slack ve GitHub gibi hizmetleri de entegre edebilirler.

Perplexity'ye göre kod ve araçlar yerel bir sanal ortam içinde kullanılıyor. Bu, yapay zeka ajanı ile makinenin geri kalanı arasında bir ayrım sağlıyor, ancak tam olarak nelere erişebildiği ve bu izinlerin nasıl kontrol edildiği konusunda daha fazla ayrıntı isterdim.

Ne zaman yardım istemesi gerektiğini biliyor.

Hibrit yönlendirme, taşınabilir bilgisayarların belki de en ilgi çekici özelliğidir.

Daha küçük, yerel bir model, bir dosyayı bulmak, bir PDF'den bilgi çıkarmak veya bir dizi basit adımı gerçekleştirmek için yeterli olabilir. Bununla birlikte, OpenAI , Anthropic veya Google'ın daha büyük modellerinin çıkarım yetenekleriyle eşleşmesi daha az olasıdır .

Perplexity'nin çözümü, model güvenilir bir şekilde ele alamayacağı bir şeyle karşılaşana kadar görevi yerel olarak bırakmaktır. Ardından, taşınabilir bilgisayar bu adımı bulut tabanlı bir modele gönderebilir mi diye sorabilir.

Kullanıcıların gizlilik ayarı tanımlamasına veya kendi yönlendirme kurallarını oluşturmasına gerek yoktur. Sistem çalışırken kararı kendisi verir, ancak kullanıcının yine de devri onaylaması gerekir. Sözde yerel bir yapay zeka sistemi, görev zorlaştığında sessizce buluta geri dönerse çok daha az gizli hale gelir. Kişisel bilgilerinizi nasıl koruyacağınız hakkında daha fazla bilgi edinmek için ChatGPT, Gemini, Cloud ve Perplexity'nin gizlilik politikalarının karşılaştırmasına göz atabilirsiniz.

Perplexity ayrıca, yerel olarak tamamlanan çalışmaların fatura bakiyelerini tüketmeyeceğini belirtiyor. Bulut kullanımına yalnızca buluta gönderilen kısım dahil edilecektir.

Lansman sırasında kullanıcılar, 27 milyar parametreye sahip Qwen modeli veya daha sonra eğitilmiş, tescilli bir Perplexity sürümü olan PPLX 27B arasında seçim yapabilecekler. Bunu Nvidia'nın Nemotron 3.5 Lightning modelinin izlemesi bekleniyor. Kullanıcılar ayrıca kendi modellerini ve çıkarım sunucularını da getirebilecekler.

Engel, ekipmanda yatıyor.

Taşınabilir bilgisayar sizin bilgisayarınızda çalışabilir, ancak her bilgisayarda çalışmaz.

Yazılım öncelikle Linux üzerinde başlatılır ve en az 24 GB VRAM'e sahip Nvidia donanımı gerektirir. Masaüstü boyutundaki Nvidia DGX Spark'ın yanı sıra ARM veya x64 donanım üzerinde DGX OS veya Ubuntu çalıştıran uyumlu bilgisayarları da destekler.

Windows desteğinin Eylül ayında gelmesi planlanıyor. Perplexity henüz macOS desteğini duyurmadı.

Taşınabilir bilgisayarlar, Perplexity Pro, Max, Enterprise Pro ve Enterprise Max abonelerine sunulacaktır. Uyumlu bir aboneliğe sahip olsalar bile, çoğu kişinin masasının altında gerekli donanım bulunmayacaktır.

Bu durum, bu ilk sürümü , normal bir dizüstü bilgisayarda ChatGPT ve Perplexity arasında seçim yapmaya çalışan birine kıyasla, halihazırda yüksek performanslı Nvidia sistemlerine sahip yapay zeka meraklıları, geliştiriciler ve şirketler için daha uygun hale getiriyor .

Ancak, temel fikir çok daha geniş bir kitleye ulaşabilir. Yapay zekâ asistanları, e-postalar, iş belgeleri ve cihazlarımızda depolanan dosyalar da dahil olmak üzere giderek artan miktarda kişisel bilgiye erişim kazanıyor. Plus'ı yerel olarak çalıştırmak, kullanıcılara cihazlarından neyin ne zaman çıktığını kontrol etmenin başka bir yolunu sunuyor.

Taşınabilir Bilgisayar, çoğu insan için bulut tabanlı bir sohbet robotunun yerini almaya henüz hazır değil. Ancak, onu çalıştırmak için gereken donanım uygun fiyatlı hale geldiğinde daha kişiselleştirilmiş bir yapay zeka asistanının nasıl görünebileceğine dair bir fikir veriyor.