Vše o Androidu

Používání AI modelů online má své zásadní nevýhody K dispozici je ovšem alternativa – AI můžete mít přímo na svém počítači Lokální AI je ideální třeba pro ty, kteří chtějí kontrolu nad svými daty Valná většina lidí dnes používá AI přes internet pomocí některého poskytovatele. Nejpopulárnějším z nich je dnes asi OpenAI, které stojí ChatGPT. Jsou ale i spousty konkurentů, kteří OpenAI šlapou na paty. Jedno mají ovšem společné téměř všichni: zaznamenávají veškeré vaše dotazy a nutí vás platit nemalé částky, pokud se nespokojíte jen se základní, často velmi omezenou, funkcionalitou. Snadné řešení máte ale pravděpodobně na dosah. Co to vlastně je lokální AI? Za normálních okolností, pokud používáte AI pomocí prohlížeče přes webovou stránku, je AI spuštěné na serverech té firmy, které stránky navštěvujete. Používání potom funguje tak, že vy odešlete přes internet dotaz, který si firma zobrazí a předá AI, od kterého vám vzápětí pošle odpověď. Lokální AI znamená, že AI mod...

Instalace AI modelů na vlastním počítači je snadná Lokální AI modely fungují i offline Máme pro vás jednoduchý návod pro základní používání Na internetu je dostupné nepřeberné množství AI modelů, které je možné spustit a používat přímo na vašem počítači. Pro některé z nich ani nepotřebujete výkonný počítač. V tomto článku se mrkneme na to, co ke spuštění AI lokálně potřebujete a které řešení je pro začátečníky vhodné. Co budete potřebovat? Jednotlivé modely je možné rozdělit podle náročnosti. Zpravidla záleží především na tom, kolik miliard parametrů dokáže model používat pro vytváření predikcí, které používá pro generování odpovědi. Tento parametr se označuje písmenem B (z anglického billion). Standardní velikosti se pohybují především okolo 3B, 7B, 13B, 30B a 70B. Setkat se můžeme ale i s extrémně malými modely, které mají pouze 1B, nebo naopak s enormními modely, které mají několik set B. Které z těchto je tedy možné používat lokálně na vašem počítači? Rychlost z...