Vše o Androidu

Instalace AI modelů na vlastním počítači je snadná Lokální AI modely fungují i offline Máme pro vás jednoduchý návod pro základní používání Na internetu je dostupné nepřeberné množství AI modelů, které je možné spustit a používat přímo na vašem počítači. Pro některé z nich ani nepotřebujete výkonný počítač. V tomto článku se mrkneme na to, co ke spuštění AI lokálně potřebujete a které řešení je pro začátečníky vhodné. Co budete potřebovat? Jednotlivé modely je možné rozdělit podle náročnosti. Zpravidla záleží především na tom, kolik miliard parametrů dokáže model používat pro vytváření predikcí, které používá pro generování odpovědi. Tento parametr se označuje písmenem B (z anglického billion). Standardní velikosti se pohybují především okolo 3B, 7B, 13B, 30B a 70B. Setkat se můžeme ale i s extrémně malými modely, které mají pouze 1B, nebo naopak s enormními modely, které mají několik set B. Které z těchto je tedy možné používat lokálně na vašem počítači? Rychlost z...