Francouzský startup Mistral představil první generativní AI modely optimalizované pro zařízení jako mobily a laptopy. Řada Les Ministraux zahrnuje modely Ministral 3B a 8B, které podporují až 128 000 tokenů a nabízejí efektivní řešení pro soukromé, offline aplikace.
Model 8B je momentálně dostupný pro výzkum, zatímco komerční licence vyžaduje kontakt s firmou. Mistral tak reaguje na rostoucí zájem o menší, výkonné modely pro okrajová zařízení, kde má konkurovat zavedeným hráčům jako Meta a Google. Cena za použití modelů se pohybuje od 4 do 10 centů za milion tokenů.
Nebude trvat dlouho a dočkáme se prvních smysluplných aplikací postavených na AI modelech běžících v mobilu.