Co je On-Device AI a jak funguje?

Klíčové věci

• On-device AI označuje schopnosti umělé inteligence, které běží lokálně na zařízení bez připojení k internetu, poskytují soukromí a rychlejší zpracování.
• S umělou inteligencí na zařízení mohou chytré telefony provádět působivé úkoly, jako je rychlé generování obrázků, poskytování personalizovaných asistentů umělé inteligence a vylepšování herní grafiky a kvality zvuku.
• Společnosti jako Qualcomm integrují specializovaný hardware do svých zařízení, aby optimalizovaly umělou inteligenci na zařízení výkon, poskytuje pokročilé funkce, jako jsou inteligentní asistenti, překlady v reálném čase a automatizace úprava fotografie.

Od chatbotů po samořídící auta, umělá inteligence mění technologické prostředí. Jednou z oblastí, kde se přijetí AI rychle zrychluje, jsou spotřebitelská zařízení, jako jsou chytré telefony. Techničtí giganti se předhánějí v integraci schopností umělé inteligence na zařízení do svého nejnovějšího hardwaru a softwaru.

Ale co přesně je AI na zařízení a jak funguje?

Co je umělá inteligence na zařízení a jak funguje

Dnes je většina spotřebitelské umělé inteligence poháněna obrovskými datovými sadami uloženými v cloudu. Nicméně, nahrávání osobních údajů na servery AI není dobré pro soukromí. Zde přichází na řadu umělá inteligence v zařízení.

Umělá inteligence na zařízení označuje schopnosti umělé inteligence, které běží lokálně na zařízení, nikoli v cloudu. To znamená, že zpracování AI probíhá přímo na vašem telefonu, tabletu nebo jiných zařízeních bez připojení k internetu.

Tady je návod, jak to funguje pod kapotou: AI modely jako Stabilní difúze, DALLE-E, Midjourney, atd., jsou trénovány v cloudu s využitím velkého množství dat a výpočetního výkonu. Tyto modely jsou poté optimalizovány tak, aby efektivně fungovaly na cílových zařízeních. Optimalizované modely umělé inteligence jsou vloženy do aplikací a staženy do zařízení každého uživatele. Data aplikace zůstávají izolovaná v zabezpečené enklávě.

Když aplikace potřebuje provést úkol, jako je rozpoznání zvuku nebo identifikace objektu na fotografii, spustí model AI lokálně pomocí integrovaného CPU nebo GPU zařízení. Model umělé inteligence zpracovává vstupní data a generuje výstupní předpověď nebo výsledek bez externího odesílání jakýchkoli dat.

To vše se děje výhradně na vašem zařízení, takže vaše interakce zůstávají soukromé.

Jak vám může být prospěšná umělá inteligence na zařízení

Umělá inteligence na zařízení umožňuje na vašem zařízení působivé funkce. To zahrnuje rychlé generování obrázků pomocí modelů, jako je Stable Diffusion, kde lze obrázky vytvořit během několika sekund, což je bleskurychlé. To by mohlo být skvělé, pokud chcete rychle vytvářet obrázky a pozadí pro své příspěvky na sociálních sítích. A protože jsou zpracovávány lokálně, vaše výzvy k obrázkům zůstávají soukromé.

Asistent AI může být také napájen lokálně a poskytuje personalizované prostředí na základě vašich dat a preferencí, jako jsou oblíbené aktivity a úrovně zdatnosti. Dokáže porozumět přirozenému jazyku pro úkoly, jako je úprava fotografií a videa. Můžete například říci „odstranit osobu nalevo“ a okamžitě upravit obrázek.

Pro fotografování může umělá inteligence v zařízení aktivovat funkce, jako je rozšíření okrajů obrázků (podobně jako Funkce výplně Photoshopu), pomocí současných předních a zadních kamer pro video efekty a nezávisle na úpravách různých vrstev.

Herní grafika může také těžit z umělé inteligence na zařízení prostřednictvím zvýšení rozlišení až na 8K, zrychlení sledování paprsků pro realistické osvětlení a efektivního zdvojnásobení snímkové frekvence. Pokud jde o zvuk, umělá inteligence na zařízení může umožnit synchronizaci zvuku v reálném čase, takže váš zvuk z videí a her se nikdy nesynchronizuje. Umožňuje také křišťálově čisté hovory a hudbu, i když vejdete do jiné místnosti.

Celkově se umělá inteligence na zařízení shoduje s tím, co mnoho uživatelů požaduje – rychlé výsledky a soukromí – protože zachovává více zpracování na místním místě místo v cloudu.

Umělá inteligence na zařízení přináší rychlejší a soukromější AI

AI na zařízení je docela úhledná. Umožňuje našim telefonům a dalším gadgetům spouštět pokročilé algoritmy AI lokálně bez nutnosti připojení ke cloudu a bez zpoždění.

Společnosti jako Qualcomm již balí své nejnovější čipy se specializovaným hardwarem, aby na našich zařízeních efektivně provozovaly neuronové sítě. Například Snapdragon 8 Gen 3 od Qualcommu podporuje až 24 GB (na smartphonu!), má integrovanou podporu pro Stable Diffusion a Llama 2 a využívá Qualcomm's AI Stack k poskytování jedněch z nejlepších výkonů umělé inteligence na zařízení v současné době. čas.

S každou novou generací smartphonů tedy očekávejte ještě výkonnější funkce umělé inteligence na zařízení pro věci jako inteligentní asistenti, překlad v reálném čase, automatizovaná úprava fotografií a bleskurychlý generativní obraz AI generace.