Kayfg LLM-modul (Large Language Model) (AX630C) Edge AI-utvecklingskort anpassat för offline-modelldrift

Integrerad i StackFlow-ramverket och biblioteken för /UiFlow kan smarta funktioner enkelt implementeras med bara några få kodrader. Utrustad med den avancerade AX630C SoC-processorn integrerar den en högeffektiv 3,2 TOPs NPU med inbyggt stöd för Transformer-modeller, vilket enkelt hanterar komplexa AI-uppgifter. Modulen erbjuder flexibel expansion: det inbyggda SD-kortfacket stöder kall/varma firmwareuppgraderingar, och UART-kommunikationsgränssnittet förenklar anslutning och felsökning, vilket garanterar kontinuerlig optimering och utbyggnad av modulens funktioner. Utrustad med 4 GB LPDDR4-minne och 32 GB eMMC-lagring stöder den parallellladdning och sekventiell inferens av flera modeller, vilket säkerställer smidig multitasking. Den har en inbyggd mikrofon, högtalare, TF-lagringskort, USB OTG-port och RGB-statuslampor, som uppfyller olika applikationsbehov med stöd för röstinteraktion och överföring av data. LLM-modulen är en integrerad offline Extended Language Model Inference Module (LLM) utformad för terminaler som kräver effektiv och intelligent interaktion. Oavsett om det gäller smarta hem, röstassistenter eller industriell kontroll, erbjuder LLM-modulen en smidig AI-upplevelse utan molnberoende, vilket garanterar integritet och stabilitet. USB-porten stöder automatisk master-slave-växling, fungerar både som en felsökningsport och möjliggör anslutning till ytterligare USB-enheter som kameror. Anslut och med M5-värdar erbjuder LLM-modulen en lättanvänd AI-interaktionsupplevelse.

Kayfg

Diverse