Cacharreando con la Orange Pi 5 Plus (16): Prueba Inferencia LLM sobre NPU скачать в хорошем качестве

Cacharreando con la Orange Pi 5 Plus (16): Prueba Inferencia LLM sobre NPU

Hola amigos, aquí os dejo el test que realice con la prueba de inferencia de un LLM (Modelo extenso de lenguaje de IA) transformado a RKLLM y corriendo sobre la NPU (Unidad de Procesamiento Neuronal) de 6 TOPS que incorpora el SOC RK3588 de la Orange Pi 5 plus. Orange Pi 5 plus kit 4GB, 8GB, 16GB y 32 GB ==================================== https://s.click.aliexpress.com/e/_Dcz... Disco M.2 NVMe PCIe 3.0 ======================= https://s.click.aliexpress.com/e/_oB7... Convertidor de M.2 NVMe a USB (imprescindible para trabajar con NVMe M.2) =========================================================== https://s.click.aliexpress.com/e/_Dnd... Módulo WIFI6/BT5 ================ https://s.click.aliexpress.com/e/_DB2... Orange Pi 5 plus (accesorios) ============================= https://s.click.aliexpress.com/e/_Dk0... Disipador de calor Orange Pi 5 Plus =================================== https://s.click.aliexpress.com/e/_DCf... Micro JST-conector de Cables de enchufe hembra a hembra, paso 1,25 mm ============================================================ https://s.click.aliexpress.com/e/_DkQ... Ventilador de refrigeración de 5V, radiador de CPU de 30x30 mm ==================================================== https://s.click.aliexpress.com/e/_DC4... Si te gusta el contenido del canal me puedes seguir también en las siguientes redes sociales donde iré subiendo contenido adicional: https://aquihayapuntes.com https://odysee.com/$/invite/@biblioma...   / biblioman.aquihayapuntes     / biblioman09   https://www.pinterest.es/aquihayapunt... https://github.com/Biblioman09 Un saludo